本地部署生成式AI,选显卡or笔记本电脑?!新款酷睿Ultra举票

2023-12-27 12:34:56

来源 | 算力豹

200亿个大模型参数无压力,新一代酷睿Ultra凭什么?

12月14日报道,在大模型军备竞赛如火如荼的今天,真正让AI铺开惠民,那么移动端、PC将成为首选,AI PC或成标配。英特尔今日奉上AI硬件大招,正式推出AI PC处理器代号Meteor Lake的酷睿Ultra处理器。

01

本地部署生成式AI,

买显卡还是买笔记本电脑?

最近AI PC的概念炒得很火,PC产业能否乘着生成式AI的技术浪潮而迎来新一轮的发展呢?

这在很大程度上取决于人们在本地电脑上运行生成式AI模型的需求

在本地电脑上运行生成式AI应用,在隐私安全管理、自定义程度、网络状况依赖和成本可控方面都有优势。

英特尔酷睿Ultra处理器改变了个人电脑仅依靠CPU就运行大语言模型的现状,是产业技术生态的一次大的变化。

在发布会上,英特尔发言人宣称英特尔酷睿Ultra处理器甚至可以运行200亿参数的大语言模型,而在此前,这种规模参数的模型都需要大容量显存的独立显卡才能完成。

考虑到实际体验,需要模型能快速完成推理。

从介绍中了解到,英特尔酷睿Ultra处理器可以在1秒内生成512x512分辨率的图片,在6秒内生成1024x1024分辨率的图片,速度甚至超过依靠中端GPU来运行Stable Diffusion模型的性能表现。

对于用户来说,此前不得不购买一块中高端,有大容量的独立显卡才能在本地运行相关模型,而现在,这些用户可以在台式机上购置中高端显卡,与买一台带有英特尔酷睿Ultra处理器的笔记本电脑之间做出选择。

02

核显性能翻倍 智能分配工作负载

全力支持智能混合算力

给人们的工作、学习和生活带来全新的价值体验的个人大模型,应该是可以用自然语言交互、具备智能混合算力、开放生态的私人个性化模型,这种大模型无疑需要质量极优的智能混合算力

为满足AI PC市场对算力的要求,据英特尔描述,首批酷睿Ultra系列处理器包括U和H两个系列,基础功耗分别为15W和28W,其中:

  • U系列为2+8+2核心规格,最高4Xe核显
  • H系列最高6+8+2核心规格,最高8Xe核显

明年第一季度,英特尔还将发布基础功耗45W的Ultra9旗舰型号,6+8+2核心规格,8Xe核显。

此次发布会上,英特尔相关人员补充描述到:“酷睿Ultra是英特尔处理器家族中目前能效比最好的产品,这得益于我们对混合架构的全新设计。”

据英特尔中国区技术部总经理高宇描述,英特尔为酷睿Ultra创新设计了P核(Performance-core,性能核)与E核(Efficient-core,能效核),还在SoC模块中集成了两个超低功耗E核

因此,酷睿Ultra整个系统有三种不同的核心。为此,英特尔重新设计了线程调度器,这意味着硬件线程调度器会优先考虑和管理工作负载分配,将任务发送到内核。英特尔相关人员描述其设计目标是“让正确的任务在正确的时间,运行在正确的核心上”。

03

Intel 4制程工艺打造最强能效比
内置NPU实现AI加速与本地推理

早在今年9月,英特尔CEO基辛格(Pat Gelsinger)便表示,酷睿Ultra是首款基于Intel 4制程工艺打造的处理器,代表英特尔40年来最重大的架构变革,并将成为英特尔最具能效比的客户端处理器。

英特尔中国区技术部总经理高宇谈道,Intel 4是英特尔计划实现“四年内5次半导体技术迭代”计划中的重要一环,这是该公司的首个EUV(极紫外光刻机)支持的工艺,有望显著简化工艺。

可实现AI加速与本地推理的内置NPU是酷睿Ultra处理器除了核显之外的另一秘密武器。据英特尔描述,酷睿Ultra处理器采用了英特尔首个用于客户端的片上AI加速器NPU(神经网络处理单元),将高能效AI加速提升到了新的高度,带来2.5倍于上一代产品的能效表现。据介绍,全新英特尔酷睿Ultra胜任多达200亿参数大语言模型。

让我们来看看,在产品形态上英特尔酷睿Ultra表现如何?

据英特尔数据,与AMD锐龙7 7840U等竞品相比,酷睿Ultra系列处理器中率先上市的旗舰型号Ultra 7 165H单线程性能超竞品12%多线程性能超竞品11%。核显方面,酷睿Ultra7 165H所搭载的8Xe核显性能是上代的两倍,在超薄本的相同28W功耗范围内,Ultra 7 165H功耗比AMD锐龙7 7840U降低了79%

结语

拥抱人人AI的终端新格局

AI PC需要软硬件基石

明年,据英特尔描述,酷睿Ultra处理器将在为全球笔记本电脑和联想、华硕等PC制造商的230多款机型带来AI特性。在软件方面,英特尔提到他们正与100多家软件厂商紧密合作,为市场带来数百款AI增强型应用。

更广泛的AI增强型应用将能够在英特尔酷睿Ultra平台上流畅运行,对于消费者和商用客户来说,尤其针对一些剪视频和编程场景能够提升生产创作效率。此次发布会上,“影视飓风”等内容创作者便分享了使用英特尔的AI增强型应用的感受,这些具有创造力、生产力和趣味性的AI应用大幅提升了PC创作的体验。

文章来源:https://blog.csdn.net/sinat_32970179/article/details/135240513
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。