【世界速看料】让AI无处不在!Intel祭出全新VPU:超高能效碾压GPU
AI,人工智能,这个东西其实一旦都不新鲜。
从早些年的科幻作品,到后来的逐步落地,从1997年IBM超级电脑深蓝”击败国际象棋大师卡斯帕罗夫,到2016年Google AlphaGo战胜围棋冠军李世石,AI一直都在进步,也一直在演化。
但因为算力算法、技术能力、应用场景等方面的种种限制,AI一直有些空中楼阁的感觉。
(资料图片)
直到出现了ChatGPT,AI才真正引燃了普通人的热情,让我们发现,AI竟然如此强大,又如此唾手可得,让众多个体、企业为之兴奋,为之癫狂。
众所周知,足够强大与合理的硬件、算法,是实现高效、实用AI的两大基石,而在这一番AI热潮中,NVIDIA之所以春风得意,就得益于其在高性能计算领域多年来的布局和深耕,非常适合超大规模的云端AI开发。
当然,AI无论实现方式还是应用场景都是多种多样的,既有云侧的,也有端侧的。
NVIDIA的重点在云侧和生成式AI,Intel在云侧生成式、端侧判定式同时出击,而随着越来越多的AI跑在端侧,更贴近普通用户日常体验,所带来的提升越来越明显,Intel更是大有可为。
端侧AI有几个突出的特点:
一是用户规模庞大,应用场景也越来越广泛;
二是延迟很低,毕竟不需要依赖网络将指令、数据传到云侧处理再返回;
三是隐私安全,不用担心个人信息、商业机密等上传后泄露;
四是成本更低,不需要大规模服务器和计算,只需本地设备即可完成。
端侧AI,说起来大家可能会感觉很陌生,但其实,人们习以为常的背景模糊、视觉美颜、声音美化(音频降噪)、视频降噪、图像分割等等,都是端侧AI的典型应用场景,背后都是AI在努力。
这些应用要想获得更好的效果,就需要更完善、复杂的网络模型,对于算力的需求自然也在快速增长。
比如噪音抑制,算力需求已经是两年前的50倍,背景分割也增长了10倍以上。
更不要说生成式AI模型出现后,对算力的渴求更是飞跃式的,直接就是数量级的提升,无论是Stable Diffusion,还是语言类GTP,模型参数都是非常夸张的。
比如GPT3的参数量达到了1750亿左右,相比GPT2增加了几乎500倍,GPT4估计可达到万亿级别。
这些都对硬件、算法提出了更苛刻的要求。
Intel自然也早就开始关注并投入AI,无论是服务器级的至强,还是消费级的酷睿,都在以各种方式参与AI,XX代智能酷睿处理器”的说法就在很大程度上源于AI。
在此之前,Intel AI方案主要是在CPU、GPU的架构、指令集层面进行加速。
比如从十代酷睿和二代可扩展至强加入的基于深度学习的DL Boost,包括VNNI向量神经网络指令、BF16/INT8加速等等。
比如11代酷睿加入的高斯网络加速器GNA 2.0,相当于NPU的角色,只需消耗很低的资源,就能高效进行神经推理计算。
比如代号Sapphire Rapids的四代可扩展至强上的AMX高级矩阵扩展,使得AI实时推理和训练性能提升了多达10倍,大型语言模型处理速度提升了足有20倍,同时配套的软件和工具开发也更加完善丰富。
在Intel看来,没有单一的硬件架构适用于所有的AI场景,不同硬件各有特点,有的算力强大,有的延迟超低,有的全能,有的专攻。
AI作为基础设施也有各种各样的场景应用和需求,负载、延迟都各不相同,比如实时语音和图像处理不需要太强的算力,但是对延迟很敏感。
这时候,Intel XPU战略就有着相当针对性的特殊优势,其中CPU适合对延迟敏感的轻量级AI处理,GPU适合重负载、高并行的AI应用。
Intel另一个无可比拟的优势就是稳固、庞大的x86生态,无论应用还是开发,都有着广泛的群众基础。
现在,Intel又有了VPU。
将在今年晚些时候发布的Meteor Lake,会首次集成独立的VPU单元,而且是所有型号标配,可以更高效地执行特定AI运算。
Intel VPU单元的技术源头来自Intel 2017年收购的AI初创企业Movidius,其设计的VPU架构是革命性的,只需要1.5W功耗就能实现4TOPS的强大算力,能效比简直逆天,最早用于无人机避障等,如今又走入了处理器之中,与CPU、GPU协同发力。
VPU本质上是专为AI设计的一套新架构,可以高效地执行一些矩阵运算,尤为擅长稀疏化处理,其超低的功耗、超高的能效非常适合一些需要长期打开并执行的场景,比如视频会议的背景虚化、移除,比如流媒体的手势控制。
之所以在已经有了CPU、GPU的情况下,还要做一个VPU,Intel的出发点是如今很多端侧应用是在笔记本上进行,对于电池续航非常敏感,高能效的VPU用在移动端就恰如其分。
另一个因素是CPU、GPU作为通用计算平台,本身就任务繁重,再给它们增加大量AI负载,执行效率就会大打折扣。
具体到应用场景,VPU也是非常广泛的,比如说视频会议,现在的CPU AI已经可以实现自动构图(Auto-Framing)、眼球跟踪、虚拟头像/人像、姿势识别等等。
加入低功耗、高算力的VPU之后,还可以强化背景模糊、动态降噪等处理,让效果更加精准,比如说背景中的物体该模糊的一律模糊、人手/头发等不该模糊的不再模糊。
有了高效的硬件、合适的场景,还需要同样高效的软件,才能释放全部实力、实现最佳效果,这对于拥有上万名软件研发人员的Intel来说,真不是事儿。
Meteor Lake还没有正式发布,Intel已经与众多生态伙伴在VPU方面展开了合作适配,独立软件开发商们也非常积极。
比如Adobe,很多滤镜、自动化处理、智能化抠图等,都可以用VPU来跑。
比如Unreal Engine虚幻引擎的数字人,比如虚拟主播,VPU都能很好地实时捕捉、渲染处理。
Blender、Audacity、OBS、GIMP这个名单可以拉出很长一串,而且还在不断增加。
更重要的是,CPU、GPU、VPU并非各行其是,而是可以联合起来,充分发挥各自的优势,达到最好的AI体验效果。
比如说基于GIMP里就有一个基于Stable Diffusion的插件,可以大大降低普通用户使用生成式AI的门槛,它就能充分调动CPU、GPU、VPU各自的加速能力,把整个模型分散到不同IP之上,彼此配合,获得最好性能。
其中,VPU可以承载VNET模块运行,GPU用来负责编码器模块执行,通过这样的合作,生成一张复杂的图片也只需20秒左右。
在这其中,VPU的功耗是最低的,CPU次之,GPU则是最高的。
Intel已经充分意识到AI对于PC体验增强的重要性,而为了迎接这一挑战,Intel正在硬件、软件两个层面全力推进,对AI在的端侧的发展、普及打下坚实的基础。
硬件层面,CPU、GPU、VPU将组成无处不在的底层平台;软件层面,OpenVINO等各种标准化开发软件将大大推动应用场景的挖掘。
未来,搭载Meteor Lake平台的轻薄笔记本就可以轻松运行Stable Diffusion这种大模型来实现文生图,大大降低AI的应用门槛,无论判定式AI还是生成式AI都能高效执行,最终实现真正的AI无处不在。
标签:
推荐
-
天天速读:Russia to extend voluntary oil production cut until end of 2024
MOSCOW,June5(Xinhua)--Russiawillextenditsvoluntaryoilproductioncuto
来源: -
-
-
-
-
-
-
-
-
天天速读:Russia to extend voluntary oil production cut until end of 2024
MOSCOW,June5(Xinhua)--Russiawillextenditsvoluntaryoilproductioncuto
来源: -
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
财富更多》
-
水电行业鱼类增殖放流联合行动正式启动
水电行业鱼类增殖放流联合行动正式启动-...
-
河南南阳:为“三夏”生产架起畅通路_天天观察
河南南阳:为“三夏”生产架起畅通路---...
-
天天观速讯丨宁夏首届黄河流域定向越野赛鸣笛开赛
宁夏首届黄河流域定向越野赛鸣笛开赛---...
-
新疆和田:劳动密集型产业托举“稳稳的幸福” 当前热闻
新疆和田:劳动密集型产业托举“稳稳的...
-
当前短讯!全国首创桥闸一体跨海大桥建成通车
全国首创桥闸一体跨海大桥建成通车---近...
动态更多》
热点
- realme10系列正式宣布 采用双曲面屏正面顶部居中挖孔
- 五菱全新微型电动车内饰官图发布 座椅采用星际形打孔工艺
- 努比亚Z40星空典藏版正式开售 采用微米级油画笔触纹理技术
- iQOO11系列正式官宣 首批搭载骁龙8Gen2机型之一
- 海信34英寸带鱼屏显示器发布 支持165Hz刷新率
- OPPO明年将商用240W超级闪充 新一代电芯支持更高倍率充电
- 第一款Android手机渲染图曝光 横向滑盖设计和全尺寸键盘
- 吉利首款纯电皮卡11月9日上市 车辆续航里程超过610公里
- 努比亚Z40SPro星空典藏版正式公布 堪称窄边框天花板
- vivo无线运动耳机2今日正式上市 首销只要119元
- 鬼舞步大神_鬼步舞快闪_全球聚看点
- 快看:洛阳唐三彩艺术博物馆_洛阳唐三彩陶艺博物馆
- 霍普股份:与控股子公司共同投资设立光储新能源子公司
- 热闹的U设计周背后,是产业创新的纽带
- 维珍航空首席执行官预计今年营收将创新高
- “2023年世界环境日水电行业鱼类增殖放流联合行动”正式启动
- 四川:近5年减免环境保护税超26亿元|每日信息
- 清华台村长者食堂开业啦! 环球快资讯
- 万胜智能:预中标国家电网和南方电网项目
- 水下生活100天,他认为这样可能延长寿命
- 地方政府债务风险几何?财政部给出最新回应
- 乡村振兴丨庭院经济为生活“锦上添花”
- 绘就岱青海蓝美丽新山东正向人与自然和谐共生的现代化迈进
- 环球即时看!首届国际香菇产业创新博览会将于6月9日在淄博召开
- 2023天津滨海新区高校毕业生专场招聘会 世界滚动
- 高青县综合行政执法局开展“文化安全一堂课”进校园活动|每日观察
- 重庆大轰炸幸存者:日本政府不谢罪赔偿 心中伤痛永远无法抹掉
- 乘联会:预估5月新能源乘用车厂商批发销量67万辆,环比增长11%
- 精选!晋江8个考点实行交通管制
- 【实操】电源纹波测试 快资讯
- 2D横版美少女动作新游《海亚世界》上线Steam页面
- 当前速讯:下个月推出对标ChatGPT产品?华为高管独家辟谣:假的
- 天津:十项举措护航高考考生 保障高考安全公平 世界新动态
- 内蒙古签发首份出口菲律宾RCEP原产地证书-天天快消息
- 天天热推荐:B站和UP主们,等待陈睿解决三大难题
- 安科生物:获得第一类医疗器械备案凭证
- 【机构龙虎榜解读】6G+PCB+机器人,已有6G通
- 阵前调兵遣将,小米汽车艰难冲刺|环球实时
- 房地产开发板块跌0.02% 金科股份涨6.59%居首
- 全球滚动:王慧文光年之外融资16亿消息不实
- 以政策精准化服务扩内需
- 全球头条:从3天到30秒!跨境电商零售进口税款实现电子支付
- Spotify在其播客部门裁员200人
- 唯品会329机房宕机事件公告:相关负责人被免职
- 世界环境日:为环境“减压” 实现和谐共生|全球快看
- 快消息!沁阳发电三年改革,如何实现“极限扭亏”?
- 世界今亮点!全力备战 确保颗粒归仓
- 时讯:《暗黑破坏神4》游侠技能装备搭配心得 游侠初期技能怎么搭配
- 《塞尔达传说王国之泪》以肉还肉挑战怎么过
- 2023山东省“聆听光影”无障碍观影活动在淄博启动
- 前抖音产品负责人Seven加入AI公司「深言科技」 | 智涌独家
- 即时:俄罗斯波罗的海舰队开始作战演习
- 山东省“数字科普大篷车沿黄行”活动走进高青
- B站和UP主们,等待陈睿解决三大难题 全球微资讯
- 环球热头条丨2023山东省“聆听光影”无障碍观影活动在淄博启动
- 吉利诉跳槽威马员工追讨专利被驳回|当前热点
- 今日视点:科学调配 确保高考期间安全平稳供水
- 全球播报:世界环境日:为环境“减压” 实现和谐共生
- 什么逻辑?神15成功返回,美国专家:欧空局退出是中国航天的挫折|每日讯息
- 全力备战 确保颗粒归仓_环球快报
- 端午机票价格比“五一”有所下降,旅客出行成本相对减少_世界热点评
- 协鑫能科涨10.02% 机构净买入6459万元 每日速递
- 日均不到10单,多地对网约车按下“暂停键”
- 世界动态:海外New Things | 利用AI简化客户支持部门工作流程,「8Flow.ai」完成660万美元种子轮融资
- 有陪宠物办公地点人去楼空
- 看热讯:华为:不会有盘古Chat此类命名
- 618淘宝好价节正式上线-全球新动态
- 往返含税1499元!“2023山东·青岛澳门周”期间澳门航空推出多重优惠_全球热点评
- 盒马成立可持续发展部
- 山东:全力备战“三夏” 确保6000多万亩小麦颗粒归仓
- 守护食品安全 护航学子高考
- 芝能热点|挪威5月汽车销量飙升:电动车渗透率近90%
- 焦点要闻:买雅阁从此又多了个理由?
- 腾讯:耗资约1.16亿港元回购34.89万股|全球热讯
- 精彩看点:新人举行集体婚礼 携手开启幸福生活
- 博山区博山镇:推动“五个一” 培育文明树新风
- 环球快资讯:台式电脑连接不上网络是怎么回事_台式电脑连接不上网络
- 【全球独家】山东赫达:“工业味精”用途多 随手都是淄博造
- 胡桃木色地板搭配什么颜色最佳_胡桃木色板
- 120公斤毒品无害化销毁|每日精选 每日消息
- 环球今亮点!夏收正当时,智慧农机助力好“丰”景
- 高考倒计时2天 6个贴心提示助你轻松备考_聚焦
- 朝阳这个集群营收突破1600亿 重量级科研楼再落子
- 天天快播:5月份久期投资旗下久期宏观多策略基金下跌16.15%
- 半导体板块涨0.21% 本川智能涨20%居首
- 证券板块跌0.56% 红塔证券涨1.26%居首
- 5月份林园投资7号净值下跌11.74%-世界百事通
- 环球速看:右脑科技RightBrain AI完成连续两轮数千万融资
- 万家基金高源:关注行业周期 看好大消费板块投资价值
- 唐老鸭的女朋友叫什么名字_唐老鸭的女朋友叫什么
- 世界速读:Capillary获得4500万美元战略投资
- Xmind思维导图收购AI产品ChatMind系列软件
- 唐嫣诉丝绸公司侵权 丝绸公司被唐嫣起诉侵权
- HJT/叠层一周最新动态6.2 每日快讯
- 天天热推荐:守护食品安全 护航学子高考
- 【天天新视野】报告:25城二手房中介费率为2.2% 七成费用由买家支付
- 使用c#实现23种常见的设计模式|全球新消息
- 涨停雷达:半导体照明个股异动 勤上股份触及涨停
- 周生生铂金多少钱一克(2023年06月05日)参考价格
- 畅通武鄂黄黄都市圈大动脉 “黄鄂黄”物流结链成网 全球要闻
- 上海老庙铂金多少钱一克(2023年06月05日)参考价格
- 全球报道:收评:指数走势分化创指跌1.39% 景点及旅游涨幅居前
- 那些不赚钱的小店,都是怎么活下去的?
- 环球播报:中经资料:巴基斯坦证券市场一周回顾(2023.5.29-6.2)
- 当前视点!两部门:开展“春雨润苗”专项行动 助力小微经营主体发展
- 全球最资讯丨快手电商618大促前三天订单量同比增长超70%
- 全国“三夏”大规模小麦机收全面展开|每日焦点
- 环球速看:暴雪诉网易侵权案将再次开庭
- 专家:我国胃癌诊疗水平稳步提升
- 财政部相关负责人:整体来看我国财政状况健康、安全,为应对风险挑战留出足够空间
- 世界速递!鑫华半导体完成10亿元B轮融资
- 游久电竞因劳动纠纷被限消_环球快看
- “21世纪贸易倡议”首批协议签署 台湾劳动党指民进党“开门揖盗”
- 北通阿修罗2刷机(北通阿修罗2pro恢复出厂设置)
- 浙海德曼:目前在手订单大概比去年同期增长10%左右
- 5月份中信理财博赢私享价值龙头股指2号下跌6.58% 要闻速递
- 半藏森林克隆人暂下线 此前小冰公司推出“GPT克隆人计划”|环球热门
- 用数字化技术保护苍山洱海,「智慧林草」让大理首次实现防火期零火灾的阶段性突破|最前线|今日热文
- 5月份东亚联丰中国凤凰基金下跌9.94%
- 今日精选:携程集团涨近4% 公司获纳入恒生指数成份股
- 环球关注:福建金森6月5日快速回调
- 数字技术发力 苍山洱海生态保护筑起“智能屏障” 观察
- 世界最资讯丨聚焦新形势新要求 多方共话互联网发展新篇章
- Jolt获得600万欧元A轮融资 焦点快播
- 中欣氟材:3万吨电子级氢氟酸项目预计7月完成设备安装并调试_每日焦点
- 红旗新能源最新宠粉,E001首批盲订车主踏上“溯源之旅”
- DHL快递“减碳”行动取得积极成效
- 世界热资讯!富士康旗下公司经营异常 富士康精密组件深圳公司经营异常
- 王兴实控优付科技公司注销 厦门优付科技公司注销_天天报道
- 拒绝蹭热度 请“麦田里的捣乱者”离开
- 电脑文件夹怎么加密?电脑文件夹删除不了怎么办?
- 热点聚焦:征信出问题急需用钱怎么办?分享六个靠谱的方案
- win7如何彻底清理c盘?win7屏幕休眠时间怎么调?
- 电脑网页打不开怎么回事?电脑网页怎么清理缓存?
- 电脑蓝屏按什么键恢复?电脑蓝屏的时候怎么重启?