-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
海尔AWE发布新成果,全面展示场景方案和全球布局
【网易科技4月26日报道】以“数智共生万象更新”为主题的海尔智家2023生态大会在上海世博中心银厅正式启幕。会上,海尔智家对外展示了完整的品牌布局、全面的场景方案,以及科技创新和最全球化布局成果...
智能设备 2023-04-27 14:55:39 -
Akamai发布AkamaiConnectedCloud和全新云计算服务
2月14日消息,云服务提供商Akama发布AkamaiConnectedCloud,新品为涵盖云计算、安全防护和内容交付的大规模分布式边缘和云平台,可使应用程序和体验更靠近用户,帮助用户远离威胁。同时,全新云计算服务和架构将在亚太地区及日本(APJ)推出,支持开发人员在更靠近企业和用户网络接入点的位置构建、运行和保护高性能工作负载...
智能设备 2023-02-14 19:02:37 -
苹果官换机和全新iPhone质量一样,为什么它的售价要便宜2000多元
质量相同的iPhone手机,全新iPhone要6000、7000元,而官换iPhone只要4000、5000元。面对2000多元的差价,你会不会心动呢?如果你真的购买官换机,那么就吃大亏了...
手机互联 2022-12-27 09:00:53 -
高通徐晧:Rel-18开启5GAdvanced演进,催生更多终端和全新用例
6月6日,在5G发牌三周年之际,中国移动携手行业伙伴举办了“5G-Advanced双链融合产业创新成果发布会”。会上,高通公司中国区研发负责人徐晧发表了主题为“推动5GAdvanced技术演进”的演讲,分享了5GAdvanced的技术发展趋势,Rel-18和5GAdvanced的重要研究方向,以及高通携手合作伙伴持续推动5GAdvanced演进所做的工作...
电信通讯 2022-06-07 10:36:48 -
摩托罗拉MotoG82:中高配机型首张照片和全部规格公布
随着摩托罗拉继续充实其大大扩展的产品组合,我们可以期待另一个没有先前迭代的新机型的到来,即Moto G82 5G,新款不久将进入零售市场。尽管在Moto G阵容中,已经有几款高于和低于它的设备,但还没有一款类似于G70/G71或G100/G200的Moto G8x...
手机互联 2022-05-03 09:23:28 -
中国IP力之四中国力量:围绕5G专利费的博弈和全球专利战
引言:随着5G普及,5G专利许可费率及许可条件的博弈在全球范围内铺陈开来。不同于3G、4G时代的跟随者地位,这一次,从华为宣布5G许可费率,到OPPO以自研5G基站专利在中国和德国反诉诺基亚,中国力量凸显...
电信通讯 2022-01-13 15:29:31 -
SpaceX星链网络发生宕机美国18个州和全球用户受影响
8月26日消息,据外媒报道,当地时间周三,美国太空探索技术公司SpaceX的“星链”(Starlink)卫星互联网服务在美国18个州和全球多个地区发生宕机事故。该服务断网的报告首先出现在推特等社交媒体平台上,许多早期用户也给予了证实...
业界动态 2021-08-26 12:58:41 -
刘作虎:一加NordN200支持5G通信和全高清90Hz屏幕
【环球网科技综合报道】据外媒6月7日报道,中国智能手机制造商一加科技首席执行官刘作虎在接受媒体采访时透露:“一加Nord N200将是公司迄今为止最实惠的5G手机,在美国的售价不超过250美元。”刘作虎表示,作为一加Nord N100手机的后继版本,一加Nord N200 5G手机将在处理器、屏幕、摄像头及电池等配置上有所提升,但他并未详细说明具体的配置信息...
手机互联 2021-06-08 10:57:59 -
iOS14和全新的头戴式AirPods了解一下
[AdminSo资讯]还有几天就要进入3月,苹果春季发布会即将举行。 按照苹果的传统,春季发布会会在周二发布,从目前的爆料看来,这个日期很有可能是3月31日...
ios苹果之家 2020-04-16 09:48:06 -
惠普首款15英寸Chromebook发布:IPS触摸屏和全尺寸键盘
站搜网4月19日消息 继宏碁、联想和华硕进入15英寸Chromebook市场之后,昨日,惠普也发布了一款搭载Chrome操作系统的15.6英寸Chromebook,并配有全尺寸键盘和IPS触摸屏。其发售价为449美元(折合人民币约3011元)...
业界动态 2019-04-19 15:35:07 -
易读|阿里和全球最大奢侈品电商YNAP成立合资公司
10月26日消息,阿里巴巴集团宣布,与历峰集团旗下奢侈品电商Yoox Net-A-Porter(简称YNAP)成立合资公司。合资公司将通过Net-A-Porter和Mr Porter分别为中国市场的女性和男性消费者服务...
互联网 2018-10-26 15:04:08