-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
【钛晨报】京东集团2022年四季度及全年业绩报告出炉;“ChatGPT之父”SamAltman已秘密向抗衰老技术公司注资1.8亿美元;银保监会部署开展...
图片来源:视觉中国【钛媒体综合】3月9日消息,京东集团发布发布了2022年四季度及全年业绩,第四季度净营收2,954亿元人民币,同比增加7.1%,预估2,955.1亿元人民币;第四季度调整后每ADS收益4.81元人民币,预估3.54元人民币;调整后息税折旧及摊销前利润89.0亿元人民币,预估80.6亿元人民币。第四季度调整后运营利润率2.5%,预估2.22%...
智能设备 2023-03-10 09:57:29 -
再次延期!Mt.Gox赔付延长至4月6日,14万枚比特币能顺利回归市场吗?
本报(chinatimes.net.cn)记者卢梦雪冉学东北京报道耗时九年,即将“剧终”的Mt.Gox(下称“门头沟”)交易所被盗事件再生变。3月9日,门头沟交易所官网更新公告,将债权人信息登记截止的日期从2023年3月10日(日本时间)更改为2023年4月6日(日本时间),这意味着债权人在3月获得首批赔付款的希望再次落空...
区块链 2023-03-09 22:09:23 -
《LastMonarch:Prologue》Steam页面上线
今日(1月11日),Roguelite动作射击游戏《LastMonarch:Prologue》Steam页面上线,游戏支持简繁体中文。游戏介绍:LastMonarch:Prologue是一款Roguelite动作射击游戏,您将扮演末代魔王来延续魔族的生存,您将亲自出城踏上战场寻找求生之路...
游戏资讯 2023-01-11 13:01:31 -
QuestMobile:Keep跑步用户规模占比50%,居行业第一
近日,数据机构QuestMobile发布《2022中国跑步运动行业大报告》。报告显示,中国跑步人群占比运动健身行业总用户规模的26%,核心跑者来自发达城市中青年白领,跑步主要目的是强身健体、放松减压,社交分享和内容需求正在成为跑步行业发展新趋势...
互联网 2022-11-29 14:31:44 -
数字货币交易所Bitmex已裁员30%
财联社11月2日电,加密交易所Bitmex已经裁掉30%的员工,这是该交易所从“超越衍生品”战略转向的一部分,该战略包括推进现货交易、经纪和托管服务。此次裁员发生在该公司首席执行官AlexanderHöptner离职一周后...
区块链 2022-11-02 06:19:34 -
网站优化seo汇总XHTML标签对搜索引擎的权重
一个网站如果得不到搜索引擎的青睐,就算页面再漂亮、功能再好也不会有太好的效果。因为没人知道啊(做其他推广的除外)...
推广优化 2022-09-24 13:14:52 -
Html标签对提升SEO优化有什么作用?
Html标签的优化其实是在优化领域中属于基础性的问题,但是正是如此很多优化工作者并没有对此加以关注,导致了自己在网站优化时,导致优化的效果不够明显。其实通过合理的构建Html标签能够让百度蜘蛛迅速获得有关信息,并加以采集,能够极大的提升百度蜘蛛的采集效率,同时也有助于百度蜘蛛迅速判断该网页的质量如何,从而确认是否给予收录...
推广优化 2022-09-24 12:54:20 -
SEO优化之HTML代码优化最重要的5个标签
在我们之前的文章中也或多或少地向大家介绍了有关HTML代码的优化技巧,接下来将系统地讲解HTML代码的几个优化重点。1.Title标签Title标签能够告诉用户和搜索引擎网页页面的主题思想是什么,一直是搜索引擎的抓取重点...
推广优化 2022-09-24 12:44:12 -
以淘宝前端为例剖析HTML5与移动端页面的性能优化
首先,我们这里优化对象为移动站点。移动开发具备了pc开发所有的特点,并且可以使用一些pc端无法使用的一些手段(主要还是为了兼容ie8及以下浏览器啦),pc端的优化手段都可以在移动端使用...
推广优化 2022-09-24 12:31:39 -
SQLServer中发送HTML格式邮件的方法
sqlserver发送html格式的邮件,参考代码如下:DECLARE@tableHTMLNVARCHAR(MAX);--获取当前系统时间,和数据统计的时间set@d_nowdate=convert(datetime,convert(varchar(10),dateadd(day,-1,getdate()),120),120);--如果有数据则发送ifexists(selecttop1*fromt_table1(nolock)whered_rq=@d_nowdate)beginset@str_subject='某某'+convert(varchar(10),@d_nowdate,120)+'净值.';SET@tableHTML=N'<H1>某某</H1><br>目前测试中<br><tableborder="1">'+N'<tr><th>日期</th><th>基金代码</th><th>基金名称</th><th>净值</th>...
数据库操作教程 2022-09-23 17:24:32 -
EmTechChina全球新兴科技峰会:50家聪明公司发布
7月29日, 新一届EmTech China 全球新兴科技峰会暨50家聪明公司发布仪式在无锡市滨湖区成功举办。《麻省理工科技评论》中国聪明公司创新中心同步落地无锡滨湖...
智能设备 2022-08-01 15:45:01