-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
第四范式涂威威:打造专属大模型的三大关键策略
【网易科技5月20日报道】第七届世界智能大会,第四范式副总裁、主任科学家涂威威出席高峰会并表示:生成式AI让企业软件的人机交互和应用价值内核价值都有了质的提升,而想要打造企业专属大模型,还需要满足三大条件。据介绍,三大条件即形成高质量的闭环数据、具备多步推理思维链(Chain of thoughts)的学习能力、解决大模型落地效率问题...
智能设备 2023-05-20 21:57:16 -
没网没电也能“买买买”?数字人民币优点多多多!
随着经济社会的快速发展,我们的支付方式发生了巨大的变化。从现金支付、刷卡支付,到移动支付,掏出手机扫码付款,已是很多人十分熟悉的购物“固定动作”...
区块链 2023-05-20 11:25:58 -
科技大佬论剑大模型:中国距世界一流还有多远,如何抓住百年机遇
一路“狂飙”的大模型,成为今年世界智能大会的焦点话题。5月18日,在第七届世界智能大会期间,李彦宏、周鸿祎、刘庆峰、王坚等互联网企业家代表不约而同地选择以大模型为主题演讲...
智能设备 2023-05-20 11:25:41 -
旗天科技:已与多家银行共计开展十余个数字人民币营销推广项目
旗天科技今日在2022年年度业绩说明会上表示,目前公司与多家国有大行、股份制银行、城商行共计开展十余个数字人民币营销推广项目,凭借快速、安全、可复制性的特点,具有竞争优势。同时,公司与数字人民币硬件服务商达成战略合作,将共同打造领先的数字人民币场景营销平台,结合公司聚合支付资质,形成“场景+支付”闭环,进一步夯实公司在数字人民币营销推广领域的优势地位...
区块链 2023-05-19 20:20:40 -
证券业首个数字人民币应用场景!银河证券数字人民币投资场外理财产品获准上线
界面新闻记者 | 陈靖5月19日,银河证券联合中国工商银行官宣证券市场首个数字人民币应用场景已被证监会批准上线。这标志着,银河证券成为行业首家实现通过数字人民币投资场外理财产品的券商。在此次试点项目中,银河证券联合中国工商银行,利用数字人民币支付即结算、可加载智能合约、可追踪、不可非法伪造复制的技术,创新设计出“方存管体系下数字人民币购买场外理财产品”的应用场景。2021年11月,中国证券监督管理委员会北京监管局、北京市地方金融监督管理局公布了首批拟纳入资本市场金融科技创新试点的16个项目名单,银河证券联合工商银行申报的试点项目是其中唯一涉及数字人民币资本市场应用的项目,也是行业首家。在此次试点项目中,银河证券创新性设计了三个应用场景,分别是“数字人民币购买付费金融服务”“三方存管体系下数字人民币投购买外理财产品”“数字理财钱包体系下数字人民币购买场外理财产品”。其中,“数字人民币购买付费金融服务”作为证券行业首个数字人民币应用场景,已成功在银河证券上线。银河证券党委委员、副总裁罗黎明介绍,使用数字人民币投资场外理财产品的优势在于:7*24小时下单,随时满足投资需求;利用数字人民币“支付即结算”的特征,提高资金流转效率,赎回提现提前一天;数字人民币“可加载智能合约”、“可追踪”、“不可非法伪造复制”,切实保障投资者资金安全。该功能目前已正式上线,符合条件的用户可以绑定数字人民币钱包,在投资公募基金等场外理财产品时使用数字人民币支付。另一方面,数字人民币能有效提升支付结算效率。赎回后资金也将提前一天可提现,能够有效提升客户投资体验及资金流转效率。“随着后续服务的优化升级,产品赎回的时间有望进一步缩短,客户可以实现对于资金的灵活调配。”项目负责人表示。近年来,随着试点的深入推进,数字人民币已呈现带动支付生态演变的趋势,不仅明显优化了记账单位功能与支付功能,更大幅提升支付结算效率。公开数据显示,我国目前个人股票投资者已超过2.12亿,基金投资者超过7...
区块链 2023-05-19 16:48:39 -
怀来农商银行全力做好数字人民币宣传推广工作
王嘉伟 为落实各级管理部门关于做好数字人民币推广工作要求,河北怀来农商银行多渠道开展数字人民币宣传推广活动,提高数字人民币在社会面的认知度、影响力和使用率,助力数字人民币融入群众生活。活动期间,共计发放宣传折页2000余份,开通数字人民币877余户...
区块链 2023-05-19 07:14:57 -
阿里国际数字商业集团CEO蒋凡:国际业务展现快速增长势头
5月18日消息,蒋凡以阿里国际数字商业集团(AIDC)CEO的身份出席阿里集团财报分析师会议。他表示,本季度,国际业务展现了快速的增长势头,增长主要驱动力来自于业务规模的扩大和商业化率的提升...
互联网 2023-05-18 20:40:18 -
可支付保费、资金被盗可赔!数字人民币联动保险还有哪些期待
数字人民币当前已触及保险业的多个应用场景。5月18日,北京商报记者了解到,近日,江苏省首个数字人民币"退货保险"落地...
区块链 2023-05-18 19:53:14 -
云从科技从容大模型发布可提供参考资料来源标注
【网易科技5月18日报道】今日,云从科技在广州举行人机协同发布会,推出了从容大模型。据现场介绍,该模型展示了问答、伴随和托管功能,具备多领域的个性化应用和出色的交互性...
智能设备 2023-05-18 18:25:34 -
开源人工智能模型崛起,追赶ChatGPT和谷歌,它好在哪
5月18日消息,谷歌和OpenAI正在开发专有的人工智能模型,但免费的开源模型也在激增。谷歌员工称,公司面临的压力越来越大,如果不推出更多开源模型,就可能在这场人工智能竞赛中落伍...
互联网 2023-05-18 17:04:22 -
周鸿祎公开演示大模型产品“360智脑”及“360鸿图”
【网易科技5月18日报道】第七届世界智能大会在天津开幕,360集团创始人周鸿祎在会上发表主题演讲并展示了两款大模型产品“360智脑”以及AI生图工具“360鸿图”。据悉,“360智脑”现场展示了理解力和推理力,在回答天津经济社会发展的相关问题时内容详实、条理清晰...
智能设备 2023-05-18 14:22:34