热门搜索
-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
Meta挖来AI网络芯片专业团队，开发AI超算系统
5月6日消息，Facebook母公司Meta最近聘请了一个人工智能网络芯片专业团队。该团队曾长期为英国芯片独角兽公司Graphcore开发人工智能网络技术，直至去年年底...
业界动态 2023-05-07 12:43:16 -
特斯拉起诉前工程师盗取超算机密，最终双方和解
4月20日消息，特斯拉和前员工亚历山大·亚茨科夫(AlexanderYatskov)的法律纠纷已经结束。此前，特斯拉指控亚茨科夫窃取与人工智能超级计算机Dojo相关的商业机密并提起诉讼...
互联网 2023-04-20 21:02:18 -
科技部启动国家超算互联网部署工作
4月17日消息，科技部高新司在天津组织召开国家超算互联网工作启动会。中国工程院院士李国杰，中国科学院院士、超算互联网总体专家组组长钱德沛，中国工程院院士孙凝晖等多位专家，有关高校、科研机构代表，各国家超算中心负责人，网络运营商代表，以及上下游相关企业及用户代表参会，分享超算运营服务经验，探讨国家超算互联网建设路径，加快构建超算自主生态体系，落实超算互联网行动方案...
互联网 2023-04-18 08:17:45 -
谷歌公布新一代AI超算，称比英伟达A100更快、更节能
4月5日消息，当地时间周二，Alphabet旗下的谷歌公开了一些新细节，展示了用于训练人工智能模型的超级计算机，称其比英伟达A100芯片的系统更快、更节能。谷歌公司设计了自己的定制芯片，称为TensorProcessingUnit(TPU)，并将这些芯片应用于90%以上的人工智能训练工作...
业界动态 2023-04-05 09:12:32 -
谷歌公布新一代AI超算，称比英伟达A100更快、更节能
4月5日消息，当地时间周二，Alphabet旗下的谷歌公开了一些新细节，展示了用于训练人工智能模型的超级计算机，称其比英伟达A100芯片的系统更快、更节能。谷歌公司设计了自己的定制芯片，称为TensorProcessingUnit(TPU)，并将这些芯片应用于90%以上的人工智能训练工作...
业界动态 2023-04-05 09:12:32 -
微软为ChatGPT打造专用超算！砸几亿美元，上万张英伟达A100打造
萧箫发自凹非寺量子位|公众号QbitAI微软砸下大几亿美元，专门为训练ChatGPT打造了一台超算——上万张英伟达A100芯片打造，甚至专门为此调整了服务器架构，只为给ChatGPT和新必应AI提供更好的算力。△图源：微软不仅如此，微软还在Azure的60多个数据中心部署了几十万张GPU，用于ChatGPT的推理...
智能设备 2023-03-15 09:53:24 -
美国首台E级超算为何登顶全球？外媒：中国E级超算已运行一年多，不参加国际排名了
（原标题：美国首台E级超算为何登顶全球？外媒：中国E级超算已运行一年多，不参加国际排名了） 导读：亚洲技术信息项目（Asian Technology Information Program）主任大卫·卡哈纳最近发布的报告显示，中国首台E级超算已经运行一年多，第二台E级超算也已开始运行，但都没有参与全球超算排名，也没有正式亮相。【文/观察者网 吕栋】当地时间5月30日，国际超算组织“TOP500”发布的榜单显示，美国最新推出的E级（每秒浮点运算百亿亿次）超算“Frontier”成功登顶全球，连续两年“霸榜”的日本超算“富岳”排名落到第二，芬兰新部署的超算“LUMI”挤进前三，成为欧洲超算领域的代表...
互联网 2022-05-31 14:41:56 -
英特尔表示Aurora超算性能达2ExaFLOP，全球多台ExaFLOP级超算将陆续部署
Aurora超算系统是美国能源部阿贡国家实验室的超级计算机项目，将基于英特尔Sapphire Rapids和Ponte Vecchio构建，实现每秒百亿亿级（ExaFLOP）的运算能力。此前由于英特尔研发方面的问题，项目被延误了...
智能设备 2021-10-28 14:30:02 -
英特尔发布新PC芯片预期研发的超算速度将翻倍
10月28日消息，据外媒报道，美国当地时间周三，芯片巨头英特尔发布了一款速度更快的新个人电脑（PC）处理器芯片系列，并称其正在帮助美国政府开发的超级计算机速度将达到先前预期的两倍。在输给AMD和苹果等竞争对手后，英特尔正在努力夺回制造速度最快计算芯片的领先地位...
业界动态 2021-10-28 14:28:09 -
英伟达将向英国医疗初创公司开放Cambridge-1超算，以加速人工智能战略
目前英国最强大超级计算机是Cambridge-1（剑桥1号），这是英伟达投资1亿美元的项目，将致力于推动医疗行业发展，研究人员和科学家可以利用人工智能加速生物学方面的研究。英伟达已经与阿斯利康、葛兰素史克、盖伊和圣托马斯NHS基金会、伦敦大学国王学院以及OxfordNanoporeTechnologies展开合作，首批项目包括深入了解痴呆症等脑部疾病，运用人工智能协助新药研发，以及提高寻找人类基因组致病变异研究的准确性...
智能设备 2021-09-28 10:34:26 -
特斯拉AI日马斯克再放大招：超算系统"人形机器人"
澎湃新闻见习记者 吴遇利当地时间8月19日，特斯拉在“特斯拉AI日”活动上推出人工智能训练计算机系统DOJO及7nm DOJO D1芯片，同时推出了特斯拉的下一个大型项目：人形机器人（Tesla Bot）。特斯拉CEO埃隆·马斯克再次强调特斯拉是一家人工智能机器人公司...
业界动态 2021-08-20 14:25:07
