热门搜索
-
小扎豪赌大模型！Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑：拉燕 Aeneas【新智元导读】全世界都在卷大模型，小扎也急了。如今，Meta为了发展AI，在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了！本周四，Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说，MTIA对Meta是一个巨大的福音，尤其是现在各家都在卷大模型，对AI算力的需求变得越来越高。小扎最近表示，Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然，随着Meta加大对AI的投入，MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具，现在没有哪家巨头不在AI上投入大量资源。可以看到，凭着定制芯片和超算，Meta在AI上下了大赌注。MTIA在最近的一次线上活动中，Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器，简称MTIA。MTIA是一种ASIC，一种将不同电路组合在一块板上的芯片，允许对其进行编程，以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道，MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」，它提供了比CPU「更高的计算能力和效率」，并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU，Janardhan 表示，Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说，这是Meta实力的投射。其实，一直以来，Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对（如微软、谷歌等）保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示，构建属于自己的硬件，Meta就有能力控制堆栈的每一层，包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里，Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产，尤其是生成式AI。一直到2022年，Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片，转而订购了价值数十亿美元的英伟达GPU。引入这些GPU，Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面，Meta计划开发一款内部芯片，预计于2025年推出。这款内部芯片既能训练AI模型，还能运行AI模型，可谓性能强大。主角终于来了——新芯片名叫MITA，全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示，MTIA是一种ASIC，指的是一种在一块板上组合不同电路的芯片。通过编程，该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道，科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU，用来训练Palm-2和Imagen。亚马逊也有自己的芯片，用于训练AI模型。此外，有消息称微软也在和AMD开发一款叫Athena的芯片。这不，MITA的到来也是Meta不甘示弱的表现。Meta表示，2020年他们创建了第一代的MITA——MITA v1，采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB，同时，在Meta设计的基准测试中，MITA在处理中低复杂度的AI模型时，效率要比GPU还高。在芯片的内存和网络部分，还有不少工作要做。随着AI模型的规模越来越大，MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此，Meta表示，会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年，Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分，包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造，运行频率为800 MHz，在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
公布全新定制芯片，Meta豪赌AI，更新基础设施花费创纪录
5月19日消息，过去一年，社交媒体巨头Meta致力于削减成本和裁员，但更新基础设施的花费却创下了纪录，这是为了在AI竞赛中保持领先地位。当地时间周四，Meta发布了一系列新技术，这包括一种新的定制芯片，能够帮助更快地训练AI，以及一款编程工具，可为程序员提供开发产品的建议。此外，该公司还在改造其旗下数据中心，以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格（Mark Zuckerberg）在一份电子邮件声明中说："这项工作反映了我们长期的努力，将使我们在各个领域中能够更好地利用这项技术，并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法，Meta正在开发一款定制加速器芯片。此外，该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示，他们已完成AI超级计算机的第二阶段建设，用于训练类似ChatGPT的大语言模型。去年，Meta的资本支出创下了历史新高，达到了314亿美元，比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”，分析人士估计，Meta今年的投资水平将与2022年相当，其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德（Kim Hazelwood）表示：“虽然我们在提高效率方面遇到了一些困难，但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率，这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具，可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示，目前已有5200名内部程序员在使用CodeCompose，其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策，很多广告商的数字广告精确定位目标用户更加困难，Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争，Facebook和Instagram也开始展示用户并不关注的账户内容，这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺（Angelo Zino）在接受采访时表示，投资者将会寻求直接的证据来证明这些改进，以证明大笔支出是合理的。“很明显，这些事情需要一些时间，不可能一蹴而就，” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核，确保能够加速实现收入方面的一些回报。”当我们询问AI模型时，它们会做出回答，这个过程就是所谓的推理，这需要特定类型的运算过程。Meta决定开发新的芯片MTIA（Meta Training and Inference Accelerator，意思是Meta训练和推理加速器），帮助完成内部特定的工作，补充英伟达GPU的数量不足（即使已大量采购）。Meta希望MTIA芯片能提升能力，为用户预测更准确、更有趣的原创和广告内容类型，从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频，这款新型处理器都可以帮助用户更快地显示这些视频，并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示：“我们成功地对第一批芯片进行了优化、平衡和精准调整，以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求，这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术，但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四，Meta宣布已完成第二阶段的建设，训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用，但部分成果是开源的。和LLaMA模型一样，由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外，新推理芯片将有助于Meta继续支持PyTorch，这是其创建的开源AI框架，并已转移到Linux基金会，以增加其独立性。尽管Meta多年来一直致力于开发AI工具，但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示，这种转变受到了投资者的严厉审视，因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示，当行业竞相将AI融入业务之时，“他们不想输在起跑线上，”他说：“相比六到九个月前，现在更多人相信这种说法了。”（辰辰） ...
业界动态 2023-05-19 17:20:48 -
微软豪赌AI，能让ChatGPT等AIGC工具普及给大众？
1月22日消息，作为免费的在线AI聊天工具，ChatGPT和Dall-E2等AIGC（生成式人工智能）正迅速走红，任何人都可以用它们来生成文本或艺术图像。现在，微软正在AI领域押下重注，这可能有助于ChatGPT等聊天机器人更快普及...
业界动态 2023-01-22 08:45:20 -
为应对苹果威胁谷歌削减软件支持豪赌硬件策略
10月19日消息，随着Pixel7的发布，谷歌明确表露了自己的愿景，那就是让其硬件家族中的各种设备更好地协同工作。科技媒体TheInformation最新刊文称，为了应对苹果的威胁，谷歌正计划减少对软件的支持，并豪赌硬件策略，特别是在Pixel手机和其他硬件上“加倍下注”...
互联网 2022-10-19 10:15:45 -
豪赌比特币浮亏超55%，萨尔瓦多总统：要耐心，熊市后会大涨
2022年迄今，比特币的价格已经下跌约57.1%。作为世界上首个将比特币作为法定货币的国家，中美洲国家萨尔瓦多持有的比特币价值也已经较购入成本腰斩...
区块链 2022-09-13 16:43:49 -
亚马逊豪赌Rivian获得丰厚回报押注更多气候科技创新
11月14日消息，当电动汽车制造商Rivian本周成功上市后，亚马逊的豪赌获得了丰厚回报。事实上，这家科技巨头还押注了许多其他气候领域的科技创新，以帮助实现零碳目标...
互联网 2021-11-15 09:54:37 -
瑞典程序员押全部身家豪赌比特币，迄今赚了130倍
北京时间31日消息，据美国《商业内幕》网站（Business Insider）报道，瑞典程序员亚历山大-波特玛（Alexander Bottema）对比特币曾持怀疑态度，但后来开始将其视为一种类似互联网这样的革命性创新，并且为此押上了全部身家。自2013年初开始投资比特币以来，他已经赚了逾130倍...
业界动态 2017-08-31 14:37:09 -
“战狼现象”――在并非豪赌的赌局中大获全胜
张潇潇／文为了《战狼2》的宣发，北京文化电影事业部总经理，制片人张苗请了4个海报公司制作电影海报物料。这些海报公司大概没想到，在《战狼2》上映的20天里，他们将加班加点，制作近五十张票房破亿的海报，最忙的时候，一天内就更新了五张海报...
互联网 2017-08-21 08:32:07 -
外媒:共享单车是一场豪赌 中国共享经济现状如何?
（原标题：外媒评论：共享单车是一场豪赌） 热依莎 编者按：中国的初创公司已经进入了“共享经济”时代，实现了从汽车、自行车到雨伞、篮球和充电宝，打着“共享”概念的项目层出不穷。中国共享经济的增长是不容忽视的...
互联网 2017-06-11 13:03:07 -
小扎的下一豪赌：让现实世界成为Facebook的延伸
4月19日消息，Facebook日前在F8开发者大会上发布了全新的增强现实摄像头平台。对此，国外媒体BuzzFeed撰文称，Facebook CEO马克・扎克伯格（Mark Zuckerberg）的下一个重大赌注是使得现实世界变成Facebook的延伸，融合数字世界和现实世界...
互联网 2017-04-20 00:12:10 -
是一场结局难料的豪赌 小米做自主松果处理器
去年至少三个月处于严重缺货状态的小米，即将要对外推出自主芯片松果处理器。据悉，小米已经确定将在2月28日对外正式发布这款自主芯片...
业界动态 2017-02-21 08:45:08 -
英特尔破釜沉舟豪赌AI 未来三年深度学习或提速百倍
【AI世代编者按】 随着人工智能技术在近年来的大热，作为最老牌科技企业之一的英特尔自然也不会放过这一发展契机。机器学习、人工智能很快会成为重塑企业IT的核心科技，并让原本身居高位的行业巨头继续保持优势...
业界动态 2016-11-28 19:20:04
