-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
Meta旗下Instagram准备在夏季推出与推特竞争的新产品
钛媒体App 5月20日消息,Instagram正计划推出一款基于文本的应用,将与推特展开竞争。根据知情人士透露,该公司目前正在与知名人士和网红合作,对该项目进行测试...
智能设备 2023-05-20 11:25:25 -
公布全新定制芯片,Meta豪赌AI,更新基础设施花费创纪录
5月19日消息,过去一年,社交媒体巨头Meta致力于削减成本和裁员,但更新基础设施的花费却创下了纪录,这是为了在AI竞赛中保持领先地位。当地时间周四,Meta发布了一系列新技术,这包括一种新的定制芯片,能够帮助更快地训练AI,以及一款编程工具,可为程序员提供开发产品的建议。此外,该公司还在改造其旗下数据中心,以便更轻松地部署AI技术。Meta首席执行官马克·扎克伯格(Mark Zuckerberg)在一份电子邮件声明中说:"这项工作反映了我们长期的努力,将使我们在各个领域中能够更好地利用这项技术,并取得更多的进步。”为了加速Facebook和Instagram上的推荐算法,Meta正在开发一款定制加速器芯片。此外,该公司还推出了一个专门为AI硬件设计的新数据中心。据Meta表示,他们已完成AI超级计算机的第二阶段建设,用于训练类似ChatGPT的大语言模型。去年,Meta的资本支出创下了历史新高,达到了314亿美元,比2017年增加了4.5倍以上。扎克伯格曾称今年是Meta的“效率年”,分析人士估计,Meta今年的投资水平将与2022年相当,其中很多资金将用于改进和扩大AI基础设施。Meta AI研究主管金·哈泽尔伍德(Kim Hazelwood)表示:“虽然我们在提高效率方面遇到了一些困难,但这并不意味着在投资AI和提升效率之间存在直接的竞争。”一些AI更新显然提高了Meta的内部效率,这导致公司在最近几个月内裁掉了数千名员工。CodeCompose是一款基于生成式AI的新型开发工具,可以为开发人员自动完成编程工作或提供修改代码的建议。Meta表示,目前已有5200名内部程序员在使用CodeCompose,其中AI提出的编写代码建议中有22%被采纳。Meta还越来越多地使用AI来解决最大的业务问题。由于苹果公司调整了隐私政策,很多广告商的数字广告精确定位目标用户更加困难,Meta计划利用AI来猜测用户的兴趣。为了与短视频平台TikTok竞争,Facebook和Instagram也开始展示用户并不关注的账户内容,这需要一种算法来猜测用户可能对什么感兴趣。市场研究公司CFRA Research分析师安吉洛·齐诺(Angelo Zino)在接受采访时表示,投资者将会寻求直接的证据来证明这些改进,以证明大笔支出是合理的。“很明显,这些事情需要一些时间,不可能一蹴而就,” 齐诺谈到Meta整体增加资本支出时表示。“肯定会有大量审核,确保能够加速实现收入方面的一些回报。”当我们询问AI模型时,它们会做出回答,这个过程就是所谓的推理,这需要特定类型的运算过程。Meta决定开发新的芯片MTIA(Meta Training and Inference Accelerator,意思是Meta训练和推理加速器),帮助完成内部特定的工作,补充英伟达GPU的数量不足(即使已大量采购)。Meta希望MTIA芯片能提升能力,为用户预测更准确、更有趣的原创和广告内容类型,从而让人们花更多时间使用应用程序并点击更多广告。该公司还推出了第一款专门用于处理视频和直播内容的内部专用集成电路(ASIC)。Facebook和Instagram用户每天分享的短视频已经超过20亿个。无论用户使用何种设备观看视频,这款新型处理器都可以帮助用户更快地显示这些视频,并且需要更少的流量。Meta的硬件工程副总裁亚历克西斯·比约林(Alexis Bjorlin)表示:“我们成功地对第一批芯片进行了优化、平衡和精准调整,以适应我们的推荐模型。”“我们清楚了解到生成式AI工作负载或其他相关需求,这些信息都尽在掌握。”Meta社交媒体app使用的推荐引擎基于当前的AI技术,但未来生成式AI的运行将依赖Meta的AI超级计算机Research SuperCluster。公司将利用这款超算训练大量的AI模型。周四,Meta宣布已完成第二阶段的建设,训练了名为LLaMA的大语言模型。这将成为公司建造虚拟现实平台元宇宙的关键部分。Meta一直致力于向外界开放其一些先进技术。虽然其堆栈中的大部分硬件限内部使用,但部分成果是开源的。和LLaMA模型一样,由Meta超级计算机训练出来、可解十道国际奥数竞赛难题的AI模型也已与研究人员共享。代码开发工具CodeCompose则基于Meta AI研究团队公开的技术成果构建。此外,新推理芯片将有助于Meta继续支持PyTorch,这是其创建的开源AI框架,并已转移到Linux基金会,以增加其独立性。尽管Meta多年来一直致力于开发AI工具,但扎克伯格仍然选择将公司未来设立在更加模糊的虚拟现实愿景之上。投资研究机构Third Bridge分析师斯科特·凯斯勒(Scott Kessler)表示,这种转变受到了投资者的严厉审视,因此此次对AI基础设施的深度投资可以帮助投资者重建对扎克伯格整体战略的信心。凯斯勒表示,当行业竞相将AI融入业务之时,“他们不想输在起跑线上,”他说:“相比六到九个月前,现在更多人相信这种说法了。”(辰辰) ...
业界动态 2023-05-19 17:20:48 -
realme真我C53手机渲染图曝光:展锐T612芯片+5000万主摄
IT之家 5 月 18 日消息,realme 真我即将推出 C53 手机,目前已经通过 NBTC、EEC 和 FCC 机构的认证。国外科技媒体 appuals 在最新报道中,分享了该机的高清渲染图和规格信息。realme C53 在发售之后会有黑色和金色两种颜色,正面配备 6.74 英寸 LCD 面板,采用 U 型水滴屏,500 万自拍摄像头,HD+ 分辨率,屏幕刷新率为 90Hz。IT之家从报道中获悉,该机搭载紫光展锐 T612 芯片,6GB LPDDR4X RAM 和 128GB UFS 2...
手机互联 2023-05-18 10:05:57 -
Meta高管:元宇宙能给职业教育带来“变革”可与AI共存而非被取代
5月17日消息,Facebook母公司Meta的高管们认为,元宇宙可以与生成式人工智能共存,并将给岗前培训和职业教育带来“变革”,而且Meta“可以两者兼顾”。Meta正在将元宇宙技术作为一种帮助培训员工的工具,以此来重振公众对元宇宙的兴趣...
业界动态 2023-05-17 08:09:29 -
PC端也能收发苹果iMessage信息,微软开放新版PhoneLink应用
IT之家 5 月 16 日消息,微软在今年 4 月宣布之后,于今天正式面向全球 Win10、Win11 用户开放新版 Phone Link 应用,可以在 PC 端收发苹果 iMessage 信息。通过 Win10、Win11 上的 Phone Link 应用和 iOS 上的 Link to Windows 应用,iPhone 用户可以直接在电脑上接打电话、收发短信和查看通知...
手机互联 2023-05-16 07:10:21 -
暴涨又暴跌,马斯克频频点名的“Memecoin”为何能成币圈新盘口?
界面新闻记者|司林威近日,以比特币、以太坊为核心的加密货币大盘并未大幅波动,但一个名为“PEPE”(佩佩)的空气币种的价格却在一周中暴跌了60%以上,市值已削减至约5.6亿美元。值得注意的是,暴跌之前,这个名为“PEPE”的“Memecoin”在币圈还创造了一个投机神话。所谓“Memecoin”,直译为“模因币”,是币圈空气币的一中,指和主流币种相比,毫无基本面价值的一些山寨代币。但和一般的空气币相比,“Memecoin”又有着不同之处,它们往往具备简单明了的叙事逻辑,具备话题性并能引起大众关注,在社交媒体上有着极大的传播度,其中最为典型的代表就是“狗狗币”。“狗狗币”曾在2021年的币圈大牛市中火热出圈,在特斯拉首席执行官埃隆·马斯克的热捧下成为推特上的热点之一。但现在,以经典的青蛙表情包为形象的“PEPE”正成为新一代“狗狗币”。今年4月初,推特用户@PEPEcoineth发布了一张绿皮青蛙戴着红帽子的照片,帽子上写着模仿美国前总统唐纳德·特朗普的总统大选口号的“让网红币再次伟大”(Make Memecoins Great Again)。在其官网上,“狗狗币的时代已经过去了,现在最火的模因币是佩佩”这句话也格外醒目。两周后,PEPE币发行,总发行量为420...
区块链 2023-05-15 10:18:50 -
Sql Server Management Studio连接Mysql的实现步骤
目标已知mysql连接参数(地址和用户),期望通过Microsoft Sql Server Management Studio (以下简称MSSSMS)连接Mysql,在MSSSMS中直接查询或修改Mysql中的数据。实现步骤1/4:下载MySql Connector/ODBC并安装,下载地址:MySQL :: Download Connector/ODBC根据操作系统位数选择相应的安装文件,安装时可能会提示先安装Microsoft OLE DB Driver ,安装成功后如下:步骤2/4:创建DSN ( data source name) 步骤3/4:创建链接服务器--创建链接服务器EXEC sp_addlinkedserver @server = 'crm', @srvproduct='MySQL',@provider = 'MSDASQL',@datasrc ='crmDNS' --删除链接服务器execute sys.sp_dropserver @server='crm'其中的 @server = 'crm'指自定义的服务名, @datasrc ='crmDNS' 是指 ODBC中的数据源名称。 步骤4/4:使用演示上图是查询结果上图是在sql server 数据库中把数据插入到mysql数据库到此这篇关于Sql Server Management Studio连接Mysql的实现步骤的文章就介绍到这了,更多相关Sql Server Management Studio连接Mysql内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家! ...
数据库操作教程 2023-05-12 12:13:01 -
Meta宣布测试生成式AI广告工具
5月12日消息,当地时间周四,社交媒体Facebook母公司Meta宣布,开始测试基于生成式人工智能的广告工具。据悉,这些新的广告工具可以创建图像背景和变形文字等内容...
互联网 2023-05-12 07:52:36 -
Meta开源多感官人工智能模型,整合文本、音频、视觉等六类数据
IT之家5月9日消息,Meta公司发布了一个新的开源人工智能模型ImageBind,该模型能够将多种数据流,包括文本、音频、视觉数据、温度和运动读数等整合在一起。该模型目前只是一个研究项目,还没有直接的消费者或实际应用,但它展示了未来生成式人工智能系统的可能性,这些系统能够创造出沉浸式、多感官的体验...
智能设备 2023-05-10 10:49:03 -
支持Matter协议,HomePod/tvOS16.5RC升级Thread至1.3版本
IT之家5月10日消息,根据国外科技媒体iClarified报道,苹果在今天发布的tvOS16.5和HomePod16.5版本更新中,通过引入Thread1.3,实现了对Matter的支持。IT之家注:Thread是一种用于智能家居设备的低功耗和低延迟无线网状网络协议,旨在解决物联网的复杂性,解决互操作性、范围、安全性、能源和可靠性等挑战...
智能设备 2023-05-10 10:48:59 -
官宣了!realme11将于5月10日发布,主打影像旗舰
据官方预热,realme11系列新品手机将于5月10日发布,该系列预计包括三款设备:realme11标准版、realme11Pro、realme11Pro+,将主打影像旗舰。消息显示,该系列采用高定旗舰120Hz刷新率曲面屏,支持2160Hz超高频调光、20000级自动调光;搭载2亿像素单镜变焦相机,“一颗镜头实现多焦段无损变焦”...
手机互联 2023-05-09 10:03:17