-
小扎豪赌大模型!Meta重磅推出定制芯片MTIAv1和全新超算
新智元报道编辑:拉燕 Aeneas【新智元导读】全世界都在卷大模型,小扎也急了。如今,Meta为了发展AI,在定制芯片和超算上下了大赌注。Meta也有纯自研芯片了!本周四,Meta发布第一代AI推理定制芯片MTIA v1和超算。可以说,MTIA对Meta是一个巨大的福音,尤其是现在各家都在卷大模型,对AI算力的需求变得越来越高。小扎最近表示,Meta看到了「以有用和有意义的方式向数十亿人介绍人工智能代理的机会」。显然,随着Meta加大对AI的投入,MTIA芯片和超算计划将是Meta与其他科技巨头竞争的关键工具,现在没有哪家巨头不在AI上投入大量资源。可以看到,凭着定制芯片和超算,Meta在AI上下了大赌注。MTIA在最近的一次线上活动中,Meta拉开了开发自己的基础设施的序幕。新芯片全名是Meta训练和推理加速器,简称MTIA。MTIA是一种ASIC,一种将不同电路组合在一块板上的芯片,允许对其进行编程,以并行执行一项或多项任务。Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta「针对推理工作负载的内部定制加速器芯片系列」,它提供了比CPU「更高的计算能力和效率」,并且「为我们的内部工作负载定制」。通过结合MTIA芯片和GPU,Janardhan 表示,Meta相信「我们将为每个工作负载提供更好的性能、更低的延迟和更高的效率。」不得不说,这是Meta实力的投射。其实,一直以来,Meta在应用AI友好型硬件系统方面进展并不迅速。这影响了Meta和竞对(如微软、谷歌等)保持同步发展的能力。Meta基础设施副总裁Alexis Bjorlin在一次采访中表示,构建属于自己的硬件,Meta就有能力控制堆栈的每一层,包括数据中心设计到培训框架。这种垂直的整合水平对于大规模推动AI研究边界是必不可少的。在过去的十年里,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型。Meta也一直在努力将其许多更宏伟的AI创新研究投产,尤其是生成式AI。一直到2022年,Meta一直主要用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行。而CPU和芯片的组合在执行这类任务的效率上通常会低于GPU。于是Meta取消了原本打算在2022年大规模推广的定制芯片,转而订购了价值数十亿美元的英伟达GPU。引入这些GPU,Meta需要对旗下的几个数据中心进行颠覆性的重新设计。而为了扭转这一局面,Meta计划开发一款内部芯片,预计于2025年推出。这款内部芯片既能训练AI模型,还能运行AI模型,可谓性能强大。主角终于来了——新芯片名叫MITA,全称Meta Training and Inference Accelerator.这款芯片可以用来加速AI训练和推理的效率。研究团队表示,MTIA是一种ASIC,指的是一种在一块板上组合不同电路的芯片。通过编程,该芯片能同时执行一项或多项任务。专为AI工作负载定制的AI芯片Meta要知道,科技巨头公司的竞争说白了玩儿的就是芯片。比方说谷歌的TPU,用来训练Palm-2和Imagen。亚马逊也有自己的芯片,用于训练AI模型。此外,有消息称微软也在和AMD开发一款叫Athena的芯片。这不,MITA的到来也是Meta不甘示弱的表现。Meta表示,2020年他们创建了第一代的MITA——MITA v1,采用的是7nm工艺。该芯片内部内存可以从128MB扩展到128GB,同时,在Meta设计的基准测试中,MITA在处理中低复杂度的AI模型时,效率要比GPU还高。在芯片的内存和网络部分,还有不少工作要做。随着AI模型的规模越来越大,MITA也即将遇到瓶颈。Meta需要将工作量分担到多个芯片上。对此,Meta表示,会继续完善MITA在运行推荐的工作量时每瓦的性能。早在2020年,Meta就已经为内部工作负载设计了第一代MTIA ASIC。此推理加速器是共同设计的全栈解决方案的一部分,包括芯片、PyTorch和推荐模型。该加速器采用台积电 7nm工艺制造,运行频率为800 MHz,在INT8精度下提供102...
智能设备 2023-05-21 01:34:10 -
富士康首次失去iPhone16ProMax订单,Luxshare将获得苹果2024年顶级旗舰的独家订单
富士康通常负责为苹果组装“Pro”机型,根据早些时候的一份报告,这些计划在iPhone 15 Pro和iPhone 15 Pro Max上保持不变。然而,据说从2024年开始,苹果的主要合作伙伴将失去iPhone 16 Pro Max的独家经营权,所有订单都将提供给Luxshare...
手机互联 2023-05-20 23:59:06 -
iOS16.6正式发布,大部分时间5G信号满格,续航水平质的飞跃
没想到iOS16.6来的这么快!今天苹果悄悄进行了推送,昨天刚发布的iOS16...
手机互联 2023-05-20 23:59:06 -
苹果发布tvOS16.5更新,引入“多视图体育”功能
IT之家 5 月 19 日消息,苹果今天正式宣布为 Apple TV 4K 推出“Multiview Sports”功能,允许观众观看体育比赛时,同时开启 4 个直播源。苹果表示观众在观看 MLS Season Pass、Friday Night Baseball,以及 MLS 360 和 MLB Big Inning 等 MLS 和 MLB 直播节目时,可以启用该视图。Apple TV 4K 用户启用多视图体育功能之后,最多可同时支持 4 个画面同时直播。Apple TV 4K 用户可通过 Siri Remote 遥控器,来控制 4 个直播源的音量。IT之家注:虽然苹果在官方支持文档中并未提及,但想要启用该功能,应该需要 tvOS 16.5 及更高版本。苹果于今天发布了 tvOS 16...
智能设备 2023-05-19 11:51:52 -
郭明錤:立讯精密已取得苹果iPhone16ProMax的NPI
IT之家 5 月 18 日消息,知名苹果分析师郭明錤预期苹果将协助立讯精密在印度设立产线,立讯精密有望在未来数年内受益于印度市场与供应链的成长。他指出:立讯精密已取得 2024 年最高端阶 iPhone 16 机型(Pro Max) 的 NPI...
手机互联 2023-05-19 08:56:13 -
英伟达RTX4060Ti8GB的MSRP或为399美元,16GB版为499美元
之前有报道称,英伟达基于Ada Lovelace架构的新一代主流显卡GeForce RTX 4060 Ti 8GB将会在5月24日上市,而后来才加入的16GB版本要等到7月下旬。除了性能外,有意购入的玩家都想知道新款显卡的定价是多少。据MEGAsizeGPU透露,GeForce RTX 4060 Ti 8GB的官方建议零售价为399美元(约合人民币2792.44元),而16GB版本要贵100美元,达到499美元(约合人民币3492...
智能设备 2023-05-18 10:53:17 -
标配16GBLPDDR5X+UFS4.0+Wi-Fi7官宣iQOONeo8Pro起步即最强
随着发布日期的临近,iQOO Neo8 Pro的更多配置信息也被曝光。据了解,这部手机除首发天玑9200+,并与自研芯片V1+组成“旗舰双芯”之后,还将标配目前行业最强的16GB LPDDR5X RAM和UFS 4.0 ROM。同时,官方还宣布,#iQOO Neo8# Pro网络性能将更强,与#iQOO11#系列一起,将支持新一代Wi-Fi7标准,并且该机还将会带来更流畅、更沉浸的游戏体验。日前,@iQOO手机 再次陆续发布了三张预热海报,并配文称,“应配尽配,Pro真旗舰!真·性能铁三角,#iQOO Neo8#Pro旗舰配置,一步到位。”“速率大升级,Pro真旗舰!#iQOO Neo8#Pro与#iQOO11#系列将支持新一代Wi-Fi7标准!更高带宽更低时延,更强抗干扰,满帧游戏拒绝卡顿!”“峡谷新体验,Pro真旗舰!#iQOO Neo8#Pro游戏体验黄金三角再升级,120帧极致画质、MAGT自适应画质,带来全新流畅体验,更有4D 游戏振感,让你王者荣耀沉浸开玩!”说到Wi-Fi7,即IEEE 802...
手机互联 2023-05-17 08:47:19 -
干翻苹果A16!高通骁龙8Gen3跑分超过160万:GPU猛涨27%
据报道,2023年下半年,高通将推出新一代安卓旗舰处理器骁龙8 Gen3。该处理器采用1+5+2架构设计,即包括1颗超大核、5颗大核和2颗小核。超大核升级为更先进的Cortex-X4,频率最高可达3.7GHz,比骁龙8 Gen2的3...
手机互联 2023-05-16 07:10:13 -
只有iPhone16Pro/ProMax将配备更大屏,标准型号将保持相同的尺寸
苹果公司将在今年晚些时候推出iPhone 15和iPhone 15 Pro机型,预计这四款机型都将出现重大变化。标准型号将获得动态岛和USB-C,而“Pro”型号预计将配备一个动作按钮和一个细长的音量按钮。然而,明年的iPhone 16 Pro机型将在设计方面有进一步的改进。据报道,iPhone 16 Pro和iPhone 16 Pro Max的显示屏将比目前的机型更大。最初有传言称,苹果将在iPhone 15 Pro机型上采用固态解决方案。然而,由于生产或技术问题,苹果公司为iPhone 16 Pro保留了这一功能。从今年开始,我们预计苹果公司将推出带有实体音量和电源按钮的iPhone 15 Pro机型。据报道,这款设备还配备了一个类似Apple Watch的超级动作按钮。除此之外,知名显示屏分析师表示,只有iPhone 16 Pro将配备更大的6.3英寸显示屏,而iPhone 16 Pro Max或iPhone 16 Ultra将配备6...
手机互联 2023-05-16 07:10:11 -
sql server 2016不能全部用到CPU的逻辑核心数的问题
最近在工作中遇到了,sql server 2016 不能把CPU 的核心全部用到的问题.通过分析工具看到 总共CPU核心有72核,但sql 只能用到40核心,想信也有很多人遇到这问题,那么今天这节就先说说这问题是怎么出现的。首先 介绍下服务器的环境 Windows 2008 R2 Enterprise Edition(X64) + Microsoft SQL Server 2012 (SP1)Enterprise Edition (64-bit) CPU 2路 18核 开启超线程后是72核心 如图:再看sql实例的属性 如图:sql server 其实已经认出了总的核心数 72 那么sql server 是不是代表就能全部使用上呢,通过系统视图可以看到 select * from sys...
数据库操作教程 2023-05-12 12:12:37 -
特斯拉发布FSDBetaV11.4.1版本更新,具有重大架构改进
IT之家5月11日消息,特斯拉面向北美用户推送了FSDBetaV11.4.1版本更新,此次V11.4.1版本进行了重大架构改进。据马斯克所言,这一版本理论上可以作为FSDV12.0发布,但真正的V12版本号需要为完全端到端AI版本保留...
智能设备 2023-05-11 11:10:25 -
iOS16.5RC版发布竟然还有新功能!
今天凌晨,苹果发布了iOS16.5RC版,内部版本号为20F65。本次更新距离3月22日发布的上个iOS16.4RC版间隔了49天,距离5月3日发布的iOS16.5Bete4则刚好间隔一周...
手机互联 2023-05-11 01:52:08