-
台积电N3系列工艺无法提高SRAM密度,已经与逻辑密度提升没有关系
上个月,台积电(TSMC)介绍了先进半导体制造工艺的路线图,包括了3nm和2nm制程节点的各种工艺。今年台积电将推出改进的N3E工艺,成本更低,有着更好的经济效益,接下来会在3nm制程节点提供更广泛的产品组合,包括N3P、N3X和N3AE,以满足不同客户的多样化需求。WikiChip表示,近期得到的信息显示,SRAM单元在台积电3nm制程节点上,与5nm制程节点基本没有分别。虽然台积电在早期曾表示,新的制程节点在SRAM单元的密度上是上一代工艺的1.2倍,不过根据最新的信息,差别非常小。此前就有报道称,台积电在3nm制程节点遇到SRAM单元缩减放缓的问题。据了解,台积电在改进的N3E工艺上,引入了英特尔早在2011年22nm时期就采用的SAC方案,提高了良品率。不过无论N3E工艺如何改进,SRAM单元的密度都没多大差别。这也导致了今天台积电谈及新制程节点的进步时,主要还是说逻辑密度及制造步骤的改进,有意回避了这方面的问题。现代处理器里,SRAM占据了芯片很大一部分面积和晶体管数量,如果没有明显改进,芯片换用新的制程节点效果就不太明显了。何况台积电的3nm制程节点成本大幅度飙升,导致了许多芯片公司都选择观望,没有去下单。事实上,SRAM缩减已经不再跟随逻辑密度提升,这样的情况已经有一段时间了,只是两者现在已经没有什么关联。 ...
手机互联 2023-05-31 07:54:31 -
数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩
克雷西 发自 凹非寺量子位 | 公众号 QbitAI对于ChatGPT的工作原理,一个常见的解释是根据统计学规律预测下一个词。但最近一位叫Jacob Bayless的工程师用数学方法得出惊人结论:若是如此,所需的信息量足以让整个宇宙都坍塌成黑洞。这一数据量是50000^8000,根据贝肯斯坦上限(Bekenstein bound)原理,如果把这些信息分配到空间当中,所需要的信息密度已经远超宇宙能承受的最大值。而这仅仅是把数据存储起来的消耗,更不必说还要进行运算了。而ChatGPT与单纯统计预测的区别,可以做这样的类比:如果天文学家通过历史观测记录推算出月食的周期,这可以算是统计学。但当他们总结出牛顿万有引力定律的时候,就已经超越了统计学。什么是“随机鹦鹉”一个流传很广的说法,所谓大语言模型实际上相当于一个“随机鹦鹉”——与我们观察其输出时的情况相反,语言模型只是将其在庞大的训练数据中观察到的语素胡乱拼接在一起,根据概率生成文本,但不清楚文字背后的任何含义,就像一个随机的鹦鹉。出自论文On The Dangers of Stochastic Parrots: Can Language Models Be Too Big这对过去的语言模型,或许确实成立。比如曾经流行的n-gram算法。比如当我们在搜索引擎中进行搜索时,出现的联想词就能用此方法实现。具体来说,下面的三行文本中,第一行纯粹是随机生成,第二行考虑了单词在英语中整体的出现概率,第三行则考虑了单词在前一个词后面出现的概率。n = 0: RECEIVE FALL SURPRISED FRIDAY INGREDIENT…n = 1: REPRESENTING AND SPEEDILY IS AN GOOD…n = 2: THE CHARACTER OF THIS POINT IS THEREFORE…不难看出,随着n值的升高,文本越来越接近人类语言。而n-gram模型根本不需要掌握其中的语义或理解其中的抽象概念,就能生成像模像样的句子。据此有人猜想,GPT-4会不会也只是一种高级的n-gram呢?Bayless提出,GPT必须学会抽象才能有如今的效果,至少GPT-4肯定如此。GPT-4不只是“随机鹦鹉”要证明这一点,可以先看下棋机器人的例子。如果有一种下棋机器人,存储了巨量棋谱数据,对于每个棋局都能推荐下一步。那它就能通过“背谱法”模仿其他任何棋手或程序的下法比如Stockfish是最先进的国际象棋程序,如果仅通过对战而不看源码,是无法确定Stockfish是否在背谱。但实际上,包含所有情形和步骤的棋谱数据量可能超过2^154。而Stockfish的程序只占用了不到50MB的空间,根本不可能存下需要的所有棋谱。所以Stockfish肯定是通过更高级的方法来实现下棋的。人类语言的复杂度远超过棋类游戏,因此GPT的数据量更是同理。仅在是上一代的GPT-3的token字典中就有超过5万token。如果对每个词都逐一建立统计信息,n-gram模型中n值将高达8000。届时,需要存储的情景数量将达到50000^8000。正如文章开头所提到,这简直是天文数字,足以让整个宇宙坍缩。因此,GPT是“随机鹦鹉”的猜测在理论上得到了一定程度的批驳。“随机鹦鹉”达不到的高度仅在理论上进行说明是不充分的,因此研究人员还进行了两个实验,意图证明大模型在学习过程中已经抽象出了算法。第一个实验关于一道经典的农夫过河问题。一个农夫有一条船,和狼、羊、菜,农夫要把这3样东西运到河到另一边,农夫每次最多只能通过这个船运一样东西,要防止狼吃羊、羊吃白菜(即不能在没有农夫在的情况下同时在同一岸边),该怎么过?研究人员将这个问题中的农夫、船、河分别替换成地球人、虫洞和银河系。狼、羊和菜则分别换成火星人、金星人和月球人。替换的目的是因为互联网上不太可能出现类似语料,可以判断大语言模型是不是真的掌握了通用方法。如果GPT不是“随机鹦鹉”,那么它至少不会犯下只有“随机鹦鹉”才会犯的错误。GPT-4针对替换后的问题给出了正确的回答,GPT-3.5则没有。但它们并没有犯研究人员预想的“鹦鹉”错误——即在回答中出现狼、船、河等已被替换掉的词语。回答中使用的句子,也无法在互联网中被检索到。这些现象都证明了现在的大语言模型的生成方式已经超越了“概率预测”。第二个实验则是数字排序。如果让GPT学习数字排序,它们究竟是只会记住给出过的数字顺序,还是真的研究出排序算法呢?其实只要从GPT的输出当中就可以看出来了。假如从1-100中随机选择10个数字,并将其顺序打乱,将一共有这么多种情形:如果再考虑数字的重复出现,又或者数字的数量发生变化,根本不可能存储如此之多的情形。因此,只要GPT能够针对未知的排序问题给出正确的回答,便可以说明它们是真的研究出了排序算法。研究人员训练了一款特斯拉前AI总监Andrej Kaparthy发明的语言模型nanoGPT,专门让它做数字排序。结果显示,随着训练步数的增加,模型给出的数字顺序越来越完美。虽然在训练步数达到16万左右时突然出现了大量错误,但也很快得到了纠正。这说明这款模型并不是仅仅根据学习的素材对未知的数字进行排序,而是已经掌握了背后的方法。这个测试只是在一台笔记本电脑、算力非常有限的GPU上进行的。更不必说GPT-4了。参考链接:https://jbconsulting...
智能设备 2023-05-27 16:02:19 -
长城举报比亚迪的常压油箱,到底有没有问题?
【网易科技5月27日报道】最近车圈很不太平,比亚迪和长城汽车的事件连冲两次热搜。双方各自发布声明,使得业内和网友间激起千层浪...
智能设备 2023-05-27 11:58:35 -
币安创始人:没有马斯克狗狗币早就不存在了
币安创始人赵长鹏最近发表观点,对狗狗币在这么长时间后仍有大量支持者表示惊讶,并认为这和马斯克的背书有关。 赵长鹏周三在推特空间上的一次访谈中表示:“真正让我惊讶的一种表情包币实际上是狗狗币...
区块链 2023-05-20 02:18:51 -
安卓手机里为什么只有三星没有超级快充?看完你就明白了
相信有不少小伙伴可能会好奇,安卓手机里为什么只有三星没有超级快充呢?今天咱们就一起来好好聊一聊!价格过万的三星 Galaxy S23 Ultra 充电功率也就才 45W,在 iQOO11 Pro 的 200W 快充面前就是个“弟弟”。那么,三星为什么不配备超级快充呢?这就不得不提到 2016 年三星 Note7 电池爆炸事件了,为了提高电池安全性,挽回品牌形象,三星手机自此用上了凝胶电池...
手机互联 2023-05-19 08:56:15 -
如果我国在芯片领域完全突破了,那么会不会在科技局全球无敌了?
如果,连芯片都突破了,中国是不是无敌了?半导体研究机构IC Insights公布最新的芯片市场研究报告显示,2021 年,美国公司占据了全球芯片市场销售总额(包括IDM和Fabless厂商的芯片销售额的总和)的 54%,而中国大陆占比仅有4%。突破芯片封锁并不意味着中国无敌了...
手机互联 2023-05-18 10:06:08 -
没有孩子照顾的晚年,真的很可怜吗?
出品 | 虎嗅青年文化组作者 | 木子童编辑、制图丨渣渣郡本文首发于虎嗅年轻内容公众号“那個NG”(ID:huxiu4youth)。在这里,我们呈现当下年轻人的面貌、故事和态度...
智能设备 2023-05-14 11:22:44 -
欧盟表态如果苹果仍不改变,将在27个成员国内禁售,为什么会这样
欧盟表态如果苹果仍不改变,将在27个成员国内禁售,为什么会这样?据分析:1.低端版iPhone15或仍采用与Lightning接口传输规则相同的接口,也就是USB2...
手机互联 2023-05-11 01:51:43 -
如果苹果推出折叠屏手机,售价为一万元,你会想买吗?
如果苹果出一台折叠屏手机,售价为一万块,你会想买吗?为什么?如今的iPhone14Pro系列手机当中512G版本10699元;1T版本12499元!iPhone14ProMAX系列手机512G版本11699元;1T版本13499元!而且设计上来说并没有多少变化,并不像华为的mate50和mate50RS系列区别那么大!价格已经卖到了上万元了,所以一旦苹果推出折叠屏手机,我觉得可能会在一万五以上,甚至是2万以上的价格,很难售价到1万元!毕竟华为的折叠屏手机都卖到上万元了!华为mateX3折叠屏手机256G版本售价都已经到12999元,512G版本是13999元;还有一个典藏版本是15999元!最关键是2023年3月份发布的手机,搭载的还是骁龙8+芯片(最新的芯片是骁龙8Gen2芯片)。我觉得苹果推出折叠屏手机至少都会比华为贵,也有可能一样的价格,但是很难比华为手机便宜!华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆仑玻璃超强灵犀通信256GB羽砂白鸿蒙旗舰手机华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆...
手机互联 2023-05-09 09:56:30 -
如果苹果推出折叠屏手机,售价为一万元,你会想买吗?
如果苹果出一台折叠屏手机,售价为一万块,你会想买吗?为什么?如今的iPhone14Pro系列手机当中512G版本10699元;1T版本12499元!iPhone14ProMAX系列手机512G版本11699元;1T版本13499元!而且设计上来说并没有多少变化,并不像华为的mate50和mate50RS系列区别那么大!价格已经卖到了上万元了,所以一旦苹果推出折叠屏手机,我觉得可能会在一万五以上,甚至是2万以上的价格,很难售价到1万元!毕竟华为的折叠屏手机都卖到上万元了!华为mateX3折叠屏手机256G版本售价都已经到12999元,512G版本是13999元;还有一个典藏版本是15999元!最关键是2023年3月份发布的手机,搭载的还是骁龙8+芯片(最新的芯片是骁龙8Gen2芯片)。我觉得苹果推出折叠屏手机至少都会比华为贵,也有可能一样的价格,但是很难比华为手机便宜!华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆仑玻璃超强灵犀通信256GB羽砂白鸿蒙旗舰手机华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆...
手机互联 2023-05-09 09:56:26 -
如果苹果推出折叠屏手机,售价为一万元,你会想买吗?
如果苹果出一台折叠屏手机,售价为一万块,你会想买吗?为什么?如今的iPhone14Pro系列手机当中512G版本10699元;1T版本12499元!iPhone14ProMAX系列手机512G版本11699元;1T版本13499元!而且设计上来说并没有多少变化,并不像华为的mate50和mate50RS系列区别那么大!价格已经卖到了上万元了,所以一旦苹果推出折叠屏手机,我觉得可能会在一万五以上,甚至是2万以上的价格,很难售价到1万元!毕竟华为的折叠屏手机都卖到上万元了!华为mateX3折叠屏手机256G版本售价都已经到12999元,512G版本是13999元;还有一个典藏版本是15999元!最关键是2023年3月份发布的手机,搭载的还是骁龙8+芯片(最新的芯片是骁龙8Gen2芯片)。我觉得苹果推出折叠屏手机至少都会比华为贵,也有可能一样的价格,但是很难比华为手机便宜!华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆仑玻璃超强灵犀通信256GB羽砂白鸿蒙旗舰手机华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆...
手机互联 2023-05-09 09:56:22 -
如果苹果推出折叠屏手机,售价为一万元,你会想买吗?
如果苹果出一台折叠屏手机,售价为一万块,你会想买吗?为什么?如今的iPhone14Pro系列手机当中512G版本10699元;1T版本12499元!iPhone14ProMAX系列手机512G版本11699元;1T版本13499元!而且设计上来说并没有多少变化,并不像华为的mate50和mate50RS系列区别那么大!价格已经卖到了上万元了,所以一旦苹果推出折叠屏手机,我觉得可能会在一万五以上,甚至是2万以上的价格,很难售价到1万元!毕竟华为的折叠屏手机都卖到上万元了!华为mateX3折叠屏手机256G版本售价都已经到12999元,512G版本是13999元;还有一个典藏版本是15999元!最关键是2023年3月份发布的手机,搭载的还是骁龙8+芯片(最新的芯片是骁龙8Gen2芯片)。我觉得苹果推出折叠屏手机至少都会比华为贵,也有可能一样的价格,但是很难比华为手机便宜!华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆仑玻璃超强灵犀通信256GB羽砂白鸿蒙旗舰手机华为的折叠屏手机已经卖到上万元了:华为/HUAWEIMateX3折叠屏手机超轻薄超可靠昆...
手机互联 2023-05-09 09:56:18