-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
苹果零售店继续深入中国市场，未来几年或在上海温州佛山开新店
6月2日消息，苹果公司正计划扩大和振兴其零售连锁店，旨在进一步开拓中国等亚洲市场，并全面升级美国和欧洲现有门店。据知情人士透露，到2027年，苹果计划在亚太地区开设15家新店，在欧洲和中东开设5家门店，并在美国和加拿大再开设4家门店...
业界动态 2023-06-02 17:08:20 -
苹果官方首次直播却不带货，背后原因值得深思
苹果天猫官方旗舰店的直播活动虽然已经结束，但其影响却仍在持续。这次直播是苹果品牌在全球范围内首次尝试的直播方式，这次直播并没有什么带货促销，只是介绍了产品本身...
手机互联 2023-06-02 15:56:52 -
能链智电完成新一轮战略融资获郑志刚博士和中誉集团等加持
【网易科技5月31日报道】能链智电（NASDAQ：NAAS）公告显示，已完成350万股美国存托股票（ADS）增发交易，投资人包括郑志刚博士及港股老牌上市公司中誉集团（00985. HK)等。资料显示，郑志刚博士为郑裕彤先生的长孙，如今家族掌门人，现担任新世界发展有限公司行政总裁，管理新创建集团（00659...
智能设备 2023-06-01 10:31:52 -
飞猪与大阪观光局签署战略协议：打造面向中国游客的“酷旅行”目的地
6月1日消息，飞猪旅行日前宣布与大阪观光局签署战略合作协议，在促进大阪特色旅游服务的线上线下销售、数字化营销和目的地品牌打造等方面开展全面合作。飞猪旅行表示，今年以来，中国出境旅游市场加速回暖，海外目的地纷纷发力部署新方案，推出更有趣的旅游产品、更便捷的服务欢迎中国游客回归；飞猪数据显示，4月份飞猪平台上飞往大阪的机票预订量同比去年增超9倍，环比上月增长124%，本地酒店预订量同比去年劲增超20倍；在面向暑期旅游的618年中大促中，大阪相关活动商品销量累计近3万件，“日本关西酒店大合辑阪急阪神双人双晚/单晚套餐”上线仅4小时销量即破万件，截至目前，大阪已成为飞猪618活动商品订单量排名前三的出境游目的地，越来越多的中国游客把大阪作为出境旅行的首选城市...
互联网 2023-06-01 10:30:24 -
还要“去中国化”？戴尔在华出货量暴跌近50%，华为逆袭成第二
随着智能手机的流行，PC（个人电脑）市场正在逐渐萎缩，这个是全球现象。即便如此，全球各大厂之间依然竞争激烈。如今，继美国美光产品在华被禁售之后，又一家美企在华生意惨淡。据观察者网报道，根据市场调研机构发布的最新数据，今年第一季度，华为PC国内市场出货量同比增长34.1%，以10...
手机互联 2023-06-01 00:48:01 -
摩托罗拉MotoGStylus5G（2023）发布，搭载骁龙6Gen1芯片
IT之家 5 月 31 日消息，摩托罗拉推出了其第三代 Moto G Stylus 5G 手机，是首批采用高通骁龙 6 Gen 1 芯片组的设备之一。该设备保留了位于充电端口旁边的标志性手写笔，但不支持三星 Galaxy S23 Ultra 的 S Pen 那样的蓝牙或压感功能。Moto G Stylus 5G (2023) 采用 6.6 英寸 FHD + 分辨率的 IPS LCD 屏幕，刷新率为 120Hz。屏幕上有一个小小的孔洞，用于放置 1600 万像素的前置摄像头。今年的 Moto G Stylus 在后面增加了一颗 5000 万像素的主摄像头（f / 1...
手机互联 2023-05-31 07:54:45 -
中国工程院院士赵春江：中国几亿农民，受教育程度和发达国家相比大概差十几年
5月30日消息，在2023中关村论坛“智能+教育”论坛上，中国工程院院士、北京市科协副主席赵春江院士发表了主题演讲。赵春江谈到，中国是一个农业大国，有2.3亿农户，大概有几亿农民。现在从受教育的程度来看，农民兄弟是受教育程度年头最少，和发达国家进行比较，大概差十几年，现在农村地区文盲占相当的比例。赵春江强调，当前农业内容多，面积大，人也多，范围广，交通不方便，要改变农民理念和观念，提高他的技能和素质难，但是我们可以采取潜移默化的形式。过去他没有过正规的教育，但是通过成人之后再教育或者职业教育，提高他素质，使他成为新农民。赵春江谈到，目前智能教育得到了国际上的高度重视。未来通过AI技术能够和教育紧密结合，把教育的过程更加科学化、合理化和智能化，提高质量和效益。这些资源可以用于农业教育环节。对此，赵春江指出，要做好智能+教育，除了要有知识体系的建设，还要有农业知识图谱。他谈到，有了丰富的知识，可以集中在一起，构建一个和网络相衔接的平台，形成全国农业科教云平台。这是教育部的一个平台，这个平台连接了1100万用户，非常庞大的用户。赵春江谈到，现在智能+教育核心解决两个问题，一是人机协作如何更聪明，二是人机对话如何更友好。当然现在虽然人工智能也不是万能的，ChatGPT4是生成式人工智能，目前有些国家是严格限制。中国如果小孩子通过翻墙把这个弄过来，用于他的学习上，肯定不动脑子了，写作文，说主题词，控制在800字，一会儿就写完了，交给老师，对他成长不利。智能+教育有好的方面，但是我们要从伦理、负面控制好。 ...
互联网 2023-05-30 16:09:21 -
中国工程院院士张平：要构建“许可Web3.0”，发展中国自主元宇宙
5月30日消息，近日在2023年中关村论坛平行论坛“互联网3.0：未来互联网产业发展”上，中国工程院院士、北京邮电大学教授张平提出构建“许可Web3...
业界动态 2023-05-30 11:32:54 -
神舟十六号顺利出征马斯克：中国航天超牛！
文丨御柳出品丨网易科技《逐梦星空》栏目组今天，神舟十六号载人飞船由“长征二号F”遥十六运载火箭在酒泉发射升空。船箭分离后飞船将采用快速交会对接模式上行，最终对接于“天和”核心舱径向端口...
智能设备 2023-05-30 10:51:47 -
中国信通院“OSCAR合规治理沙龙”成功召开
2023年5月29日，由中国信息通信研究院、中国通信标准化协会主办的OSCAR开源合规沙龙在北京成功召开。大会发布了《纸鸢开放人工智能模型许可证》、《开源知识产权案例集（著作权篇）》、开源合规领航者企业案例评选结果，解读了可信开源合规系列标准和成果，并为首批开源合规-软件产品开源合规能力试评估通过企业、可信开源合规计划（TWOS-C）新成员举行了颁证仪式...
智能设备 2023-05-29 22:40:44 -
中国工程院院士马永生：天然气是中国能源转型最现实的选择
5月29日消息，中关村平行论坛国企发现与发明论坛现场，中国工程院院士、中国石化董事长马永生发表了主题演讲，谈到天然气是我国能源转型最现实的选择，2024年前将主要发挥减碳、减煤、替煤的兜底作用。马永生谈到，从能源转型的趋势来看，绿色低碳转型成为浩荡时代潮流...
业界动态 2023-05-29 16:55:41
