-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
日本拟要求苹果开放第三方应用商店、并禁止谷歌偏袒自家服务
IT之家 6 月 2 日消息，据日本读卖新闻报道，日本政府已经决定对大型 IT 公司的运营服务引入新的法规，并根据日本的立法审议条例，争取最早明年向国会提交议案。新规将要求苹果对 iOS 开放第三方应用商店，同时也禁止谷歌在搜索结果中偏袒自己的服务...
智能设备 2023-06-02 11:23:43 -
消息称初代12英寸MacBook将于6月列为过时产品
IT之家 6 月 2 日消息，根据国外科技媒体 MacRumors 获得的内部备忘录，苹果公司计划 6 月 30 日，将初代 12 英寸 MacBook 列为“过时产品”。IT之家在此附上苹果关于“过时产品”的定义如下：过时产品是指 Apple 停止发售之日起已超过 5 年但未满 7 年的产品。列为“过时产品”的设备，如果出现损坏或者寻求售后帮助，由于苹果官方不再提供相关的零件，无法再通过 Apple Store 零售店和 Apple 授权服务提供商进行维修和服务。苹果于 2015 年 3 月推出了 12 英寸的 MacBook 采用轻薄设计，重量仅为两磅，也是苹果首款无风扇笔记本电脑，起价为 1299 美元（IT之家备注：当前约 9236 元人民币）。初代型号标准规格包括 1.1GHz 双核 Intel Core M 处理器，集成英特尔显卡，8GB RAM 和 256GB SSD。 ...
智能设备 2023-06-02 11:23:39 -
日本再次要求苹果开放第三方应用商店此前曾遭拒绝
【手机中国新闻】近日，据日本读卖新闻报道，日本再一次要求苹果允许使用第三方应用商店。此前有消息称，日本政府计划通过立法迫使苹果开放第三方应用商店。日本也因此成为继美国和欧洲之后，又一个要求苹果进一步开放的国家和地区。苹果App Store 在日本政府4月份的一份报告中，对苹果、谷歌对智能手机市场的控制表示了担忧，他们认为苹果、谷歌的政策可能会损坏应用供应商的利益，并提议制定新规来禁止平台限制用户选择如何使用他们的设备。此外，日本政府还在报告中对苹果的抽成政策进行了质疑，并呼吁系统供应商开放第三方应用商店，以及公布有关系统的完整信息。 不过苹果似乎并不打算答应上述要求，苹果在一份声明中表示，“我们尊重不同意政府在报告中得出的一些结论”，但苹果同时表示，其经营的每个部门都面临着激烈的竞争，并表示将继续与日本政府进行建设性的合作。就在昨日，苹果官方公布的数据显示，2022年App Store开发者在App Store生态系统创下1.1万亿美元营业与销售额，这也为苹果带来了非常可观的收入。 在去年时，由于受到欧盟最新推出的《数字市场法案》的影响，苹果准备允许其iPhone和iPad用户使用第三方应用商店替代App Store，以作为其全面改革的一部分。除此之外，欧盟还要求苹果向APP开发商开放更多权限，包括允许开发者在其APP中安装第三方支付系统以取代Apple Pay，但苹果尚未就是否遵守这一项规定做出最终决定。 ...
手机互联 2023-06-02 10:32:53 -
奇富科技机器人团队语音论文入选INTERSPEECH2023
6月1日消息，近日，奇富科技机器人团队论文《Eden-TTS：一种简单高效的非自回归“端到端可微分”神经网络的语音合成架构》（Eden-TTS: A Simple and Efficient Parallel Text-to-speech Architecture with Collaborative Duration-alignment Learning）被全球语音与声学顶级会议INTERSPEECH 2023接收。据悉，INTERSPEECH是由国际语音通讯协会（International Speech Communication Association, ISCA）创办的语音信号处理领域顶级旗舰国际会议，是全球最大的综合性语音信号处理盛会，在国际上享有盛誉并具有广泛的学术影响力。奇富科技的论文研究成果为需要文本转语音的应用场景提供了创新的解决方案，提出了一种端到端可微的非自回归神经网络语音合成模型架构。基于文本音素时长与alignment的密切关系，论文提出了一种简单高效的alignment学习方式：首先采用一种新的energy-modulated注意力机制得到guided alignment，然后利用guided alignment计算音素的时长信息，最后通过音素的时长信息构建monotonic alignment。本方法无需外部的alignment信息，无需引入额外的alignment损失函数。对业务提效而言，这种端到端可微的方法使得各个模块可以方便地替换为各种类型的神经网络模块，从而具有良好的扩展性和稳定性。相比于主流的自回归模型，推理速度提升了10倍以上，能够满足实时语音合成的需求。根据进行的多人MOS评测，该方法的MOS分值达到了4.32分（满分为5分），合成语音的自然流畅程度接近于目前最优的自回归模型，显著优于同类型的非自回归模型。此外，与同类型方法相比，该方法可以节约50%以上的训练时间，显著提升模型训练效率。奇富科技在对话机器人领域一直坚持投入、坚持自研。就在两个月前，奇富科技另一篇音频论文《基于多粒度Transformer的多模态情绪识别》（Multilevel Transformer for Multimodal Emotion Recognition）被第48届IEEE声学、语音与信号处理国际会议(IEEE International Conference on Acoustics, Speech and Signal Processing, ICASSP 2023)接收。“我们很高兴在理解用户、优化表达方面取得了关键性的成果。随着奇富GPT对于公司各业务层的重构，我们已经极大提升了对于用户在文本上的理解能力，从语音到文本，再从文本回到语音，更好的识别是为了更好的表达和输出，我们将持续投入，用前沿技术重塑用户体验。”奇富科技首席算法科学家费浩峻表示。（一橙） ...
业界动态 2023-06-01 12:40:34 -
阿里云AI新产品“通义听悟”宣布公测可体验大模型摘要能力
【网易科技6月1日报道】阿里云宣布通义大模型进展，聚焦音视频内容的AI新品“通义听悟”正式上线。记者获悉，通义听悟接入了通义千问大模型的理解与摘要能力，可成为用户工作学习中的得力AI助手，帮助随时随地高效完成对音视频内容的转写、检索、摘要和整理，比如用大模型自动做笔记、整理访谈、提取PPT等...
智能设备 2023-06-01 11:32:44 -
币安确认开启人员优化，调整组织架构之际还将开放数百个职位
界面新闻记者｜司马林威全球最大加密货币交易平台币安也迎来组织架构调整。5月31日，据吴说区块链援引多位消息人士称，全球最大加密货币交易平台币安已启动裁员，目前比例尚不确定。币安总人数约为8000人，赔偿方案将根据各地不同情况制定。市场传闻6月裁员比例约为20%，少数部门仍在继续招聘。吴说称此次裁员可能与整体行情不佳以及此前币安人数扩张较大有关。对于此消息，币安方面对界面新闻回应称：“在过去的6年里，币安已从30名员工发展到一个在全球拥有近8000名员工的团队。随着企业的发展，我们需要关注组织内各个层面的人才密度，以确保我们保持敏捷和活力。这不是调整组织规模的问题，而是重新评估我们在关键岗位上是否拥有合适的人才及其是否拥有足够的专业知识。因此我们仍将开放数百个空缺职位，包括某些产品和业务部门，以确保我们的资源得到合理分配，以满足用户和监管单位不断变化的需求。”币安首席通讯官Patrick Hillmann随后在社交媒体上否认了20%的裁员规模，他表示：“币安并没有削减20%的员工作为削减成本的措施。 币安在过去5年中经历了真正的指数级增长，并相应地增加了员工人数。这是一个需要克服的历史性运营挑战。”截至目前，在公开数据统计中，币安的员工人数是加密货币领域最高的公司之一，也是整体规模最大的加密企业。在各大统计网站中，币安的交易量远超其它加密交易平台。根据官方公布的最新储备资产证明，目前其储备资产价值超500亿美元。正如币安在其回应中提及称，监管单位的需求是这家加密巨头近年来投入最多的领域之一。5月13日，币安在其官方社交平台宣布，将跟随其它加密企业的步伐，正式退出加拿大市场，主要受近期加拿大监管机构对于加密货币新的监管指南影响。币安创始人兼首席执行官赵长鹏曾表示，币安致力于与美国和全球的监管机构及执法机构（LE）保持透明度和合作。币安目前有超过750人的合规团队，许多人此前有执法和监管机构工作的背景。在2022年的加密寒冬后，大多加密货币公司都选择了裁员以降低运营成本。年初至今，加密货币行业已削减超过2000个工作岗位，Coinbase Global、Crypto.com、Huobi Global、Gemini和Luno此前均已宣布裁员。就在币安宣布优化人员同日，区块链数据分析产品Nansen也宣布裁员30%。 ...
区块链 2023-06-01 10:55:54 -
摩尔线程发布系列产品宣布将推动GPU全面落地摩笔马良内测上线
【网易科技5月31日报道】摩尔线程今日在北京举办2023夏季发布会，宣布了一系列新产品与技术更新，涵盖数字办公、娱乐与创作、AI与云计算以及元宇宙等GPU重要应用场景。据介绍，此次发布会主要发布以下内容：第一， 面向游戏爱好者的DirectX 11社区版驱动，计划于6月下旬发布基于DirectX 11的社区版驱动，解锁包括《原神》和《DOTA2》等3A级游戏作品。第二，发布全新游戏显卡MTT S70及整机产品“智娱摩方”，MTT S70对于剪映、OBS等视频直播和剪辑类软件可直接支持。第三，GPU物理引擎AlphaCore迎来全新升级并开放测试下载。第四，推出云桌面产品MT vGPU 2.1和MCCX VDI云桌面一体机，助力教育和办公。第五，发布MUSA Toolkit 1...
智能设备 2023-05-31 21:02:08 -
旗天科技：目前与多家国有大行、股份制银行、城商行共计开展十余个数字人民币营销推广项目
旗天科技5月30日在互动平台表示，公司已关注到《江苏省工业和信息化领域数字人民币试点实施方案》，并将积极关注跟踪数字人民币相关政策等情况。截至目前，公司与多家国有大行、股份制银行、城商行共计开展十余个数字人民币营销推广项目，在数字人民币营销场景业务上积累了丰富经验，并获得银行的一致认可...
区块链 2023-05-30 20:52:10 -
香港大学校长张翔：科技“卡脖子”，是因为以前别人天马行空，我们在忙别的
5月30日消息，2023中关村平行论坛未来科学论坛现场，香港大学校长、美国国家工程院院士、中国科学院院士张翔谈到，为什么中国现在有“卡脖子”问题，是因为30年前，别人做天马行空事情的时候，你还在做其他的事。所以怎样走在时间前，需要我们要在源头真正做一些创新性、颠覆性的研究...
互联网 2023-05-30 15:35:31 -
基于飞桨和文心大模型数链科技发布大宗商品数字供应链系统
【网易科技5月29日报道】近日，数链科技团队推出基于飞桨技术的创新非标单据数字化解决方案，旨在破除大宗商品行业的信息壁垒。此前，大宗商品供应链中的物流票据、合同等交易信息常以实物形式存在，需要人工拍照、存档并进行信息录入，存在不透明和不标准的问题...
智能设备 2023-05-29 22:40:25 -
联发科技宣布与英伟达合作为软件定义汽车提供AI智能座舱方案
5月29日消息，联发科技今天宣布与NVIDIA合作，为软件定义汽车提供完整的AI智能座舱方案。通过此次合作，MediaTek将开发集成NVIDIA GPU 芯粒（chiplet）的汽车SoC，搭载NVIDIA AI和图形计算IP...
业界动态 2023-05-29 16:08:23
