-
GPT-4变笨引爆舆论！文本代码质量都下降，OpenAI刚刚回应了质疑
梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”，后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后，“几周之前开始变差”，成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧？”，也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致，只是由于大模型本身的不稳定性吗？”，也得到了“Yes”的回复。但是截至目前，针对网页版GPT-4是否被降级过的两条追问都没有得到回答，并且Logan在这段时间有发布别的内容。那么事情究竟如何，不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差，我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗？3月底，我们曾实验过让GPT-4“炼丹”，用Python写一个多层感知机来实现异或门。△ShareGPT截图，界面稍有不同让GPT-4改用numpy不用框架后，第一次给出的结果不对。在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从sigmoid修改成tanh。6月2日，我们再次尝试让GPT-4完成这个任务，但换成了中文提示词。这回GPT-4第一次就没有使用框架，但给的代码仍然不对。后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降，但响应速度感觉确实有变快。由于时间有限，我们只进行了这一个实验，且由于AI本身的随机性，也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索，发现从4月下旬开始，就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论，也没有得到官方正式回应。5月31日，Hacker News和Twitter同天开始大量有网友讨论这个问题，成为整个事件的关键节点。HackerNews一位网友指出，在GPT-4的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的，是HyperWrite（一款基于GPT API开发的写作工具）的CEO，Matt Shumer。但这条推文却引发了许多网友的共鸣，OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意，反而讨论的范围越来越大。比如Reddit上一篇帖子提到，原来能回答代码问题的GPT-4，现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下，帖子作者对问题出现的过程进行了概述，还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过，公开层面确实没有相关记录。ChatGPT的更新日志中，分别在1月9日、1月30日、2月13日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了，只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说，GPT-4模型本身的能力没有变化，那么这么多人都感觉它表现变差是怎么回事呢？很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示，不是GPT的表现变差，而是大家度过了最初的惊喜期，对它的期待变高了。Hacker News上也有网友持相同观点，并补充到人们的关注点发生了改变，对GPT失误的敏感度更高了。抛开人们心理感受的差异，也有人怀疑API版本和网页版本不一定一致，但没什么实据。还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示，在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变，但推理参数是否有变化？量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话，它会知道自己在通过手机与你交互。会把回答控制在一到两句话，除非需要长的推理。不会使用表情包，除非你明确要求他使用。△不一定成功，大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到，就可能观察到GPT-4回答变简单了。总之，GPT-4自发布以来到底有没有变笨，目前还是个未解之谜。但有一点可以确定：3月14日起大家上手玩到的GPT-4，从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花：GPT-4早期实验》中明确：他们早在GPT-4开发未完成时就得到了测试资格，并进行了长期测试。后来针对论文中很多惊艳例子，网友都不能成功用公开版GPT-4复现。目前学术界有个观点是，后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next｜科技早知道》S7E11期中也提到：那个版本的模型，比现在外面大家都可以拿得到的GPT-4还要更强，强得非常非常多。举例来说，微软团队在论文中提到，他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果，画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法，也成了现在很多团队的研究方向，但还在起步阶段。除了专业研究团队之外，关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽，并在网站上公开记录。从4月12日开始，直到现在也还没看出来个独角兽的大致形态。当然网站作者表示，自己让GPT-4使用SVG格式画图，与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差，也没看出来明显退步。最后来问问大家，你是GPT-4用户么？最近几周有感到GPT-4能力下降么？欢迎在评论区聊聊。Bubeck演讲：https://www...
智能设备 2023-06-03 10:09:46 -
AI席卷华尔街：对冲基金部署ChatGPT，银行展开“军备竞赛”
·华尔街正在探索以ChatGPT为主的最新流行工具，希望通过提供足量的金融信息，使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。·在最热衷于AI的银行中，大约40%的空缺职位是与AI相关的招聘，如数据工程师、量化分析师以及治理岗位。包括亿万富翁投资者沃伦·巴菲特在内的许多人认为，热衷于采用复杂的AI系统是未来风险降临的先兆。人工智能革命正在金融界上演。对冲基金公司正在部署ChatGPT处理繁重工作，德意志银行使用人工智能（AI）扫描客户的投资组合，荷兰国际集团利用AI筛选潜在的违约方。摩根士丹利表示，正在安全、可控的环境中试验运用AI技术。与此同时，摩根大通正在广泛吸纳AI人才，提供的相关招聘职位多于任何竞争对手。“苦活、累活”都交给AI事实上，AI早已应用于华尔街的各项工作中，比如计算信贷风险的机器学习算法。而现阶段，华尔街正在探索以ChatGPT为主的最新流行工具，希望通过提供足量的金融信息，使机器达到合理地为期权定价、建立投资组合或分析公司新闻的能力水平。金融从业者需要处理大量财经文本数据，如新闻、报告、评级等，甚至更深层次的程序代码编写工作， AI正在逐步接手。据彭博社5月31日报道，一些对冲基金公司表示，生成式AI已被用于处理市场研究审查、基础代码编写与基金业绩总结等普通任务，这些曾经“折磨”华尔街初级员工的“苦活、累活”都将交由AI消化、完成。系统性量化对冲基金Campbell & Co的首席执行官凯文·科尔（Kevin Cole）透露，该公司的量化分析师们使用大语言模型总结内部研究报告。凯文表示，AI在补全代码、编辑、查错等方面的能力非常强大。不过，人类员工仍会进行干预。目前的生成式智能工具，尚没有达到能改变人类日常投资方法的地步。据彭博社6月1日报道，帮助高盛集团和荷兰国际集团等公司开展AI业务的公司Eigen Technologies表示，与去年同期相比，2023年第一季度来自银行的咨询增加了五倍。咨询企业Evident的首席执行官兼联合创始人亚历山德拉·穆萨维扎德（Alexandra Mousavizadeh）表示，2022年11月ChatGPT的发布，“让每个人——董事会、首席执行官和银行的领导层——更加意识到这是一个改变游戏规则的因素”。她将这种情况描述为“人工智能军备竞赛”。德意志银行正在部署深度学习技术，以分析国际私人银行客户是否过度投资于某种特定资产，并为个人客户匹配合适的基金、债券或股票。在遵守法规的前提下，真人顾问会向顾客传递AI生成的建议。德意志国际私人银行数据解决方案全球负责人克里斯汀·安妮·布雷姆克（Kirsten-Anne Bremke）表示：“我非常喜欢这种将人工智能与人类智能结合起来的方式。”摩根大通出台了类似的计划。据知情人士透露，该公司今年5月为一项类似于ChatGPT的服务申请了专利，它可以帮助投资者选择特定的股票，目前该项目还处于初期阶段。法国巴黎银行正在使用聊天机器人回答客户问题，利用AI检测并预防欺诈和洗钱行为。法国兴业银行则利用AI的计算能力扫描资本市场中的潜在不当行为。今年4月，摩根士丹利表示，已经为一个模型申请了专利，该模型以侦测货币政策方向为目标，通过使用AI技术将美联储的信息划分为鹰派或鸽派。3月21日，华尔街投行高盛的首席信息官马可·阿让蒂（Marco Argenti）表示，内部开发人员已开始使用生成式AI进行编程。“现在这项技术还处于早期阶段。我们不会立即将所有重要工作都交由AI来完成，但当务之急是真正尝试并了解AI的潜力。”阿让蒂感叹道，“我从事技术工作已经将近40年，这是我见过的最大的颠覆之一——可能与互联网、应用程序、云计算相媲美。”风险与安全问题但这种风潮还是引发了对金融AI透明度和有效性的担忧。包括亿万富翁投资者沃伦·巴菲特（Warren Buffett）在内的许多人认为，热衷于采用复杂的AI系统是未来风险降临的先兆。银行家负有不根据不可靠信息进行交易的受托责任。纽约Friedman Kaplan Seiler Adelman & Robbins律师事务所的合伙人安妮·博蒙特（Anne Beaumont）表示，随着AI应用的扩大，这是一个问题。“当你在不知道问题是什么的情况下使用了AI回答时，你如何向投资者和监管机构证明你已经履行了职责？”今年4月，韩国三星电子被曝发生了3起员工使用ChatGPT导致机密数据外泄的事件。该公司员工将公司系统程序代码上传至ChatGPT，要求AI帮助修复错误和改善程序代码，并将会议记录输入至ChatGPT，指示AI帮忙做重点整理，导致工厂性能、产量等机密数据变成GPT模型训练数据的一部分。博通咨询研究院首席分析师王蓬博曾指出，金融从业者使用ChatGPT，即使用户是无意识的，也很有可能造成个人信息和数据的泄露。除此以外，无论是GPT-4，还是其他大型语言模型，均存在AI“幻觉（Hallucination）”问题，偶尔会无中生有、捏造信息。假如分析师使用ChatGPT来生成研究报告，内容看似相当可信，但如果报告中发出了虚假信息，错误成为一家上市公司的利空或利多消息，将造成非常严重的后果。此外，AI模型直接从互联网抓取信息训练数据，有可能夹杂了某些版权作品。对银行或提供财经信息的通讯社而言，此举有侵权之嫌，可能会损害公司声誉。“金融行业是一个严监管的行业，对于个人信息和相关的商业数据特别敏感。”王蓬博说，金融机构使用ChatGPT类产品，要先进行可控范围的评估，做好预防措施。咨询公司麦肯锡的合伙人卡罗·乔瓦尼（Carlo Giovine）表示，在与银行和保险公司合作时，他们会重新设计风险框架，以应对知识产权方面的考虑、不确定的监管环境以及AI“幻觉”等风险。Campbell & Co的科尔表示，公司内部正在试验使用一套开源模型，虽然处理能力不及ChatGPT，但胜在整套系统能够在本地部署、本地运行。科尔称：“我们必须非常小心此类工具带来的泄露风险。”开发和运行成本高近年来，银行业对于利用技术获取优势并不陌生，纷纷招募数据科学家、机器学习专家甚至天体物理学家。如今，这些投资正开始取得成果。美国银行首席执行官布莱恩·莫伊尼汉（Brian Moynihan）4月表示，AI可能带来“极大的好处”，有助于减少员工数量，但同时也要谨慎行事。巴克莱银行在金融AI领域仍处于“认真研究”阶段。首席执行官文卡塔克里什南（C.S...
智能设备 2023-06-03 10:08:50 -
Redmi12手机渲染图曝光：联发科HelioG88芯片、67W快充头
IT之家 6 月 2 日消息，小米预计将发布 Redmi 12 手机，此前已通过多项认证。现在微博博主 @数码闲聊站 曝光了 Redmi 12 手机的一些配置，设备代号 M19，工程机搭载联发科 Helio G88 芯片，采用 67W 快充头，搭载 90Hz 的 FUll HD + 分辨率 LCD 居中打孔屏幕，采用玻璃后盖，后置三摄像头...
手机互联 2023-06-02 15:56:51 -
苹果WWDC23即将召开，Meta抢先发布新款VR头戴式装置
《华尔街日报》6月2日消息，Meta首席执行官扎克伯格发布了该公司最新版的虚拟现实头戴式装置Meta Quest 3。产品采用高通新芯片，装置本身比前一代薄了40%，显示屏和分辨率也有所提升...
智能设备 2023-06-02 11:23:41 -
微软继续加注！与初创公司CoreWeave签署AI算力协议
①微软已经与CoreWeave签署人工智能算力协议，价值可能高达数十亿美元； ②CoreWeave写道，该公司提供的计算能力“比传统云提供商便宜80%”。 财联社6月2日讯（编辑 牛占林）对OpenAI的巨额投资，让微软在这场人工智能(AI)竞赛中捷足先登。与此同时，这家软件巨头还试图借助其他领域推动其人工智能业务的发展。美东时间周四，据知情人士透露，微软已经与初创公司CoreWeave签署人工智能算力协议，用于云计算基础设施，价值可能高达数十亿美元。CoreWeave周三宣布，已获得2亿美元融资。就在一个多月前，该公司获得了20亿美元的估值。CoreWeave周三宣布获得对冲基金Magnetar Capital的融资，是4月份2.21亿美元融资的延续。此外，英伟达在该公司之前的融资中投资了1亿美元。据悉，CoreWeave成立于2017年，最初是一家以太坊采矿企业，目前则专门提供基于图形处理单元(GPU)的云计算服务。CoreWeave旨在通过比超大规模企业更快的创新来主导人工智能技术，为蓬勃发展的行业提供支持。在人工智能热潮中，CoreWeave向这些人工智能公司出售算力，与微软Azure和亚马逊的AWS等云计算服务提供商展开竞争。CoreWeave在其网站中写道，该公司提供的计算能力“比传统云提供商便宜80%”，使用了一种名为无限带宽(InfiniBand)的网络技术将计算机连接在一起，为人工智能工作构建不同的数据中心。此外，CoreWeave还提供更便宜的Nvidia A40 GPU，主要用于视觉计算，而A100则主要针对人工智能、数据分析和高性能计算。CoreWeave首席执行官Michael Intrator表示，公司为生成式人工智能、大型语言模型和人工智能工厂提供加速计算基础设施的战略，将有助于为每个行业带来最高性能、最节能的计算平台。知情人士表示，为了确保ChatGPT未来拥有足够的算力，微软今年早些时候便与CoreWeave签署了协议。除了资金外，OpenAI还依赖微软的Azure云来满足计算需求。英伟达首席财务官Colette Kress在上周的财报电话会议上表示，公司业绩的增长趋势主要由数据中心推动，反映出与生成式人工智能和大型语言模型相关的需求急剧增长。Kress还提到了CoreWeave。3月份，英伟达首席执行官黄仁勋也提到了这家初创公司。CoreWeave联合创始人兼首席战略官Brannin McBee指出，他的公司与英伟达保持着密切的合作关系，在当前人工智能芯片稀缺的市场中，获得芯片供应至关重要，CoreWeave比许多规模更大的竞争对手更早地使用了英伟达的H100芯片。 ...
智能设备 2023-06-02 11:23:39 -
曝骁龙8Gen310月底发布：小米14/RedmiK70稳了
快科技6月2日消息，博主数码闲聊站透露，高通骁龙8 Gen3提前至10月底发布，相关终端会在11月份陆续亮相。据悉，首批搭载高通骁龙8 Gen3的旗舰设备包括小米14系列、vivo X100系列、iQOO 12系列、Redmi K70系列、一加12、真我GT5等等...
手机互联 2023-06-02 10:32:51 -
苹果首款头显RealityPro高清渲染图曝光：配“数字表冠”
IT之家 6 月 1 日消息，国外科技媒体 9to5Mac 基于现有公开的技术专利、相关报告，并参考部分传闻信息，制作了苹果首款 AR / VR 头显 Reality Pro 的高清渲染图。该媒体认为苹果 Reality Pro 头显采用类似于传统滑雪护目镜的设计，并融入了一些 Apple Watch、AirPods Max 的设计风格。在头显顶部配有两个物理按钮，左侧为一个可按击的按钮，用于开启 / 关闭某项软件功能；右侧为一个名为“Reality Dial”数字表冠，可以切换 AR 和 VR 场景视图。头显还配有一系列传感器和摄像头，但巧妙地伪装在框架中。头显的带子左侧是一体式的，无法取下，只有通过右侧取下。这款头显不内置电池，消费者需要额外佩戴连接到头显的电池组。在右侧还有一个可兼作充电器的扣子。我们想象这看起来很像感应式 Apple Watch 充电器。IT之家此前报道，罗斯・杨在推文中表示，苹果首款头显将配备 2 块 1.4 英寸的屏幕，材质为 Micro OLED（OLED on Silicon），亮度会超过 5000 尼特，像素密度为每英寸 4000 个像素点，每块屏幕的分辨率也达到了 4K。苹果的这款头显凭借着高于 5000 尼特的亮度，可以支持主流头显市场并不具备的 HDR 内容。 ...
智能设备 2023-06-01 10:45:39 -
苹果邀请开发者“编码新世界”，暗示即将推出RealityPro头显
IT之家 5 月 31 日消息，距离苹果公司的全球开发者大会（WWDC）只有不到一周的时间，苹果公司在其开发者网站上发布了一篇博客文章，暗示了即将推出的 Reality Pro 头戴式设备，邀请开发者关注并学习如何“编码新世界（Code new worlds）”。“编码新世界”这一标语是苹果公司今天才开始使用的，明显是对新软件平台的暗示...
智能设备 2023-05-31 10:53:49 -
苹果首款AR/VR头显规格曝光：2块4K屏峰值亮度惊人
【手机中国新闻】5月31日，分析师Ross Young曝光了苹果首款头显的规格，其将配备2块1.4英寸的Micro OLED（OLED on Silicon）屏幕，分辨率都达到4K标准，而且亮度超过5000尼特，屏幕像素密度也达到每英寸4000的数值。WWDC235000尼特的亮度，这是一个比较夸张的数值，因为目前上市的主流头显很少能达到这个规格，Meta Quest 2的最大亮度也就是100尼特。这意味着，苹果首款头显产品的屏幕将拥有更高的对比度，带来更明亮的色彩和更好的呈现效果。苹果头显规格曝光根据此前的爆料，苹果首款头显产品将被命名为“Reality Pro”，将配备高达15个摄像头，拥有先进的眼球追踪技术，从而给用户带来更真实、更沉浸的使用体验。据悉，Reality Pro最早会在6月份开启量产，12月份大规模生产，价格预计可达3000美元。如果是其他厂商的头显产品，它可能会在市场上遇冷。但这是苹果的首款头显，即便价格超过2万元，为它买单的可能不在少数。值得注意的是，临近6月份，在在6月6日WWDC23正式开幕前，苹果最新的宣传页面出现了一个AR/VR彩蛋。如此说来，苹果首款AR/VR头显即便不会在WWDC23正式上市，也会对外展示。 ...
手机互联 2023-05-31 10:03:13 -
可装RTX4090显卡，酷冷至尊展示紧凑型机箱NCore100Max
IT之家 5 月 30 日消息，酷冷至尊（Cooler Master）在 Computex 2023 大展上，展示了一款适配英伟达旗舰 RTX 4090 显卡的紧凑型机箱-NCore 100 Max。NCore 100 Max 机箱高度为 481mm，宽度为 212mm、厚度在 155 至 172mm 之间。该机箱内部有足够的空间容纳长度达 357 毫米的 GeForce RTX 4090，允许安装厚度为三槽位、四槽位的显卡。NCore 100 Max 机箱内部使用 Mini-ITX 主板，没有透明背板和 RGB 灯效，不过有带灰尘过滤器的穿孔铝墙。NCore 100 Max 机箱预装 850WV SFX Gold ATX 3.0 电源和一个用于 2...
智能设备 2023-05-30 10:51:39 -
RedmiNote12TPro买到赚到！卢伟冰：恐怕再难有了
快科技5月29日消息，小米集团卢伟冰发文表示，Redmi Note 12T Pro这样顶级的LCD屏手机恐怕再难有了，希望Note 12T Pro成为LCD真爱粉们的心头好。那Redmi为什么还要坚持做LCD手机？卢伟冰表示，因为我们的用户需要...
手机互联 2023-05-29 11:08:18 -
RedmiNote12TPro官宣：搭载联发科天玑8200-Ultra，LCD屏
IT之家 5 月 29 日消息，今日 Redmi 官方公布了 Redmi Note 12T Pro 手机，该机搭载联发科天玑 8200-Ultra 移动处理平台，上代同款旗舰 LCD 屏幕，将于明天 10 点预售。Redmi Note 12T Pro 此前已入网，入网信息显示，该机支持5G 异网漫游、67W 快充、12GB 内存，其他具体信息有待官方进一步揭晓...
手机互联 2023-05-29 11:08:14
