首页 > 资讯列表 >  本页面生成是不是像一条桀骜不逊的龙一样专题报道,是不是像一条桀骜不逊的龙一样滚动新闻,是不是像一条桀骜不逊的龙一样业界评论等相关报道!
  • 海信于芝涛:坚持技术创新是最艰难的一条路

    海信于芝涛:坚持技术创新是最艰难的一条路

    【环球网科技综合报道】“好画质不能仅完美存在于实验室里,更不能停留在专业片源里。”在近日举办的海信ULED战略升级暨海信视像秋季新品发布会上,海信集团高级副总裁于芝涛讲述了ULED战略升级背后的故事:海信通过对用户电视使用和需求的深度剖析,发现“家庭环境光线复杂、用户没有调节画质参数的习惯、广视场角的观看场景增多”等已经成为当下电视使用的三大痛点...

    智能设备 2023-05-27 17:11:21
  • 数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩

    数学论证GPT-4不是随机鹦鹉:真如此的话整个宇宙都会坍缩

    克雷西 发自 凹非寺量子位 | 公众号 QbitAI对于ChatGPT的工作原理,一个常见的解释是根据统计学规律预测下一个词。但最近一位叫Jacob Bayless的工程师用数学方法得出惊人结论:若是如此,所需的信息量足以让整个宇宙都坍塌成黑洞。这一数据量是50000^8000,根据贝肯斯坦上限(Bekenstein bound)原理,如果把这些信息分配到空间当中,所需要的信息密度已经远超宇宙能承受的最大值。而这仅仅是把数据存储起来的消耗,更不必说还要进行运算了。而ChatGPT与单纯统计预测的区别,可以做这样的类比:如果天文学家通过历史观测记录推算出月食的周期,这可以算是统计学。但当他们总结出牛顿万有引力定律的时候,就已经超越了统计学。什么是“随机鹦鹉”一个流传很广的说法,所谓大语言模型实际上相当于一个“随机鹦鹉”——与我们观察其输出时的情况相反,语言模型只是将其在庞大的训练数据中观察到的语素胡乱拼接在一起,根据概率生成文本,但不清楚文字背后的任何含义,就像一个随机的鹦鹉。出自论文On The Dangers of Stochastic Parrots: Can Language Models Be Too Big这对过去的语言模型,或许确实成立。比如曾经流行的n-gram算法。比如当我们在搜索引擎中进行搜索时,出现的联想词就能用此方法实现。具体来说,下面的三行文本中,第一行纯粹是随机生成,第二行考虑了单词在英语中整体的出现概率,第三行则考虑了单词在前一个词后面出现的概率。n = 0: RECEIVE FALL SURPRISED FRIDAY INGREDIENT…n = 1: REPRESENTING AND SPEEDILY IS AN GOOD…n = 2: THE CHARACTER OF THIS POINT IS THEREFORE…不难看出,随着n值的升高,文本越来越接近人类语言。而n-gram模型根本不需要掌握其中的语义或理解其中的抽象概念,就能生成像模像样的句子。据此有人猜想,GPT-4会不会也只是一种高级的n-gram呢?Bayless提出,GPT必须学会抽象才能有如今的效果,至少GPT-4肯定如此。GPT-4不只是“随机鹦鹉”要证明这一点,可以先看下棋机器人的例子。如果有一种下棋机器人,存储了巨量棋谱数据,对于每个棋局都能推荐下一步。那它就能通过“背谱法”模仿其他任何棋手或程序的下法比如Stockfish是最先进的国际象棋程序,如果仅通过对战而不看源码,是无法确定Stockfish是否在背谱。但实际上,包含所有情形和步骤的棋谱数据量可能超过2^154。而Stockfish的程序只占用了不到50MB的空间,根本不可能存下需要的所有棋谱。所以Stockfish肯定是通过更高级的方法来实现下棋的。人类语言的复杂度远超过棋类游戏,因此GPT的数据量更是同理。仅在是上一代的GPT-3的token字典中就有超过5万token。如果对每个词都逐一建立统计信息,n-gram模型中n值将高达8000。届时,需要存储的情景数量将达到50000^8000。正如文章开头所提到,这简直是天文数字,足以让整个宇宙坍缩。因此,GPT是“随机鹦鹉”的猜测在理论上得到了一定程度的批驳。“随机鹦鹉”达不到的高度仅在理论上进行说明是不充分的,因此研究人员还进行了两个实验,意图证明大模型在学习过程中已经抽象出了算法。第一个实验关于一道经典的农夫过河问题。一个农夫有一条船,和狼、羊、菜,农夫要把这3样东西运到河到另一边,农夫每次最多只能通过这个船运一样东西,要防止狼吃羊、羊吃白菜(即不能在没有农夫在的情况下同时在同一岸边),该怎么过?研究人员将这个问题中的农夫、船、河分别替换成地球人、虫洞和银河系。狼、羊和菜则分别换成火星人、金星人和月球人。替换的目的是因为互联网上不太可能出现类似语料,可以判断大语言模型是不是真的掌握了通用方法。如果GPT不是“随机鹦鹉”,那么它至少不会犯下只有“随机鹦鹉”才会犯的错误。GPT-4针对替换后的问题给出了正确的回答,GPT-3.5则没有。但它们并没有犯研究人员预想的“鹦鹉”错误——即在回答中出现狼、船、河等已被替换掉的词语。回答中使用的句子,也无法在互联网中被检索到。这些现象都证明了现在的大语言模型的生成方式已经超越了“概率预测”。第二个实验则是数字排序。如果让GPT学习数字排序,它们究竟是只会记住给出过的数字顺序,还是真的研究出排序算法呢?其实只要从GPT的输出当中就可以看出来了。假如从1-100中随机选择10个数字,并将其顺序打乱,将一共有这么多种情形:如果再考虑数字的重复出现,又或者数字的数量发生变化,根本不可能存储如此之多的情形。因此,只要GPT能够针对未知的排序问题给出正确的回答,便可以说明它们是真的研究出了排序算法。研究人员训练了一款特斯拉前AI总监Andrej Kaparthy发明的语言模型nanoGPT,专门让它做数字排序。结果显示,随着训练步数的增加,模型给出的数字顺序越来越完美。虽然在训练步数达到16万左右时突然出现了大量错误,但也很快得到了纠正。这说明这款模型并不是仅仅根据学习的素材对未知的数字进行排序,而是已经掌握了背后的方法。这个测试只是在一台笔记本电脑、算力非常有限的GPU上进行的。更不必说GPT-4了。参考链接:https://jbconsulting...

    智能设备 2023-05-27 16:02:19
  • 手机每天重启好还是不好?行内人告诉你需要这样做

    手机每天重启好还是不好?行内人告诉你需要这样做

    小伙伴们!今天我们来聊聊一个有趣的话题:手机每天重启好还是不好?首先,我们需要明确一点,即手机的系统和硬件是由很多复杂的部件组成的,这些部件在长时间运行后可能会出现一些小问题,比如内存泄漏、应用程序卡顿等等。因此,有些人普遍认为,每天重启手机可以清理这些问题,让手机更加流畅。但是,我们需要注意的是,每次重启手机都会导致系统的重新加载和初始化,这会消耗一定的电量和时间,同时也会对手机的寿命造成一定的影响。因此,如果你频繁地重启手机,可能会导致电池寿命缩短、系统崩溃等问题。那么,到底应该每天重启手机还是不重启呢?其实,这个问题并没有标准答案,因为它取决于你的使用习惯和手机的具体情况。以下是一些情况和建议,供大家参考:1.如果你的手机出现了一些奇怪的问题,比如应用程序闪退、系统卡顿等,那么重启手机可能是一个不错的解决方法。这样可以清理一些缓存,让系统重新初始化,有助于解决一些小问题。2...

    手机互联 2023-05-16 07:10:15
  • MIUI升级Android14!小米13抢先刷机:不是毛坯走心了!

    MIUI升级Android14!小米13抢先刷机:不是毛坯走心了!

    快科技5月12日讯,本周,基于Android 14 Beta1的MIUI 14开发预览版上线,首批支持小米13、小米13 Pro和小米平板6三款机型,目前刷机包和刷机教程已公布。有国内网友体验后发现,今年的公测版不再是原生安卓,而是MIUI ROM,不过,毕竟是开发者预览,很多本地化并未到位,另外,系统流畅度不高。其它变化还有,扩展内存功能无法使用,返回手势预览不可用、已用内存显示不正确等。此次小米13的版本号为MIUI 14 23.5...

    手机互联 2023-05-13 09:34:49
  • 华辰装备:在低端产品中挣扎的龙头|钛媒体深度

    华辰装备:在低端产品中挣扎的龙头|钛媒体深度

    在制造业转型升级的大背景下,工业母机概念在二级市场热度持续攀升。工业母机板块概念指数自今年年初以来,整体涨幅超过20%,龙头华中数控(300161,SZ)股价在上月续创历史新高...

    智能设备 2023-05-09 12:36:34
  • 价格不是问题iPhone14Pro成最畅销手机

    价格不是问题iPhone14Pro成最畅销手机

    苹果公司发布2023年第一季度财报,数据表现令人惊喜。据市场研究机构CIRP最新报告,苹果手机平均售价为988美元(约6837元人民币),同比增长12%,显示出其在高端市场的强势地位...

    手机互联 2023-05-05 08:48:27
  • 苹果的人工智能应用,跟ChatGPT不太一样

    苹果的人工智能应用,跟ChatGPT不太一样

    苹果的XR混合现实设备,其中一个主要的功能便是围绕着健身Fitness+服务展开。它会借助虚拟空间,让你在任何地点沉浸在「健身房」当中,当然,还少不了一个虚拟教练...

    智能设备 2023-05-01 14:40:35
  • 不让三星独美索尼1亿像素传感器来了:可惜不是1英寸大底

    不让三星独美索尼1亿像素传感器来了:可惜不是1英寸大底

    快科技4月23日消息,手机拍照传感器有2个技术方向,一个是高像素,一个大底,三星选择了前者,不仅推出了1亿像素,2亿像素的传感器都有了,而索尼选择了大底,1英寸大底传感器已经成为三大旗舰机标配。但是索尼的1英寸传感器IMX989只有5000万像素,相比1亿、2亿像素传感器在营销上是吃亏的,日前有消息称索尼也搞出了自己的1亿像素传感器(准确来时是1.08亿),型号为IMX802,但它不是1英寸大底,而是1/1.33英寸的...

    手机互联 2023-04-24 08:35:24
  • 苹果发布会定档,iOS17将至,快看看你的iPhone是不是被抛弃了

    苹果发布会定档,iOS17将至,快看看你的iPhone是不是被抛弃了

    苹果公司宣布于今年的6月份举行发布会,届时将会推出最新的iOS17系统,这意味着很多iPhone用户可能将失去升级这一新版系统的机会。据悉,iOS17将只支持2020年及以后发布的iPhone型号,如果您的设备是旧款iPhone,那么您可能已经被抛弃了...

    手机互联 2023-04-23 08:55:11
  • APUS创始人李涛:“中国人工智能落后绝不是两个月,起码两年以上”

    APUS创始人李涛:“中国人工智能落后绝不是两个月,起码两年以上”

    文/闫妍4月18日,APUS发布自研多模态人工智能大模型“AiLMe”。AiLMe参数已达千亿规模,具备对文本、图像、视频、音频的理解和生成能力,并推出“智能问答大师、简笔成画、墨染、DailyAstro、StarNight、KJVBibleNow、PicPik”等系列AI产品...

    互联网 2023-04-20 21:02:37
  • iPhone15/15Plus将像Pro机型一样配备磨砂背面玻璃

    iPhone15/15Plus将像Pro机型一样配备磨砂背面玻璃

    根据最新消息,标准的iPhone15和iPhone15Plus将像现有的Pro机型一样配备磨砂背面玻璃。有了磨砂玻璃,iPhone15和iPhone15Plus看起来会更像Pro型号...

    智能设备 2023-04-18 10:09:08
  • ChatGPT将打开「四天工作制」的大门,取代你的不是AI

    ChatGPT将打开「四天工作制」的大门,取代你的不是AI

    不调休的清明节,将四天工作制的好处充分体现。放假的周三,就像一周里的午休时间,让周四上班的精神状态都好了大半...

    智能设备 2023-04-09 10:20:51

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持