-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息，谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示，自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉，谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露，用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串，人们会将训练模型所用文本中的句子、段落进行切分，其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分，能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力，说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中，但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示，不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化，研究界要求提高透明度。自推出PaLM 2以来，谷歌一直表示，新模型比之前的大型语言模型更小，这意味着该公司技术在完成更复杂任务时能变得更高效。参数（parameters）通常用于说明语言模型的复杂性。根据内部文件，PaLM 2接受了3400亿个参数的训练，初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示，新模型使用了一种名为“计算最优缩放”（compute-optimal scaling）的“新技术”，能使得PaLM 2“更高效，整体性能更好，比如推理更快、服务参数更少，服务成本也更低。”在发布PaLM 2时，谷歌透露新模型接受了100种语言的训练，并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本，从小到大依次是Gecko（壁虎）、Otter（水獭）、Bison（野牛）和Unicorn（独角兽）。根据谷歌公开披露的信息，PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型，其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
华为畅享60X512GB版本机型开售：6.95英寸屏幕+7000mAh，2299元
IT之家 5 月 14 日消息，华为畅享 60X 共有三个内存版本，128GB、256GB 和 512GB，其中 128GB、256GB 版本已于 4 月 26 日开售，512GB 版本于 5 月 13 日开售，售价 2299 元。华为畅享60X 512GB 版本共有丹霞橙、鎏金黑两款素皮配色，后盖采用闪耀星环设计；配备 6.95 英寸 2376×1080 LCD 屏幕，支持 90Hz、熄屏显示、270Hz 触控采样率，搭载高通骁龙 680 4G 处理器。IT之家从商品详情获悉，华为畅享60X 内置 7000mAh 巨鲸电池，支持 22...
手机互联 2023-05-14 10:23:18 -
AI语音诈骗日益猖獗：实现95%模拟人声、77%接通者遭经济损失
IT之家5月6日消息，根据McAfee公布的最新报告，基于人工智能（AI）的语音诈骗日益猖獗，在接到诈骗电话的群体中，77%的人会导致经济损失。报告中提及了两个真实案例，其中一个通过AI模拟受害者亲人，表示因某些事情急需要钱；另一个通过AI模拟女儿，向其母亲勒索赎金，但事实上她的女儿并未被绑架...
智能设备 2023-05-07 12:43:16 -
14年来最差季度业绩！三星2023年第一季度营业利润暴跌95%
4月27日消息，当地时间周四，韩国三星电子公司公布了2023年第一季度财报。财报显示，三星第一季度营收63.75万亿韩元（约合476亿美元），同比下滑18%，低于市场预估的479亿美元；营业利润为6402亿韩元（约合4.78亿美元），较去年同期的14.12万亿韩元（约合105亿美元）相比暴跌95%；净利润1.57万亿韩元（约合11.7亿美元），同比暴跌86.1%...
电信通讯 2023-04-27 14:55:45 -
哈啰租车：五一期间订单环比春节增超七成，预定量同比增5倍
4月26日消息，近日哈啰租车发布五一前瞻数据显示：截至4月20日，五一期间租车订单同比增长超5倍，环比2023年春节假期增长超七成。其中，异地用车订单占比达72%，环比今年春节涨幅达150%...
互联网 2023-04-27 14:55:33 -
360发布2022年财报：实现营业收入95.21亿元
【网易科技4月21日报道】今日，三六零公司发布2022年年报及2023年一季报。年报显示，报告期内，公司营收结构持续优化，政企安全业务营收17.91亿元，同比增长29.72%，营收占比由2021年的13%增至19%，提升幅度46%...
智能设备 2023-04-21 21:36:07 -
微软开源DeepSpeedChat可将训练速度提升15倍以上
《科创板日报》13日讯，当地时间4月12日，微软宣布开源DeepSpeedChat，可帮助用户轻松训练类ChatGPT等大语言模型。DeepSpeedChat基于微软DeepSpeed深度学习优化库开发，具备训练、强化推理等功能，使用RLHF（人工反馈机制的强化学习）技术，可将训练速度提升15倍以上，并大幅降低成本...
智能设备 2023-04-13 14:56:59 -
iQOOZ7x手机全球版已通过Geekbench认证，搭载骁龙695
IT之家3月31日消息，据91mobiles报道，iQOO此前在中国市场发布的iQOOZ7x即将面向全球市场发布，目前iQOOZ7x全球版已经通过了Geekbench认证，即将正式发布。从Geekbench认证页面来看，iQOOZ7x全球版单核测试得分为905分，多核测试为2137分...
手机互联 2023-03-31 09:49:20 -
《生化4RE》Steam好评如潮近六千评价95%好评
《生化危机4重制版》Steam评价已经由昨日的特别好评升为好评如潮，目前5855篇评价中，95%的好评。玩家们对于游戏的品质给予了一致好评，认为作为一款重制作品，《生化危机4重制版》对于原作的还原和创新的的程度把控的非常好...
游戏资讯 2023-03-25 11:12:47 -
11bit推出超豪华捆绑包工作室所有作品打包卖95元
曾推出《这是我的战争》的波兰发行商11bitStudios在Steam平台推出了「11位工作室大典藏」。商店页面>>这一合集包包括了11bit工作室至今的所有作品，价值高达1041元人民币，目前-91%优惠，国区仅需95.22元...
游戏资讯 2023-03-16 16:12:32 -
京东集团第四季度净营收2954亿元同比增加7.1%
3月9日消息，京东集团（纳斯达克股票代码：JD，港交所股票代号：9618）发布了2022年四季度及全年业绩，2022年四季度净收入为2954亿元人民币，全年净收入10462亿元人民币，同比增长9.9%。2022年，京东集团在非美国通用会计准则下归属于普通股股东的净利润达到282亿元人民币（约41亿美元），同比增长64%，超出市场预期...
互联网 2023-03-09 18:51:50 -
韩媒：95%！中国智能手机称霸俄罗斯！
3月8日，韩国媒体《EBN》发表文章称，俄乌冲突爆发后，中国智能手机开始称霸俄罗斯市场。据市场调查机构Counterpoint公布的调查结果显示，每10名俄罗斯国民中至少有9人在使用中国手机...
手机互联 2023-03-08 15:17:50
