-
谷歌PaLM2训练所用文本数据量是初代的近5倍
5月17日消息,谷歌上周在2023年I/O开发者大会上推出最新大型语言模型PaLM 2。公司内部文件显示,自2022年起训练新模型所使用的文本数据量几乎是前一代的5倍。据悉,谷歌最新发布的PaLM 2能够执行更高级的编程、运算和创意写作任务。内部文件透露,用于训练PaLM 2的token数量有3.6万亿个。所谓的token就是字符串,人们会将训练模型所用文本中的句子、段落进行切分,其中的每个字符串通常被称为token。这是训练大型语言模型的重要组成部分,能教会模型预测序列中接下来会出现哪个单词。谷歌于2022年发布的上一代大型语言模型PaLM在训练中使用了7800亿个token。尽管谷歌一直热衷于展示其在人工智能技术领域的实力,说明如何将人工智能嵌入到搜索引擎、电子邮件、文字处理和电子表格中,但一直不愿公布训练数据的规模或其他细节。微软支持的OpenAI也对最新发布的GPT-4大型语言模型细节保密。两家公司都表示,不披露这些信息的原因是人工智能行业存在激烈竞争。谷歌和OpenAI都想要吸引那些希望使用聊天机器人而不是传统搜索引擎搜索信息的用户。但随着人工智能领域竞争的白热化,研究界要求提高透明度。自推出PaLM 2以来,谷歌一直表示,新模型比之前的大型语言模型更小,这意味着该公司技术在完成更复杂任务时能变得更高效。参数(parameters)通常用于说明语言模型的复杂性。根据内部文件,PaLM 2接受了3400亿个参数的训练,初代的PaLM接受了5400亿个参数的训练。谷歌没有立即发表评论。谷歌在一篇关于PaLM 2的博客文章中表示,新模型使用了一种名为“计算最优缩放”(compute-optimal scaling)的“新技术”,能使得PaLM 2“更高效,整体性能更好,比如推理更快、服务参数更少,服务成本也更低。”在发布PaLM 2时,谷歌透露新模型接受了100种语言的训练,并能胜任各种各样的任务。包括谷歌试验性聊天机器人Bard在内的25项功能和产品用的都是PaLM 2。PaLM 2按参数规模有四个不同的版本,从小到大依次是Gecko(壁虎)、Otter(水獭)、Bison(野牛)和Unicorn(独角兽)。根据谷歌公开披露的信息,PaLM 2比任何现有模型都更强大。Facebook在今年2月份宣布推出名为LLaMA的大型语言模型,其在训练中用了1...
业界动态 2023-05-17 13:33:30 -
未来什么样?2023“十大突破性技术”主题峰会告诉你
2023 年 5 月 12 日,《麻省理工科技评论》中国“十大突破性技术”主题峰会在杭州未来科技城成功举办。 峰会由杭州市委人才办指导,余杭区委人才办、杭州未来科技城(海创园)管委会和《麻省理工科技评论》中国共同主办,DeepTech、云樾科技(杭州)有限责任公司共同承办。会上,国内外顶级专家学者、行业领袖、知名投资人与政府代表共同探讨了“十大突破性技术”的最新进展及其对人类社会的影响。 峰会伊始, DeepTech 联合创始人陈禺杉 代表《麻省理工科技评论》中国进行了开场致辞,简单回顾了《麻省理工科技评论》“十大突破性技术”的发展史,并表示峰会汇聚了学界、产业界顶尖专家与创新创业人才,共同探讨今年入选的“十大突破性技术”。随后, 余杭区委副书记、区长王牮 发表致辞,对出席的嘉宾和观众朋友们表示了热烈的欢迎。他表示,余杭区正以数字经济为核心,全力打造创新余杭的城市品牌,加快五大产业生态圈的建设。在充分肯定了牵手《麻省理工科技评论》中国三年以来大量的技术、项目落地之后,他强调余杭区将继续以科技创新作为未来发展的关键,并提供优质的空间和服务保障以吸引优秀的技术项目,同时也欢迎更多的专家、人才和企业家参观考察余杭,共享余杭发展的红利,共同见证余杭的成长。 图:余杭区委副书记、区长王牮 据悉,本次峰会是 2023 杭州“青春潮创季”青年人才创新创业系列活动之一 ,是对余杭区“人才引领、创新驱动、产城融合”发展理念的积极响应,也反映了余杭基于以原创、首创和外拓为特征的千年良渚精神,希望吸引、汇聚更多的前沿产业、顶尖科技、高端人才,进一步提高余杭的产业能级。 接下来, 杭州市委人才办副主任尹凡 在发言中详细介绍了近年来杭州市人才工作取得的成就与人才创新创业环境。她表示,杭州市一直非常重视人才队伍的建设,市委人才办也长期致力于为人才和城市的共同健康成长营造良性环境,并取得了 2022 年全球创新指数第 14 位等杰出成绩。尹凡进一步从创新策源引领高地、体制机制改革高地、科技成果转化高地、卓越人才集聚高地、服务智治示范高地五个方面向与会嘉宾介绍了杭州市的人才工作,并表示未来将继续不畏创新、以”阳光和雨露”鼓励人才在杭创新创业。 图:杭州市委人才办副主任尹凡 在开幕式的分享环节,两位重磅嘉宾做了发言,结合各自的研究领域分享了最新成果与研究思考。其中, 中国科学院院士、第三世界科学院院士、原中国科学技术大学校长、南方科技大学创校校长朱清时 首先指出了此次峰会乃至鼓励人们共同关注前沿科技和创新的重要性,并强调中国正处于全球科技创新的前沿,需要以自主创新和实干精神,加快推进原创性创新和核心技术攻关。朱院士认为,实现这个目标的关键在于培养大批创新型人才,并指出这类人才应有着博闻强识、质疑求证、自学能力强、有坚持和创新的精神等特点。朱院士还以诺贝尔奖得主阿尔弗雷茨和格拉塞的故事为例,再次强调了创新型人才在科技进步中的重要性。 图:中国科学院院士、第三世界科学院院士、原中国科学技术大学校长、南方科技大学创校校长朱清时 中国科学院院士、中国科学院微生物研究所研究员、国家自然科学基金委员会第八届委员会副主任、中国疾控中心原主任高福 则表示,在他看来,尽管如今人们在不断地认知世界,但仍未充分释放创造力,相关“卡脖子”与“卡脑子”问题仍待解决。他指出,技术“卡脖子”问题的背后其实是科学层面的“卡脑子”,而捆绑发展“四肢”的则是工程层面的问题。“如果我们不能把科学、技术、工程三个层面的问题分开讨论,就容易进入相关的误区,就很难在上述层面有所进展。”高福认为,“所以我们今天抓人才既要有科学人才,也要有技术人才,还要有工程人才。” 图:中国科学院院士、中国科学院微生物研究所研究员、国家自然科学基金委员会第八届委员会副主任、中国疾控中心原主任高福 发言结束后,峰会现场举行了 杭州·余杭 Venture Lab 一体化科创培育平台启动仪式。浙江省委组织部人才办副主任王国强,杭州市委人才办副主任尹凡,杭州市科技局党组成员、副局长邓峥, 以及其他省、市、区和未来科技城各级领导 与 DeepTech 联合创始人陈禺杉 共同为仪式揭幕, DeepTech 联合创始人兼 COO 张岚 对该平台进行了简要的介绍和解读。首批入孵项目签约仪式也随后举行,涵盖了新一代纳米抗体筛选平台、AI 赋能代谢增强型免疫新疗法等多个归属不同领域的创业项目。该平台将以科学家为核心,聚焦五大产业生态圈,深度链接高校、科研院所、产业、政府、资本等关键角色,搭建适合服务余杭本地科研院所、企业、机构的科创培育平台。 图:杭州·余杭 Venture Lab 一体化科创培育平台启动仪式 值得一提的是,现场还举行了 人才创新项目协同培育战略合作签约仪式。 仪式上, 余杭区委常委、组织部长张立 代表余杭区政府, 丽水市委组织部部务会议成员、市委人才办专职副主任李斐和中共衢州市委组织部副部长、公务员局局长林蕙 分别代表落地余杭的丽水、衢州“人才飞地”, DeepTech 联合创始人、络绎科学 CEO 李航 代表杭州·余杭 Venture Lab 一体化科创培育平台共同签署了战略合作协议。2022 年,余杭区推进人才双向双创改革入选浙江省高质量发展建设共同富裕示范区第二批省级试点。以本次合作签约为契机,余杭、衢州、丽水三地将深入推进人才“双向双创”新模式改革,着力构建要素流通纽带和资源转化通道,加速人才链、产业链、创新链、资金链、政策链的异地协同。 接下来, DeepTech 研究总监宋宁 为大家带来了 2023 年“十大突破性技术”解读,深入剖析了其中以生命科学、人工智能等为代表的技术,并对当下科技发展与商业化趋势做了分析。 随后,峰会进入分享与对谈环节,结合今年评选出的突破性技术与当前科技热点分为五个板块进行,分别为“打开 AIGC 的‘黑匣子’”、“解码未来‘芯’世界”、“可持续发展的新未来”、“探索生命的意义”以及“跨界圆桌派—科技与人文”。 在 “打开 AIGC 的‘黑匣子’” 板块中,业界专家在 之江实验室智能计算平台研究中心高级工程专家潘鹏凯 的主持下, HiDream.ai 创始人兼首席执行官、加拿大工程院外籍院士梅涛,IDEA 研究院讲席科学家张家兴,与微软亚洲研究院首席研究员段楠 围绕当前生成式人工智能与大模型等技术,深入探讨了 AIGC 发展现状、现有和未来的能力边界、大模型开源、创新创业机遇等问题,并在最后对未来十年的发展做了各自的预测。潘鹏凯表示,AIGC 发展得太快了,可解释性问题已经基本解决,而十年以后,人类要么永生了,要么被灭亡了。 他希望我们都能永生。 图:“打开AIGC的‘黑匣子’”圆桌对谈 接下来的 “解码未来‘芯’世界” 板块,芯片领域的两位科技创业者分别分享了该领域的最新成果和他们的前瞻性见解。其中, SynSense 时识科技创始人兼 CEO 乔宁 介绍了类脑计算的产业发展状况和应用,以及时识科技作为一家类脑芯片公司的发展历程和产品应用情况。他表示,类脑计算是第三人工智能,能在计算性能、速度和功耗层面带来提升,将在未来十年成为重要技术发展方向之一。 图:SynSense 时识科技创始人兼 CEO 乔宁 驭光科技董事长兼 CEO 田克汉 则介绍了驭光科技及其专注的微纳光学。他表示公司目前主要是做 AR、VR、元宇宙等领域的衍射光波导,以及手机中的零部件,并介绍了制造过程和一些代表性产品,如 AR HUD、DOE、衍射光波导、3D 传感器等。 图:驭光科技董事长兼 CEO 田克汉 “可持续发展的新未来” 板块聚焦环保与可持续发展议题,来自学界的重要嘉宾为大家带来了相关的主题分享。其中, 上海交通大学长聘教授、翌曦科技创始人兼董事长、上海市高温超导材料与系统工程技术中心主任金之俭 介绍了可控核聚变以及高温超导材料的应用,强调了高温超导材料的优势,并讲述了上海交大超导团队在超导材料、技术缆线和强场磁体方面的经验,以及翌曦科技在聚变强场磁体应用方面的研发成果与目标。 图:上海交通大学长聘教授、翌曦科技创始人兼董事长、上海市高温超导材料与系统工程技术中心主任金之俭 清华大学助理教授、博士生导师江奔奔 则介绍了如何利用 AI 技术加速新能源电池研发,包括优化电池设计、减少测试实验时间和研究电动汽车储能与电网之间的互动机制。他表示,由于需求侧的不断发展,下一代超高性能电池势必要加速出现,他希望利用 AI 机器学习技术加快研发与应用的进程。 图:清华大学助理教授、博士生导师江奔奔 清华大学深圳国际研究生院助理教授、博士生导师王自强 首先回顾了电动汽车和锂电池的发展历程,探讨了电池技术的未来发展和多元互补的关系,并表示电池技术的不断进步将支撑可持续发展的未来。 图:清华大学深圳国际研究生院助理教授、博士生导师王自强 随后的 “探索生命的意义” 板块上,来自生物医药、合成生物学等前沿领域的创业者就他们的最新进展进行了精彩的分享。其中, Galixir 星药科技创始人兼首席执行官李成涛 探讨了人工智能在药物研发中的前沿应用,以及如何利用算法突破算力瓶颈,用 AI 技术做到原本用更大的算力也做不到的事情。他对 AI 制药的未来非常乐观,相信更多的 AI 进入新药研发,将能持续推动降本增效,并解决原先无法解决的疾病与临床问题。 图:Galixir 星药科技创始人兼首席执行官李成涛 聚维元创创始人兼 CEO 张天元 则介绍了生物合成相比传统化工生产方式的巨大优势和广阔应用前景,以及他们的研究团队在秸秆转化为高价值生物合成品方面取得的突出进展和成果,并阐述了团队的未来方向和计划。他指出,生物合成可以有效降低化工方法的能耗和污染,解决产业的绿色转型问题。 图:聚维元创创始人兼 CEO 张天元 峰会的最后一个板块为 “跨界圆桌派—科技与人文” 圆桌对谈,由 DeepTech 联合创始人兼 COO 张岚 担任主持人。 宸境科技联合创始人漆子超,必爱智能联合创始人兼 CEO 李晓涛,领航新界创始合伙人张乐,西湖大学助理教授、博士生导师李兰, 和 霍德生物医学副总裁张淑宁 五位背景、领域迥异的嘉宾坐在一起,围绕科技与人文的交融和碰撞,探讨了跨界合作、科技伦理、公众科普传播,以及备受关注的科技领域女性问题。圆桌最后,嘉宾也纷纷说出了自己对未来三到五年的畅想。 图: “跨界圆桌派—科技与人文”圆桌对谈 2023《麻省理工科技评论》“十大突破性技术”主题峰会在充满真知灼见的思考与碰撞中圆满落幕。与会嘉宾就全球科技创新、发展趋势、前沿技术等议题展开了深入的讨论与交流,为推动中国式自主创新乃至全球科技发展带来了宝贵的见解和指导。未来,科技将继续引领人类社会的进步,为全球各行业提供更多的可能性。 ...
智能设备 2023-05-14 11:22:19 -
全固态电池迎技术革新:马里兰大学团队制备高能量密度的锂硫电池,有望用于电池产品和电动车等领域
“这是我博士阶段的最后一个项目, 在世界上首次实现了氧化物固态锂硫电池的全固态化,完全不需要添加任何液态电解液。 该技术在固态电池领域里属于技术革新,并且基于电池的原材料和制备方法,有利于该全固态电池的大规模商业化生产。”美国马里兰大学博士毕业生表示。 图丨石昌民(来源:) 最近十几年以来,固态锂硫电池逐渐地发展起来,但实现“全”固态氧化物固态电解质的锂硫电池仍存在严峻的挑战。终其原因,硫正极本身绝缘且氧化物固态电解质非常怕压、易碎,这会导致正极和电解质之间的接触变得非常差。 在以往的研究中,氧化物固态电池在硫正极和石榴石型氧化物固态电解质氧化物固态电解质(Li 7 La 3 Zr 2 O 12 ,LLZO)之间都需要添加少量的液态电解液,来保证正极和 LLZO 之间有良好的接触和锂离子传输。相比于传统手段,运用 LLZO 的全固态锂硫电池有望实现超高的能量密度。 为改善固态正极结构的界面接触、离子和电子传导, 美国马里兰大学团队制备了一种具有固态硫正极的全固态石榴石电池,他们运用 LLZO 固态电解质首次实现了全固态锂硫电池。 而这次能成功制备出“全固态”锂硫电池的关键,在于他们发现了一种固态低熔点锂盐。并且,全固态电池中的材料除硫活性物质以外,全部使用无机材料,为电池的不可燃做好了充分的准备。 固态低熔点锂盐本身具有较高的离子电导率,在室温下可达到 10 -5 S/cm。 利用这种固态低熔点锂盐,首次实现了高能量密度的全固态锂硫电池,其在 60℃ 的高电流密度下可稳定循环 200 圈,并保持 0 容量衰减。 审稿人对该技术评价称,这是很薄的石榴石电解质制成的真正固态电池,文献中描述的大多数工作使用厚颗粒,并在阴极侧添加液体来保障系统工作。 图丨相关论文(来源:ACS Energy Letters) 日前,相关论文以《由无机锂盐和双层电解质结构实现的全固态石榴石型硫化聚丙烯腈/锂金属电池》()为题发表在 ACS Energy Letters 上[1]。 马里兰大学博士毕业生为该论文第一作者,马里兰大学艾瑞克·D·沃克斯曼()教授为论文通讯作者。 首次实现高能量密度的全固态锂硫电池 该研究首次实现了运用氧化物固态电解质的“全”固态锂硫电池,但着手研究一个全新的方向谈何容易。在研究初始阶段,其实并没有抱有很大的希望,因为此前没有人做出来过。 而且,科学家们也普遍认为氧化物全固态锂硫电池“目前来看是没有希望实现的”,因为需要克服的技术难题和其他的电池体系相比实在太多了。 但是他认为,作为一名博士生即便需要花大量时间、精力以及承担失败的“高风险”,也还是需要“放手一搏”去试试。“一开始探索方法可行性的时候我是非常小心的,因为可能一个不留神,一个好的试验方法就被浪费掉了。”他说道。 图丨阴极和阴极/LLZO 界面的全固态石榴石锂硫电池的形态学特征,图片为横断面扫描电镜图像(来源:ACS Energy Letters) 在做文献调研时,发现此前几乎没有实现过类似的工作。因此,他从原始的物质性质资料入手,进行各种尝试,以此获得创新灵感。各种材料性质和实验手段大概测试了半年多的时间,才发现了现在论文中使用材料的可行性。 该研究最大的难点在于,必须确保复合正极颗粒和颗粒之间有良好的接触,他在该方向做了很长时间的研究以及探索。 他开发了一种新颖的三相硫正极,其由硫化聚丙烯腈(sulfurized polyacrylonitrile,SPAN)、熔融双锂(氟磺酰)酰亚胺(lithium bis-(fluorosulfonyl)imide,LiFSI) 和纳米石墨烯线(nano graphene wire,NGW) 混合而成。用纳米石墨烯线代替传统的炭黑,产生了机械强度更高的复合正极,同时保持了连续的电子传导。 图丨由新型三相阴极和双层-LLZO 电解质结构实现的全固态石榴石型 Li-S 电池的示意图。通过在 SPAN+NGW+LiFSI 混合物中熔化 LiFSI 并进行冷却,得到了 SPAN+NGW+LiFSI 复合阴极。灰色粒子、黄色粒子和黑线分别代表 LiFSI、SPAN 和 NGW(来源:ACS Energy Letters) 让人意外的是,课题组成员所用的固态低熔点锂盐和活性硫材料之间有非常良好的化学稳定性。“这出乎我的意料,因为测试一开始我觉得它们肯定会产生很严重的副反应,没想到尝试后发现及居然是稳定的。”回忆道。 LiFSI 向复合正极中的熔融渗透,极大地改善了阴极内的颗粒间接触和阴极/电解质界面接触。使用热处理过的三相阴极的全固态锂硫电池在 60℃条件下,表现出稳定的循环性能。 其中,在 0.167mA/cm 2 下具有 1400mAh/g 的高平均放电容量,超过 40 次循环;在 0...
智能设备 2023-05-14 11:22:18 -
SQLite3数据库的介绍和使用教程(面向业务编程-数据库)
目录SQLite3数据库的介绍和使用(面向业务编程-数据库)SQLite3介绍获取SQLite3源码编写CMake工程main.cpp编译使用SQL安装一个SQLite3建表插入行查找数据删除一项数据更新字段SQL总结C语言编程打开和关闭一个数据库文件打开一个数据库文件关闭一个数据库句柄执行SQLite语句不带回调带回调sqlite3_get_tableSQLitecpp源文件编写CMake工程总结SQLite3数据库的介绍和使用(面向业务编程-数据库)SQLite3介绍SQLite是一种用C语言实现的的SQL数据库它的特点有:轻量级、快速、独立、高可靠性、跨平台它广泛应用在全世界范围内的手机电脑应用的内建数据库官网地址:https://www...
数据库操作教程 2023-05-12 12:13:39 -
SQL中去除重复数据的几种方法汇总(窗口函数对数据去重)
目录方法1:distinct方法2:group by方法3:窗口函数使用SQL对数据进行提取和分析时,我们经常会遇到数据重复的场景,需要我们对数据进行去重后分析。以某电商公司的销售报表为例,常见的去重方法我们用到distinct 或者group by 语句, 今天介绍一种新的方法,利用窗口函数对数据去重...
数据库操作教程 2023-05-12 12:13:26 -
Linux安装ODBC连接SQLServer数据库的步骤
目录1、下载ODBC安装包2、安装步骤第一步:上传两个安装包到服务器上第二步:安装unixODBC,先安装这个,后安装freetds2.1、操作系统先安装gcc:2...
数据库操作教程 2023-05-12 12:13:06 -
SQLServer数据库密码短时间强制过期的解决
1、打开Sqlserver,选择登录名下的账户右击点击属性2、右击点击属性查看强制过期是否被勾选上,如勾选上,会在一段时间后该账户不能正常使用3、修改 过期的时间,这个过期时间是根据windows 的时间策略制定的windows 运行 输入 gpedit.msc按照下图打开选择密码策略 修改密码最长使用期限,就可以达到 延长效果了到此这篇关于SQLServer数据库密码短时间强制过期的解决的文章就介绍到这了,更多相关SQLServer密码强制过期内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家! ...
数据库操作教程 2023-05-12 12:13:01 -
SQL Server 2012 搭建数据库AlwaysOn(数据库高可用集群)
要实现数据库高可用集群,需要考虑以下几个方面:1. 数据库选择选择一个支持高可用的数据库。目前常用的高可用数据库包括mysql cluster、mongodb、postgresql、oracle rac、sql server alwayson等。2...
数据库操作教程 2023-05-12 12:12:42 -
使用SQL Server分区表功能提高数据库的读写性能
一般来说一个系统最先出现瓶颈的点很可能是数据库。比如我们的生产系统并发量很高在跑一段时间后,数据库中某些表的数据量会越来越大。海量的数据会严重影响数据库的读写性能。这个时候我们会开始优化系统,一般会经过这么几个过程:找出SQL慢查询,针对该SQL进行优化,比如改进SQL的写法,查看执行计划对全表扫描的字段建立索引引入缓存,把一部分读压力加载到内存中读写分离引入队列,把并发的请求使其串行化,来减轻系统瞬时压力分表/分库对于第五点优化方案我们来细说一下。分表分库通常有两种拆分维度:1.垂直切分,垂直切分往往跟业务有强相关关系,比如把某个表的某些不常用的字段迁移出去,比如订单的明细数据可以独立成一张表,需要使用的时候才读取 2...
数据库操作教程 2023-05-12 12:12:34 -
SQL Server 数据库的更改默认备份目录的详细步骤
本文也适用与最新的sqlserver2008 2016 2019版本打开 SSMS选择数据库,右键,属性选择“权限”,点击“查看服务器权限”选择“数据库设置”,修改“备份”框路径注意:更改一个数据库的备份路径后,对所有数据库都是有效的,注意最后提示是否保存。现在如果备份数据库到新的目录,会报以下错误:无法打开备份设备。出现操作系统错误 5(拒绝访问。)。BACKUP DATEBASE 正在异常终止。。那就在新的备份目录上右键属性,安全,编辑,添加,在框内填写“NT SERVICEMSSQLSERVER”这个服务用户,确定,(这个用户名称会自动变成“MSSQLSERVER”,如果没有这个用户,点击“高级”-“立即查找”,选择 MSSQLSERVER 或 NT SERVICEMSSQL$InstanceName),然后选择“完全控制”,一路确定现在可以备份到新的目录中去啦如何修改SQL Server的默认备份路径注册表修改方法一、Win+R, 输入 Regedit , 打开注册表;二、搜索:BackupDirectory三、找到对应的值, 修改为你想设置的路径即可。之所以用搜索,而不是直接找注册表, 是因为不同的SQL Server可能位置有区别。使用SqlServer备份数据库时,提示备份目录没有权限 操作系统错误5 存取被拒的解决办法如果备份失败或无法浏览备份目录文件夹的内容,则可能是此文件夹的权限设置有问题。今天帮客户手工做一次Sql Server数据库备份时,发现有错误提示,提示 Backup Failed from Server (Microsoft SqlServer....
数据库操作教程 2023-05-12 12:12:17