AI训练重塑:从“幻觉”到专业,高薪专家成模型训练新宠人工智能模型的性能在很大程度上依赖于其训练数据的质量。早年,像ChatGPT及其竞争对手Cohere等模型,为了生成类似人类的反应,需要依赖大量低成本的人力团队进行基础数据标注,比如区分一张图像是汽车还是胡萝卜
AI训练重塑:从“幻觉”到专业,高薪专家成模型训练新宠
人工智能模型的性能在很大程度上依赖于其训练数据的质量。早年,像ChatGPT及其竞争对手Cohere等模型,为了生成类似人类的反应,需要依赖大量低成本的人力团队进行基础数据标注,比如区分一张图像是汽车还是胡萝卜。然而,随着竞争愈发激烈,对模型训练的要求已经升级为一项高复杂度的专业任务,需要一个快速扩展的专业训练师网络。
如今,从历史学家到科学家,甚至拥有博士学位的专业人才,都加入了AI模型训练的队伍,他们为模型提供深度专业知识,确保训练数据的准确性和深度,从而有效提升模型的整体表现。
Cohere联合创始人Ivan Zhang表示:“一年前,我们还可以雇佣本科生来大致教AI如何改进。而现在,我们有执业医师教模型如何在医疗环境中工作,还有金融分析师和会计师帮助模型在特定领域表现更好。”
为提升培训能力,估值已超50亿美元的Cohere与一家名为InvisibleTech的初创公司合作。InvisibleTech雇佣了数千名远程培训师,并已成为AI行业的主要合作伙伴之一,为包括AI21和微软在内的多家人工智能公司提供训练服务,帮助减少AI模型出现的“幻觉”现象。
Invisible创始人弗朗西斯·佩德拉萨(Francis Pedraza)表示:“我们在全球100多个国家拥有5000多名具有博士、硕士学位及深厚专业知识的专家。”根据任务的复杂程度和工作地点,Invisible的时薪最高可达40美元。其他公司如Outlier支付的时薪高达50美元,而Labelbox则为像量子物理这样的“高专业性”科目提供高达200美元的时薪,基础类任务起步价为15美元。
Invisible成立于2015年,最初主要为DoorDash等公司提供工作流程自动化服务。然而,转折点出现在2022年春季,在ChatGPT公开发布前,OpenAI主动寻求与Invisible合作。佩德拉萨回忆道:“OpenAI遇到了一个问题,早期版本的ChatGPT在回答问题时容易陷入‘幻觉’,其答案不可靠。为此,他们需要一个能够通过人类反馈来强化AI学习的先进训练伙伴。”
生成式人工智能依赖过去用于训练的数据生成新内容。然而,有时它无法区分真假信息,产生所谓的“幻觉”。一个例子发生在2023年,当时谷歌的聊天机器人在宣传视频中分享了关于哪个望远镜首次拍摄到太阳系外行星的不准确信息。AI公司意识到,“幻觉”现象可能会影响生成式人工智能在商业领域的吸引力,因此他们正在尝试各种方法减少这种现象,其中包括利用人类训练师来教导AI区分事实与虚构。
自与OpenAI合作以来,Invisible迅速成为众多生成式AI公司的首选培训伙伴,其客户包括Cohere、AI21和微软等。尽管微软尚未正式确认合作关系,但Cohere和AI21已承认是Invisible的大客户。
佩德拉萨指出:“在人工智能行业,培训成本是企业的第二大支出,仅次于算力。而高质量的培训对于确保模型的准确性和可靠性至关重要。”
“人类数据团队”:AI训练新引擎
OpenAI的生成式人工智能热潮背后有一个名为“人类数据团队”的团队支持。该团队与AI训练师合作,收集专业数据以训练ChatGPT等模型。熟悉该公司流程的知情人士透露,OpenAI的研究人员设计了一系列实验,旨在解决诸如减少“幻觉”、优化写作风格等问题。他们与Invisible等供应商的AI训练师合作,根据需求收集和处理数据。
上述知情人士说,在任何时候,同时进行的实验项目都可能多达数十项,这些项目有的可以采用OpenAI的自研工具,也可以使用供应商提供的解决方案。Invisible会根据AI公司的需求,雇佣具有相关学科背景的专家,无论是研究瑞典历史的学者还是金融建模专家,都可以为这些AI项目贡献力量,帮助减少AI公司管理大量训练师的负担。
佩德拉萨表示:“OpenAI拥有世界顶尖的计算机科学家,但他们不一定精通瑞典历史、化学或生物等专业领域的问题。”他补充说,仅OpenAI就有超过1000名合同工为其提供数据标注服务。
Cohere的Ivan Zhang亲自体验了Invisible训练师的能力,并成功教会Cohere的生成式AI模型如何从大数据集中提取相关信息。
竞争加剧:专业训练师市场涌现
在AI训练数据集领域,ScaleAI是Invisible的主要竞争对手。这家私营初创公司估值达140亿美元,不仅提供数据集服务,还开始为AI公司提供培训服务,并将OpenAI列为其客户之一。ScaleAI没有回应置评请求。
相比之下,Invisible的资金募集显得更为保守,自2021年起开始盈利,仅获得了800万美元的主要资本。佩德拉萨表示:“我们70%的股权归团队所有,30%的股权归投资者。”他还透露,最近的公司估值已达5亿美元。
最早进入AI训练领域的培训师主要通过从事数据标注工作,要求相对较低,因此报酬也较低,有时每小时薪酬低至2美元,主要由非洲和亚洲国家的劳动者完成。
然而,随着AI技术的快速发展,对专业培训师的需求急剧上升,涵盖数十种语言和领域,创造了一个高薪利基市场。如今,来自各个学科的专家无需编程技能,也有机会成为AI培训师。AI公司的需求正催生出更多提供类似服务的企业。
Ivan Zhang说:“我的收件箱几乎被不断涌现的新公司所淹没,这些公司纷纷涌入人工智能训练服务市场。这的确是一个全新的领域,公司雇佣人类只是为了给我们这样的人工智能实验室创造数据。”
标签: 训练 AI 重塑 幻觉 专业 高薪 专家 模型 新宠
声明:本文内容来源自网络,文字、图片等素材版权属于原作者,平台转载素材出于传递更多信息,文章内容仅供参考与学习,切勿作为商业目的使用。如果侵害了您的合法权益,请您及时与我们联系,我们会在第一时间进行处理!我们尊重版权,也致力于保护版权,站搜网感谢您的分享!