首页 > 资讯列表 > 大数据 >> 区块链

AI生成的假马斯克,成了最大的网络骗子

区块链 2024-08-17 12:18:48 转载来源:

英文: iQOO Smartphone Market Share Continues to Rise, Holding Steady Above 5% for 15 Weeks, Demonstrating Strong Brand Growth

AI生成的假马斯克,成了最大的网络骗子现年82岁的退休老人史蒂夫・比彻姆(Steve Beauchamp)本希望为家人增加一些收入,他把希望寄托在了埃隆・马斯克(Elon Musk)身上。去年底,比彻姆偶然看到一段视频,视频中马斯克似乎在推荐一个承诺能迅速获利的激进投资方案

AI生成的假马斯克,成了大的网络骗子

现年82岁的退休老人史蒂夫・比彻姆(Steve Beauchamp)本希望为家人增加一些收入,他把希望寄托在了埃隆・马斯克(Elon Musk)身上。去年底,比彻姆偶然看到一段视频,视频中马斯克似乎在推荐一个承诺能迅速获利的激进投资方案。受此启发,比彻姆迅速联系了该视频背后的公司,并以248美元开设了一个投资账户。然而,在接下来几周里,他逐步增加投资,最终从退休金账户中动用了超过69万美元。但不久后,这些钱就消失了,落入了一群利用人工智能进行新型数字诈骗的骗子之手。这些诈骗者巧妙地篡改了一段马斯克的真实采访,利用AI技术替换了他的声音,并微调了他的口型,以匹配他们为这个数字人编写的新剧本。对于一般观众来说,这种操作几乎是察觉不出的。比彻姆回忆起那段视频,感慨地说:「视频中的他,形象鲜明,一眼就能认出是马斯克。至于是否是AI让他说出那些话,我现在也无法确定。但就视频画面而言,如果有人要我从人群中识别他,我肯定能指出来。」

01 马斯克成深度造假常客

近几个月来,互联网上充斥着数以千计的这种由AI驱动的视频,这些被称为「深度造假」(Deepfake)的视频中,伪造的马斯克形象误导了众多潜在投资者。据德勤估计,这类由AI支持的深度造假每年可能导致数十亿美元的欺诈损失。这些视频制作成本极低,几分钟内即可完成,并通过社交媒体进行推广,包括在Facebook上的付费广告,大大扩展了它们的影响范围。监测和检测深度造假视频的公司Sensity联合创始人兼威胁情报主管弗朗西斯科・卡沃利(Francesco Cavalli)对此发出警告:「这可能是有史以来最大规模的深度造假骗局。」

这些视频常常惟妙惟肖,精准捕捉了马斯克标志性的不连贯语调和南非口音。诈骗者通常从一段真实的视频入手,比如《华尔街日报》采访,造假视频中保留了记者的声音,这增加了视频的真实性。利用先进的对口型技术,诈骗者调整了马斯克的嘴部动作,使其与他们伪造的台词完美匹配。他们还使用了声音克隆工具添加AI声音,这些工具能从样本片段中复制任何声音。最终的广告中,可能还包括伪造的图形,模仿新闻机构的样式,这对一般网络用户来说可能颇具说服力。

根据Sensity的分析,马斯克是这些视频中最常见的发言人。在近2000个分析样本中,特别是从去年底开始,他出现在了近四分之一的深度造假诈骗中。在那些以加密货币为主题的视频中,这一比例甚至高达近90%。深度造假广告还常常使用沃伦・巴菲特(Warren Buffett)这样的著名投资者和亚马逊创始人杰夫・贝索斯(Jeff Bezos)等商界大佬。

尽管很难准确统计出有多少深度造假在网络上流传,但通过搜索Facebook广告库中常用的与诈骗相关的语言,发现了数十万条广告,其中许多包括了深度造假视频。虽然Facebook已删除了许多违反政策的内容,并禁用了相关账户,但仍有其他视频留在了网络上,而且似乎每天都有更多视频出现。

YouTube也充斥着这些伪造的内容,这些视频常常带有「直播」标签。事实上,这些都是预先录制的深度造假视频。在YouTube上搜索关键词如「埃隆比特币会议(Elon Bitcoin conference)」,可以看到数十个伪装成直播的视频,视频中的深度造假马斯克正在兜售加密货币诈骗,误导性极强。在美国前总统唐纳德・特朗普(Donald J. Trump)在比特币会议上发言后,YouTube上迅速出现了数十个标注为「直播」标签的视频,展示了一段预先录制的深度造假马斯克视频,声称会加倍返还发送到他账户的任何加密货币。这些视频虽然吸引了大量观众,其中一些视频的观看次数达到了数十万。但YouTube表示,诈骗者可能使用网络水军人为夸大观看次数。据非营利消费者权益组织BetterBusinessBureau的报告,一名得克萨斯州居民在2023年2月通过YouTube上一段所谓的「直播」视频,看到了伪装成马斯克的诈骗信息,因此损失了价值36,000美元的比特币。该居民表示:「我转了比特币,但什么都没收到。」

 AI生成的假马斯克,成了最大的网络骗子

02 FB与YouTube成重灾区

YouTube在一份声明中表示,仅在今年1月至3月期间,平台就移除了超过1570万个频道和超过820万个视频,这些内容大多因违反其反垃圾邮件政策而被删除。鉴于虚假广告泛滥,澳大利亚亿万富翁安德鲁・福雷斯特(Andrew Forrest)对Facebook的母公司Meta提起了民事诉讼,指责其在广告业务中的疏忽,声称这些广告业务误导了无辜用户进行错误投资。据悉,福雷斯特本人的视频也被用于制作深度造假广告。Meta公司回应称,正在训练自动检测系统以识别平台上的欺诈活动,但也坦言这是一场复杂的猫鼠游戏,因为资金充足的诈骗团伙不断改变策略以逃避检测。YouTube则重申其禁止欺诈和视频篡改的政策,并在今年3月要求所有创作者在使用AI创造逼真内容时必须进行明确披露。

网络上充斥着大量相关的诈骗报告,其中不少人损失了他们的毕生积蓄。香港证券及期货事务监察委员会在5月份发出了关于涉及马斯克的诈骗活动的警告。今年早些时候,美国联邦贸易委员会和联邦调查局也警告美国民众,AI驱动的网络犯罪和深度造假诈骗正日益增多。FBI在一份电邮声明中强调:「犯罪分子正在利用AI作为力量的放大器,使网络攻击和其他犯罪活动更加有效且难以被侦测。」

数字诈骗与互联网的发展同步增长。但随着去年复杂的AI工具向公众开放,以马斯克为特征的新一波深度造假浪潮应运而生,这些工具让普通人能够克隆名人声音或精确操控视频,吸引了色情行业、表情包制作者和越来越多的诈骗团伙的注意。网络安全研究实验室CTMInsights的创始人卢・斯坦伯格(Lou Steinberg)指出:「现在的情况正在发生变化,因为有组织的犯罪团伙已经发现,通过这种方式可以赚钱。」他预计,我们将看到越来越多的这种假冒企图,目的就是骗钱。」

尽管AI生成的视频并不完美,例如马斯克的声音在一些视频中可能听起来机械化,而且他的口型并不总是与台词不匹配。但专家警告称,这些视频对于一些诈骗目标来说已经足够令人信服,并且随着时间的推移技术正在不断改进。根据Sensity的卡沃利的说法,这些视频的制作成本非常低,大约只需10美元,而且大多数诈骗者使用一系列免费或便宜的工具在不到10分钟内拼凑出假视频。他们主要位于印度、俄罗斯和东欧。「它有效,」卡沃利说。「因此,他们将继续扩大这一活动,跨越国界,用多种语言翻译,并不断向更多目标传播诈骗。」

03 老年人成为完美目标

这类骗局常以高回报的人工智能投资软件为幌子,初期诱使受害者投入小额资金——如250美元。随后,通过夸大投资的增值效果,逐渐诱导他们增加投资金额。特斯拉股东大会的一条视频也被伪造,视频中马斯克解释了一个由AI驱动的自动交易产品,声称能够每天翻倍投资回报。

 AI生成的假马斯克,成了最大的网络骗子

研究加密货币社区的专家指出,马斯克拥有一群独特的全球粉丝群体,这些粉丝多为保守派、反体制人士和加密货币爱好者,他们经常寻找赚取财富的非传统途径,这使得他们成为这些骗局的理想目标。「肯定有一群人相信财富的秘密被隐藏了起来,」研究加密货币社区的研究者莫莉・怀特(Molly White)说。她指出,部分人群总幻想掌握财富秘密,认为一旦找到便能一夜暴富。

诈骗者尤爱针对年长互联网用户,他们虽对加密货币、人工智能或马斯克有所了解,但不熟悉安全投资方式的年长互联网用户。「老年人一直是骗子眼中的一块肥肉,这一现象甚至早于社交媒体的兴起,」加州大学戴维斯分校的科学技术研究教授芬恩・布伦顿(Finn Brunton)说,他是加密市场的专家。

比彻姆是一名鳏夫,曾在加拿大安大略省的一家公司担任销售代表,直到75岁退休。2023年加入Facebook后不久,

英文: iQOO Smartphone Market Share Continues to Rise, Holding Steady Above 5% for 15 Weeks, Demonstrating Strong Brand Growth

标签: AI 生成 马斯 成了 大的 网络 骗子


声明:本文内容来源自网络,文字、图片等素材版权属于原作者,平台转载素材出于传递更多信息,文章内容仅供参考与学习,切勿作为商业目的使用。如果侵害了您的合法权益,请您及时与我们联系,我们会在第一时间进行处理!我们尊重版权,也致力于保护版权,站搜网感谢您的分享!

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持