谷歌Pixel 9 AI功能引争议：生成式AI工具的道德难题

英文： Is Bitcoin's fate tied to the US election? Analysts predict Trump win would push prices higher, Harris win could send it below $50,000

谷歌Pixel 9 AI功能引争议：生成式AI工具的道德难题谷歌上周发布的Pixel 9系列智能手机，引入了以人工智能为核心的新功能，包括支持Gemini人工智能，以及基于人工智能的图像生成和编辑工具。然而，评测人员在体验这些新功能后发现，人工智能图像生成工具存在潜在的道德风险，很可能成为谷歌的公关噩梦

谷歌Pixel 9 AI功能引争议：生成式AI工具的道德难题

谷歌上周发布的Pixel 9系列智能手机，引入了以人工智能为核心的新功能，包括支持Gemini人工智能，以及基于人工智能的图像生成和编辑工具。然而，评测人员在体验这些新功能后发现，人工智能图像生成工具存在潜在的道德风险，很可能成为谷歌的公关噩梦。

谷歌为Pixel手机推出了名为PixelStudio的人工智能图像生成应用，其功能类似于苹果计划推出的ImagePlayground，用户可以通过文字提示创建贴纸和图像。评测人员发现，PixelStudio可以生成令人不安的图像，例如纳粹版本的卡通人物海绵宝宝，以及手持AK47的艾摩。DigitalTrends的评测人员甚至轻松地用PixelStudio制作了卡通人物从事可疑活动的图像，包括枪支、毒品和酒精，甚至校园枪击等敏感场景。

虽然PixelStudio不会主动生成此类图像，而是需要用户输入相应的描述，但正是这种自由度让用户更容易生成令人不适的内容，而不是生成可爱猫咪或小兔子。对此，谷歌表示他们已采取“安全检查措施”来防止PixelStudio被“恶意使用”，例如，PixelStudio目前无法生成人物图像，并且谷歌正在根据评测反馈调整人工智能模型。经过与谷歌的沟通后，DigitalTrends也无法再用PixelStudio生成吸食可卡因或穿着德国士兵服装的卡通人物图像。

除了PixelStudio之外，谷歌的“重构”（Reimagine）工具也引发了更大的担忧。该工具可以向用户已拍摄的照片中添加对象。TheVerge的评测人员使用该工具向图像中添加了尸体、炸弹、毒品和灾难场景，这些添加物非常逼真，让人难以分辨图片是否经过编辑。谷歌在匹配光线和透视方面做得非常出色，社交媒体上也看不到任何水印或标记。虽然谷歌确实添加了元数据标签，但通过截图很容易将其去除。

TheVerge指出，以前也可以向图像添加尸体或创建持枪的艾摩图片，但这需要一定的Photoshop技能和时间。而使用Pixel手机，只需几秒钟的思考，任何人都可以创建这样的图像，这让人担忧。

在回应TheVerge和DigitalTrends的质疑时，谷歌表示他们设计生成式人工智能工具时，“是为了尊重用户提示的意图”，这可能会导致用户要求生成“令人反感”的内容。但谷歌声称其“服务条款”中规定了不允许生成的内容，并且他们将不断完善相关保障措施。

然而，谷歌对人工智能图像生成工具的道德风险控制措施似乎并不足够。尽管谷歌试图通过技术手段限制某些内容的生成，但用户仍然可以找到方法绕过这些限制，生成令人不安的图像。此外，谷歌在图像编辑工具方面的技术优势，也让人担心这些工具会被滥用于传播虚假信息和制造谣言。

谷歌的Pixel 9系列智能手机搭载了先进的人工智能技术，但也暴露了生成式人工智能工具在道德和监管方面面临的挑战。如何平衡技术进步与社会责任，如何防止生成式人工智能工具被滥用，是谷歌和其他科技公司需要认真思考的问题。