英国一家人工智能公司表示，在其音频工具被用来克隆名人声音，并让他们说种族主义和同性恋侮辱性言论后，该公司正在重新考虑其“防护措施”。
11实验室周一在推特上表示，这是一个“疯狂的周末”，并承认在发布该工具的演示版本几天后发现了“越来越多的语音克隆滥用案例”。
该公司没有提供案件的细节，但网络论坛4chan上充斥着使用种族主义、性别歧视和恐同侮辱性语言的名人声音的深度伪造。
许多帖子都提到了Eleven Labs，一些用户声称已经被该公司封杀，还有一些用户提供了该工具演示版本的链接。
该论坛因其攻击性幽默而臭名昭著，前来治疗的名人包括《哈利·波特》系列电影的明星，以及电影导演昆汀·塔伦蒂诺和乔治·卢卡斯。
Eleven labs宣称其语音克隆技术“有可能彻底改变一系列行业的内容生产、传递和互动方式”。
在宣传材料中，该公司制作了一段由其他几位名人为演员莱昂纳多·迪卡普里奥配音的视频。
该公司在推特上表示，其技术已被“绝大多数应用于积极用途”，但还需要“额外的保障措施”。
它正在考虑的选项包括手动验证每个克隆请求或加强帐户验证。
人工智能工具接受了大量数据的训练——图片、音频、文本或视频——这让它们基本上可以预测用户想要什么样的输出。
文本工具ChatGPT凭借其只需几个提示就能生成相对高标准的文章的能力风靡全球。
像dall - e2和Midjourney这样的成像工具能够以著名艺术家的风格生成复杂的图像，正威胁着颠覆艺术和设计世界。
但批评人士长期以来一直担心克隆技术，尤其是音频和视频克隆技术，可能会导致深度造假和虚假信息泛滥。
一些人工智能公司正面临诉讼，人们指控这些公司使用他们的材料作为人工智能模型的基础，侵犯了版权。
©2023法新社
引用:人工智能语音工具被“滥用”，因为深度造假泛滥网络论坛(2023年1月31日)检索于2023年2月1日从https://techxplore.com/news/2023-01-ai-voice-tool-misused-deepfakes.html此文档 作品受版权保护。除为私人学习或研究目的而进行的公平交易外，未经书面许可，不得转载任何部分。的有限公司 Ntent仅供参考之用。
