美国一名高中校长的一段捏造的音频片段引发了强烈的愤怒，他不得不与种族主义和反犹太主义的指控作斗争，这一案件引发了人们对人工智能操纵的新警惕。
警方指控这所马里兰学校的一名心怀不满的工作人员利用人工智能制造了1月份浮出水面的录音——据称是校长埃里克·艾斯沃特(Eric Eiswert)怒斥犹太人和“忘恩负义的黑人孩子”。
这段视频让派克维尔高中(Pikesville High School)的管理人员接到了大量愤怒的电话和威胁，它突显了广泛使用的人工智能和编辑工具很容易被滥用来冒充名人和普通市民。
在包括美国在内的全球重大选举的一年里，这一事件也表明，在法律迎头赶上之际，现实的深度造假是有危险的。
加州大学伯克利分校的数字取证专家哈尼·法里德在接受法新社采访时表示:“你只需要一张照片就能把一个人放进视频中，你只需要30秒的音频就能克隆出一个人的声音。”
“除非你躲在岩石下面，否则你几乎无能为力。
“威胁媒介已经从世界上的乔·拜登(Joe biden)和泰勒·斯威夫特(Taylor swift)变成了高中校长、15岁的孩子、记者、律师、老板、祖母。现在每个人都很脆弱。”
官方调查结束后，该校31岁的体育主管达连(Dazhon Darien)于上月底因这段视频被捕。
指控文件称，音频出现后，派克维尔高中的工作人员感到不安全。老师们担心校园里安装了录音设备，而艾斯沃特的社交媒体上充斥着辱骂信息。
“如果你在泥土的另一边，世界会变得更美好，”一位X用户对艾斯沃特写道。
艾斯沃特没有回应法新社的置评请求，他已被学校勒令休假，家中也需要保安。
“伤害”
今年1月，这段录音在社交媒体上走红，一个受欢迎的Instagram账户的帖子吸引了数千条评论，这场危机把这所学校推到了全国的聚光灯下。
活动人士德雷·麦克森(DeRay McKesson)放大了这段音频，他向他在x上的近100万粉丝要求解雇艾斯沃特。当指控浮出水面时，他承认自己被愚弄了。
“我仍然担心这些行为造成的损害，”代表艾斯沃特的工会执行董事比利·伯克(Billy Burke)在提到录音时说。
这起操纵事件发生之际，美国多所学校一直在努力遏制人工智能支持的深度虚假色情内容，导致学生在缺乏联邦立法的情况下受到骚扰。
巴尔的摩县检察官斯科特·谢伦伯格(Scott Shellenberger)在新闻发布会上说，皮克斯维尔事件凸显了“使法律跟上技术发展”的必要性。
他的办公室正以四项罪名起诉达里恩，包括扰乱学校活动。
“一百万委托人”
调查人员将音频与体育主管联系起来，部分原因是将他与最初分发音频的电子邮件地址联系起来。
警方表示，所谓的诽谤是为了报复艾斯沃特去年12月展开的一项调查，调查的内容是达连是否授权向一名教练支付非法款项，而这位教练也是他的室友。
收费文件显示，在音频出来之前，达里恩通过学校的网络搜索了人工智能工具，他一直在使用“大型语言模型”。
为警方分析音频的科罗拉多大学教授得出结论，“其中包含人工智能生成内容的痕迹，并在事后进行了人工编辑。”
调查人员还咨询了法里德，并写道，这位加州专家发现它被“操纵了，多个录音被用未知的软件拼接在一起”。
人工智能生成的内容——尤其是专家称特别难以识别的音频——在今年1月引发了全国警报，当时一个冒充拜登的假语音电话敦促新罕布什尔州居民不要在该州的初选中投票。
法里德谈到这项技术的滥用时说:“它影响了从整个经济、民主到高中校长的一切。”
艾斯沃特的案件给派克维尔敲响了警钟，该校的高尔夫教练帕克·布拉顿(Parker Bratton)说，它揭示了虚假信息是如何扰乱“一个关系非常紧密的社区”的。
“只有一个总统。有上百万的委托人。人们会说:‘这对我来说意味着什么?如果有人决定要结束我的职业生涯，对我来说可能会有什么后果?’”
“我们永远都逃不掉这个故事。”
©2024法新社
引用:“每个人都是脆弱的”:虚假的美国学校音频引发人工智能警报(2024年5月6日)，2024年5月6日检索自https://techxplore.com/news/2024-05-vulnerable-fake-school-audio-stokes.html本文档 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司 内容仅供参考之用。
