Midjourney研究实验室暂停了其图像生成软件的免费试用，原因是用户制作出了逼真的深度造假照片，包括美国前总统唐纳德·特朗普被捕的照片和教皇弗朗西斯穿着羽绒服的照片。
Midjourney今天回复了一个请求，称无法提供，改天再试。
使用人工智能平台制作的图像，尤其是特朗普和教皇的图像被疯传，使总部位于旧金山的实验室成为人们关注的焦点。
Midjourney创始人David Holz在该公司Discord频道的一篇文章中表示:“由于需求巨大和试用滥用，我们暂时禁止免费试用，直到我们对系统进行下一次改进。”
该服务根据用户的书面提示生成逼真的图像。
它于2022年中期以测试模式推出，独立实验室不断升级软件。
用户称赞新发布的Midjourney版本提高了制作图像的真实感。
在停止新的免费试玩的同时，《Midjourney》还禁止了某些词语，如“被捕”，用于提示图像创建。
今天，《Midjourney》拒绝了法新社的要求，拒绝制作一张美国前总统在纽约特朗普大厦前被捕的照片。
“禁止使用‘被捕’一词，”Midjourney网站的一条消息称。
“绕过这个过滤器违反我们的规则可能会导致您的访问被撤销。”
亿万富翁大亨、推特所有者埃隆·马斯克和一系列专家昨天呼吁暂停开发强大的人工智能系统，以便有时间确保它们的安全。
微软支持的公司OpenAI发布人工智能平台GPT-4，促使这封迄今已有1000多人签名的公开信，其中包括马斯克和苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)。
在这封信上签了名的加拿大人工智能先驱约书亚·本吉奥在蒙特利尔的一场虚拟新闻发布会上警告说，“社会还没有准备好”接受这一强大的工具，以及它可能被滥用的情况。
“让我们慢下来。让我们确保开发出更好的护栏。”
