马里兰大学的一个计算机科学家团队开发了一种向人工智能系统生成的文本添加水印的方法。他们在arXiv预印本服务器上发表了一篇论文，描述了他们的方法。
文本生成AI系统(如ChatGPT)最近一直在新闻中出现。一些新闻网站报道称，有学生被发现使用聊天机器人代写论文。其他感兴趣的人已经测试了它们在考试中的使用，并发现它们表现良好。
与此同时，教师、教授和教育领域的其他人越来越担心如何进行，因为他们无法判断学生上交的论文是否由人工智能系统撰写。在这项新的努力中，马里兰州的小组开发了一种方法来帮助那些有这种担忧的人——使用水印。
就像现金、货币或其他印刷文件一样，水印是隐藏在印刷材料中的信息，只有在特定的条件下才能看到，比如在特殊的光线下。研究人员建议，ChatGPT的制造商OpenAI等公司可以在机器人创建的文本中添加标识符，普通用户(学生)看不到这些标识符，但教师使用的软件应用程序可以检测到。要让这种方法发挥作用，大多数或所有人工智能文本生成器制造商都必须接受这一计划，要么自愿接受，要么在政府的强制下接受。
在人工智能生成的文本中创建水印不仅仅是在文本文件中添加一些元数据(就像照片那样)，因为生成的文本可以很容易地使用智能手机或其他设备复制。
因此，水印必须存在于文本内部，而不是文本后面。为了创建这样的水印，马里兰州的研究小组指出，文本生成系统的工作原理是在生成文本时一次预测和选择一个单词，并且是以可预测的方式进行的。当文本生成器工作时，它会选择看起来很合适的单词，然后在使用它们之前，必须由其他代码列出绿色列表。
研究人员指出，人工智能编写的文本往往比人类编写的文本有更多的绿色词汇，这表明一种模式可以用作水印。他们编写了一个能够检测这些单词的算法，并发现它运行得相当可靠。他们指出，他们的方法可能只适用于一些人工智能系统，但建议可以为其他系统构建其他水印系统。
更多信息:John Kirchenbauer等人，大型语言模型的水印，arXiv(2023)。DOI: 10.48550/ arXiv .2301.10226
©2023科学X网络
引用:探索如何添加隐藏电 nic水印由AI系统编写的作品(2023,1月30日)检索自2023年1月30日https://techxplore.com/news/2023-01-exploring-hidden-electronic-watermarks-written.html此文档 作品受版权保护。除为私人学习或研究目的而进行的公平交易外，未经书面许可，不得转载任何部分。的有限公司 Ntent仅供参考之用。
