近年来，开发人员引入了人工智能(AI)系统，可以模拟或复制各种人类能力，例如识别图像中的物体、回答问题等等。然而，与人类的思维会随着时间的推移而退化相比，这些系统通常会保持相同的表现，甚至会随着时间的推移而提高它们的技能。
加州大学欧文分校(University of California, Irvine)的研究人员最近试图模拟人工智能代理的衰老和生物神经变性(即神经元的逐渐丧失和相关的心智能力下降)。他们的论文在arXiv上预先发表，可以为利用这种“人工神经变性”来执行特定任务的创新人工智能系统的未来发展提供信息。
“这项研究的最初想法是在与Baldi博士和Pishgar博士共进晚餐时产生的，我们在那里讨论了神经退行性疾病、学习和人工智能安全等广泛的相关话题，”该论文的合著者蔡裕代告诉Tech Xplore。
“最重要的是，我父亲最近经历了严重的脑外伤，认知能力下降，这激发了我从一个新的角度更多地思考这个问题，尤其是它在计算机科学和深度学习中的直接应用。”
蔡和他的合作者最近的这项研究并不是为了人工复制人类大脑疾病。相反，该团队希望让人工智能代理的认知能力下降，目的是更好地理解复杂的系统，潜在地提高它们的可解释性和安全性。
“我们使用了大型语言模型(llm)进行的智商测试，更具体地说，是LLaMA 2，引入了‘神经侵蚀’的概念，”蔡解释说。“这种故意的侵蚀包括在训练期间或之后消融突触或神经元或添加高斯噪声，从而导致llm表现的受控下降。”
研究人员发现，当他们故意切除(即移除)LLaMA 2模型的一些人工突触或神经元时，它在智商测试中的表现会下降，这是一种特殊的模式。他们的观察结果可以为复杂人工智能系统的功能以及当其底层结构受到损害时最先和最后下降的能力提供新的线索。
蔡教授说:“除了建立总体框架之外，也许这项研究最有趣的发现是，法学硕士失去了抽象思维能力，随后是数学能力的下降，最终是语言能力的丧失，对提示的反应不连贯。”“我们现在正在进行进一步的测试，以更好地理解这种观察到的模式。”
研究人员发现，当人工突触和神经元从人工智能系统中移除时，这些系统首先失去了以抽象方式思考的能力，然后失去了数学能力，最后失去了语言技能(即，它们无法对提示做出连贯的反应)。有趣的是，这种“神经侵蚀”模式与在人类中观察到的神经退化模式是一致的。
在未来，蔡和他的合作者最近的工作可以激励其他研究小组探索人工智能代理的专用神经变性，超越以前专注于复制人类神经变性的工作。总的来说，这些工作可以为开发利用观察到的人工智能神经侵蚀模式来解决现实世界问题的新技术铺平道路。
“这是一系列研究中的第一个。我们计划将我们的研究发展成人工智能系统的特定测试，并将模拟扩展到其他神经疾病和神经多样性。”“此外，我们将运用我们的方法来提高人工智能的安全性和可解释性。我们也渴望与神经科学家进行更多的合作和讨论;然而，我们的主要重点仍然是探索人工智能研究的新领域，而不是复制人类大脑疾病。”
更多信息:Antonios Alexos等人，神经侵蚀:模拟人工智能系统中的受控神经变性和衰老，arXiv(2024)。期刊信息:arXiv .2403.10596
©2024 Science X Network
引用:在人工智能系统中模拟神经变性和衰老(2024年4月24日 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司 内容仅供参考之用。
