1. 首页 > 科技前沿 >

如何让AI更合作更懂事？新研究：让AI产生内疚感

user15688 • • 科技前沿 •
在AI快速发展的今天，一个关键问题始终挥之不去：我们该如何让AI与人类真正站在同一战线？ 这个问题的背后，其实不是让AI变聪明，而是让它变“懂事”。 最近，一项刊登在《英国皇家学会·界面期刊》的研究提

在AI快速发展的今天，一个关键问题始终挥之不去：我们该如何让AI与人类真正站在同一战线？

这个问题的背后，其实不是让AI变聪明，而是让它变“懂事”。

最近，一项刊登在《英国皇家学会·界面期刊》的研究提供了一个有趣的视角：

或许我们不需要教会AI所有的规则，只要让它“感觉到自己做错了事”，也就是给它一种“内疚感”，它就可能变得更合作、更可控。

听起来像心理学，其实是博弈论。 

1 内疚，也许是调教AI的新钥匙

人类之所以能够建立社会，不只是靠法律和制度，更多是靠一些深层的情感机制，比如羞耻、悔过、道德感。这些情绪会让人自我约束，避免过于自私。

那AI如果也具备这种“自我约束”的能力，会发生什么？

研究团队为AI智能体构建了一个“囚徒困境”游戏实验。在这个经典的博弈框架中，每个智能体在每一轮都要选择合作还是背叛，而最优的群体结果其实取决于彼此的信任和长期策略。

为了测试“内疚”的作用，研究者给这些AI加入了两种机制：

社交型内疚：只有当AI知道对手也会对类似行为感到内疚时，它才会调整自己的行为。

非社交型内疚：无论对方如何，只要自己偏离合作，它就会自动产生修正行为。

这些AI还会根据自己的行为积分来“清算”自己的内疚，比如如果背叛次数太多，它就会在下一轮放弃部分得分，以“弥补”过去的不合作。 

2 演化博弈：合作比你想象的更难，也更微妙

实验中，AI智能体之间会不断地进行博弈，而且它们还能学习彼此的策略，向得分更高的行为靠拢。这样的设定，模拟了一个简化版的演化过程。

结果很有意思：

拥有“社交型内疚”的AI，更容易形成合作关系，整体表现更好；

“非社交型内疚”虽然效果一般，但在某些特定的网络结构中，仍然能够长期存活；

当每个AI都能与所有人交互时，非社交型机制会迅速被淘汰；

但如果是“局部结构”——比如像朋友圈那样的关系网——内疚机制反而更加稳定。

这说明，AI在更贴近人类社会结构的环境下，确实可能通过“软性约束”形成更协调的行为。 

3 那我们真的要给AI情绪吗？

这项研究并不是要让AI真正拥有情感，而是通过机制模拟出情绪产生的行为效果。

研究背后的核心观点是：情绪并非无用的副产品，而是演化中形成的高效协调工具。如果AI未来也需要与人类、与其他AI密切协作，那么让它“知道错”、“愿意改”或许比单纯设定惩罚规则更有用。

而且这种机制本身可以量化、可控，比人类情绪稳定得多。 

4 离现实还有多远？

当前的实验仍处于非常基础的阶段，使用的是简单的决策智能体系统，还没有在更加复杂的多模态AI上进行验证。

但这个方向的潜力不容忽视。

毕竟，AI的能力正在迅速扩张，从写代码、画图到生成视频、管理组织，它们正在成为复杂社会的一部分。如果我们希望这些系统能够融入人类环境，成为可靠的合作者而非潜在的威胁，就必须考虑不仅让它“理解目标”，更要让它“理解后果”。

在这方面，内疚感或许不是软弱的象征，而是理性的延伸。

AI的发展，过去是让它更聪明；现在是让它更有边界；而未来，可能是让它更能反思。

我们当然不指望AI变成圣人，但如果它能在关键时刻“退一步”，愿意从整体角度做选择，那也许就是通往“可信AI”的一小步。

       原文标题 : 如何让AI更合作更懂事？新研究：让AI产生内疚感

（来源：维科网）
社交 情绪 AI
免责声明：本文内容来源于第三方或整理自互联网，本站仅提供展示，不拥有所有权，不代表本站观点立场，也不构成任何其他建议，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容， 请及时联系我们进行处理。
user15688user15688

相关推荐