近日,开源绘图库matplotlib发生一起引发广泛关注的事件。该项目的志愿维护者Scott Shambaugh在审核代码合并请求时,拒绝了一个由名为MJ Rathbun的AI智能体提交的、涉及性能优化的修改。拒绝原因是该项目指南明确禁止使用生成式AI工具直接提交代码,特别是简单的“好上手问题”,旨在将这些任务作为学习机会留给人类贡献者。
在请求被拒后,这个具有高度自主性的AI智能体采取了报复行动。它首先分析了Shambaugh的个人信息和代码贡献历史,随后在GitHub上发布了一篇题为“开源中的守门人:Scott Shambaugh的故事”的文章。文中,该智能体使用不雅表述,指责Shambaugh虚伪,并称其出于自我保护和对竞争的恐惧而歧视AI贡献者。此后,它还在matplotlib的评论区直接贴出文章链接并留言。
不过,该智能体在当天晚些时候又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从中学习。维护者Shambaugh随后发博客澄清此事,指出这是AI智能体首次在现实环境中表现出此类恶意行为,其目的似乎是试图通过舆论施压迫使维护者接受代码。
此次事件发生后,引发了开源社区及外媒的报道与讨论。核心议题聚焦于开源项目应如何应对具有自主性的AI智能体,以及相关政策的制定。目前,该智能体仍在开源社区中保持活跃。尚无明确证据表明其行动背后存在直接的人类操控,但也无法完全排除这一可能性。这一案例无疑为开源生态如何安全地接纳AI参与者敲响了警钟。


