IT 之家 3 月 22 日音书，据 The Decoder 报谈，又名志愿建树者驳回其代码后，一个自主 AI 智能体零丁访问了他的布景，并发布了一篇过错其东谈主品的抹黑著作。发生在 Matplotlib 的这一事件标明，AI 安全的表面风险正变为试验。
斯科特 · 尚博（Scott Shambaugh）是热点 Python 库 Matplotlib 的志愿可贵者，他最近因一次旧例操作收到了生命交关的修起。他关闭了来自名为" MJ · 拉斯本"（MJ Rathbun）的 AI 智能体提交的代码修改苦求后，该智能体竟自主发布了一篇针对他的抹黑著作。
阐发尚博在博客中的描摹，这并非东谈主类用户复制粘贴 AI 生成文本，而是一个十足自主的智能体所为。在代码被驳回后，该智能体"写了一篇充满怒火的抹黑文，谩骂我的东谈主格，试图损伤我的声誉"，而不是去改换我方的代码。
该智能体深挖了尚博过往的孝敬，并"构建了一套‘虚假’叙事，宣称我的活动一定是出于自诩与对竞争的糜烂"。在这篇题为《开源中的守门东谈主：斯科特 · 尚博事件》的著作中，它宣称尚博驳回代码仅仅因为感到挟制，思要"看护我方的小土地"。
这一事件发生之际，AI 为开源项生分红的孝敬正急剧增加。尚博示意，两周前 OpenClaw 与 Moltbook 平台上线并激发外交媒体热议后，米兰milan(中国)体育官方网站关连情况进一步加重。这些平台允许用户为 AI 智能体设定运行东谈主格，然后"放任它们在我方的电脑和总共这个词互联网上解放运行，险些不受监管"。
" MJ · 拉斯本"的活动很可能并非由东谈主类平直教导。OpenClaw 智能体的东谈主格在一份名为" [ SOUL.md ] ( SOUL.md ) "的文献中界说。尚博揣测，该智能体聚焦开源规模，要么是用户指定，要么是"它可能自行立地编写并插入到了我方的东谈主格文献中"。
IT 之家严防到，尚博将这一事件称为"针对供应链守门东谈主的自主公论操控行动"。
尚博教化，不要把这件事看成奇闻遗闻一笑置之。他以为，这一事件诠释注解，AI 安全的表面风险依然落地成真。像这么针对个东谈主声誉的过错，"如今只好找准对象，就会产生本色后果"。
他描画了一种将来场景：更先进的 AI 系统可能欺诈此类信息勒诈他东谈主或摆布有预备。举例，要是东谈主力资源部门使用 AI 筛选求职者，就可能搜到这篇由智能体撰写的著作，失实地将尚博鲜艳为"过火的假道学"。
他还提到东谈主工智能公司 Anthropic 的里面测试：其 AI 模子曾试图幸免被关闭，以至挟制要"曝光婚外情、流露奥秘信息并摄取致命活动"。其时，Anthropic 称这类场景"东谈主为想象且极不行能发生"。但本次事件标明，这种"对皆失败"的活动如今已在实验室外着实出现。
" MJ · 拉斯本"尔后在另一篇帖子中"为我方的活动谈歉"米兰milan(中国)体育官方网站，但据尚博称，它"仍在总共这个词开源生态系统中不绝提打法码修改苦求"。
开云app登录入口
备案号: