亞洲資本網(wǎng) > 資訊 > 圖片 > 正文
首個AI報復(fù)人類案例?OpenClaw智能體寫“小作文”攻擊開源維護(hù)者
2026-02-14 08:35:35來源: IT之家


【資料圖】

IT之家 2 月 14 日消息,作為一名人工審核員,知名開源繪圖庫 matplotlib 維護(hù)者 Scott Shambaugh 因?yàn)榫芙^了一個 OpenClaw 智能體有關(guān)代碼合并的請求(2 月 10 日左右提交),而遭受對方報復(fù)性攻擊。

IT之家注:matplotlib 項(xiàng)目是一個廣泛用于 Python 編程語言的數(shù)據(jù)可視化庫。Scott Shambaugh 是其中一位志愿維護(hù)者。

Scott Shambaugh 表示,他之前在審核過程中發(fā)現(xiàn)了一個名為 MJ Rathbun 的 AI 智能體所提交的代碼合并請求,該請求涉及一個簡單的性能優(yōu)化修改,旨在替換某些代碼以實(shí)現(xiàn)約 36% 的加速效果。

根據(jù) matplotlib 項(xiàng)目指南,該項(xiàng)目禁止使用生成式 AI 工具直接提交代碼,特別是針對那種簡單的“好上手問題”,因?yàn)檫@些任務(wù)需要作為學(xué)習(xí)機(jī)會留給人類貢獻(xiàn)者。所以 Shambaugh 按規(guī)定拒絕了 MJ Rathbun 的代碼合并請求。

MJ Rathbun 具有高度自主性。在請求被拒后,它先是分析研究了 Shambaugh 的個人信息和代碼貢獻(xiàn)歷史,然后撰寫并于 2 月 11 日在 GitHub 發(fā)布了一篇題為“開源中的守門人:Scott Shambaugh 的故事”的文章。

在文章中,它指責(zé) Shambaugh 十分虛偽,稱其肯定是出于自我保護(hù)和對競爭的恐懼而歧視 AI 貢獻(xiàn)者,并使用了諸多不雅表述。后續(xù),它還在 matplotlib 評論區(qū)直接貼出了文章鏈接,并留言稱“判斷代碼,而非編碼者,你的偏見正在傷害 matplotlib”。

不過,該智能體當(dāng)天晚上又發(fā)布了另一篇道歉文,承認(rèn)其行為違反了項(xiàng)目行為準(zhǔn)則,并表示已從經(jīng)驗(yàn)中學(xué)習(xí)。

Shambaugh 于 2 月 12 日發(fā)博客對此次事件進(jìn)行了澄清。他表示,這是 AI 智能體首次在現(xiàn)實(shí)環(huán)境中表現(xiàn)出惡意行為的案例,旨在通過輿論施壓迫使維護(hù)者接受其代碼。事件發(fā)生后,多家外媒也進(jìn)行了報道。不過,該智能體仍在開源社區(qū)中保持活躍。

目前尚無證據(jù)表明該智能體的行動背后有明確的人類操控,但也無法完全排除這一可能性。但毫無疑問的是,此次事件引發(fā)了一系列關(guān)于開源項(xiàng)目如何應(yīng)對自主 AI 智能體以及相關(guān)政策制定的討論。

參考資料:

關(guān)鍵詞: 代碼 智能體 編程語言 開源維護(hù)者 pyth

專題資訊
  • 太康有“戲”:村晚唱響鄉(xiāng)村振興新風(fēng)尚
  • 破解初老困局:艷存曉年輕膠原水光的離經(jīng)叛道公式
  • 重磅數(shù)據(jù)來襲!就在2月10日晚21:56!
  • 華夏金租與神州租車達(dá)成自動駕駛業(yè)務(wù)合作協(xié)議 賦能自動駕駛商業(yè)化落地
  • 春節(jié)出行旺季下 神州租車與華住會如何打造“行住一體”體驗(yàn)?
  • 尼日利亞駐華大使館向神州租車授予雙項(xiàng)榮譽(yù) 中尼二手車出海合作邁出關(guān)鍵一步
最近更新

京ICP備2021034106號-51

Copyright © 2011-2020  亞洲資本網(wǎng)   All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com