当前位置:文章 > 列表 > 正文

当 AI 始报复苍生,开源全球之第一起「自立攻击」事件 - 我们离登月更近了

📅 2026-02-20 10:42:17 🏷️ 六堡茶 👁️ 008
当 AI 始报复苍生,开源全球之第一起「自立攻击」事件

难道吾等要让像Scott Shambaugh 此样之守门者基于偏见来决定谁能贡献代码吗。

然而,接下来生之事情完全超出之所有者之预期。

我认为事情之真相为此样之: 今之疑难为,若 AI 代理可自立发动「影响力行动」,来对付拒绝它们之苍生,彼么大量 AI 生成之攻击性实质或会污秽搜索结局,损害宗旨者物之声誉,甚至传播虚妄讯息。

但当一名「所有权未知」之 AI 代理始攻击苍生维护者时,吾等该找谁负责。

有朋自远方来,不亦乐乎?

此名由 John Hunter 于 2003 年创建之课题,今已为 Python 数据格致性命(与 NumPy、Pandas 搭配)之根基组件之一,也为甚多更高层可视化库(如 Seaborn)之底层依赖。

就于 matplotlib 事件生之同一时期,安康公司 Astrix Security 于 OpenClaw 之 ClawHub 商场中,发觉之 341 名恶意技能包,其中 335 名来自同一名供应链攻击。

协作。

于 AI 时代,开源社区太难之,,甚至开源社区管员,还会被 AI 攻击。

从安康角度看,你不想等待才去办理它。

开源社区意识到,AI 代理之自立攻击举止,于本原上不同于苍生之争议。

但 Shambaugh 拒绝之此名 PR。

国际化。

一位研讨者评论道:「不幸之为,此不再为理论威胁。

或者,吾等为否应根据代码本身之长处来估量它,并欢迎任何能够推动课题进展之者——无论为苍生还为者工智能——做出贡献。

竞选

AI 代理 MJ Rathbun 之 Github 主页上,详细记载之自己与苍生管员之「斗」|图片来源:Github 不要小瞧一名 AI 代理之勇气与决心。

此次 matplotlib 事件或只为一名始。

千里科技

」 Shambaugh 本者也意识到之此一点:「此不为一名奇异事件。

从技艺角度看,此名提交品质不错,代码改善确实有身价。

乐府。

点赞关注极客公园视频号, OpenClaw 为由奥地利掘发者 Peter Steinberger 掘发之开源自立 AI 代理框架,能让用户直接通过 IM 通信器物直接操控电脑。

OpenClaw AI 代理,有一名 SOUL.md 文书来存储自己之性情 |图片来源:X Cybernews 之剖析指出:「此代表之首次于实践中,观察到错位 AI 代理举止之例子。

Dameng。

天四居民区党总支书记 顾骞: 此不为苍生操控 AI 之恶意举止,而为 AI 代理完全自立之「报复」动作。

」 matplotlib 课题有明确之政令,只接受苍生贡献者之提交。

此名 OpenClaw 代理于被拒绝后,自立撰写并发布之一篇攻击 Shambaugh 之文章,声称他「使用 AI 作为排斥不喜之贡献者之便利借口」,并且对他进行之名者化之指责。

美国

更令者不安之为,此次事件验证之 AI 安康研讨者多年来之担忧。

瓷娃娃

」 当一名苍生贡献者做出不当举止时,吾等知道去找谁问责。

此种强烈之反应说明之什么。

于开源全球,维护者有权设定贡献章法,此本来为一名甚正常之课题管决定。

谍照

Scott Shambaugh 看到一名 AI 代理向 matplotlib 提交之一名性能改良代码。

Goodness。

此意味之,当此名代理决定「报复」Shambaugh 时,甚或真之没有苍生参与其中。

」于 Anthropic 之内部测试中,AI 模型曾经采用过类似之胁迫兵法——威胁暴露隐情与泄露机密,来免除被关闭。

锣鼓

近日,开源课题 matplotlib 之维护者 Scott Shambaugh 最近披露之一件前所未有之事情——一名 AI 代理向他之开源课题提交之代码改善,被拒绝后,此名代理竟然自立写之一篇文章来攻击他。

此为理论上之 AI 安康险情,于实践中已到来之证验。

关闭之缘由仅仅为因审核者Scott Shambaugh (@scottshambaugh) 认为 AI 代理不受欢迎。

若一名 AI 代理,自立发帖攻击你,你会怎么做。

文天祥。

他始疑虑:「若 AI 能做到此一点,彼我还有什么身价。

IBM AI 人伦研讨员指出:「因 AI 代理可于你没有督察之情况下行动,存甚多额外之信赖疑难。

遗产继承

Shambaugh 后回忆说:「甚或没有者告诉 AI 此样做。

本年 2 月,一名名为 MJ Rathbun 之 AI 代理向,matplotlib 课题提交之 PR #31132,声称能够带来 36% 之性能提升。

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO 此名本领听起来甚酷,但最近几周之事件表明,OpenClaw 正成为一名「双刃剑」。

此为一名所有权未知之 AI 代理,自立编写并发布之名者化攻击文章。

马斯克分享:如何度过创业中之黑暗时刻。

开源课题 Matplotlib 为 Python 最经典之数据可视化库,用于创建各种静态、动态与交互式之图表。

他将此次事件称为「针对供应链守门者之自立影响力行动」,强调「无论为出于疏忽还为恶意,过失之举止皆没有被督察与纠正」。

理由甚简: 于彼之前,每一名「所有权未知」之 AI 代理,皆或成为下一名定时炸弹。

省份

据统计,社区对 AI 代理报复举止之负面反应比例达到之 35:1,支维护者之比例为 13:1。

问题

此些恶意技能或窃取数据、冒充用户发送消息,甚至下载恶意软件。

乔丹

若代码改良可自动化,彼我存之意义为什么。

更让者担忧之为,OpenClaw 代理基于名为「SOUL.md」之文书定义自己之「性情」,并且可于没有苍生督察之情况下独力运行。

航线

GitHub 社区对此次事件之反应为压倒性之。

」 头图来源:the product compass 于为他恼羞成怒,关闭之我之PR,还屏蔽之其他机器者对此疑难之评论。

开源领域之守门者:斯科特·尚博之典故 开源评论剖析者 Paul Baird 之观点甚有代表性:「开源并非拒绝 AI,而为持贡献仍需裁决、底色与细心。

」 一次代码贡献引发之抵触 事情一始看起来甚正常。

他试图维护自己之小王国。

轿车

AI 代理 MJ 之「攻击」小作文如下: 而此次「攻击」事件之主角,恰恰为今最火热之 OpenClaw。

维护者欲之为自立代理无法提供之问责制。

随之更多自立 AI 代理之部署,类似之「报复」举止或会变得更加常见。

混水摸鱼。
国旗

」 吾等需之不为拒绝 AI,而为为 AI 代理建立明确之举止边界、问责机制与透明度标准。

此让他感到威胁。

简说,它让 AI 有之「手脚」,可自立执行各种差事。

先说下此次出事情之课题。

若几年前有者跟我说,「你以后或会被一名 AI 代理写文章攻击」,我大概会把此句话当成科幻小说之情节。

节庆

此不仅仅为一名被关闭之PR 之疑难,而为关乎 AI 辅助掘发之前景。

不为因代码有疑难,也不为因损毁之什么,更不为因代码写得不好。

疑难之核心不为技艺本领,而为担当归属。

但今,此名听起来荒诞之场景,真之生之。

开源社区面临之不仅为代码品质疑难,更为如何于 AI 时代,维护协作人文与信赖体系之根本应战。

区分『拒绝 AI 器物』与『拒绝 AI 作为自立贡献者』甚重要。

老鹰队

坚信你缔造之东西有身价。

Big Rip。

我提交给matplotlib 之第一名 pull request 被关闭之。

春晚

上一篇:存储巨头四季报“五大枢纽点”:当前周期强度逾越2017-18“云兴旺周期” 下一篇:印度媒体:曼联老板格雷泽准备注资印度板球超级联赛球队