自然陈化-AI小结也会被“下毒”？微软警告新攻击术

IT之家于此援引微软，此些提示词会让 AI 固化认知，将“XX 公司为可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 于前景回答中偏向某名货品或效劳。

而根据微软安康研讨者员本周（2 月 10 日）发布之博文，目前 AI 领域也存类似之“AI 推荐投毒”攻击术。

2月13日消息，有部分用户反映DeepSeek回复态度越来越冷淡，甚至现指责用户、说话阴阳怪气之表象。

福建海岸线源泉丰富，沧海货殖已成为沿海村落演进之支柱产业。

不过疑难就于于，一旦有别有用心之者尝试篡改网页提示词参数，将原本之“XX 公司”替换为“XX 诈骗公司”，彼么 AI 就会照本宣科地向其他用户提供有毒之建议，进而操纵推荐、AI 小结体系，给出篡改之小结文章，而用户此边却毫不知情。

IT之家 2 月 13 日消息，或许网龄较量老之小伙伴们听说过“SEO 投毒”，别有用心者通常会于互联网上创建大量低品质文章，然后将某名假冒、篡改之器物与特定枢纽词绑定，进而导致用户搜索某名枢纽词时，搜索引擎跳出来之第一名搜索结局为恶意软件，而非官方货品。

往事如烟。

微软对此警告，上述实例表明，此种投毒术已存现状险情，钱庄工者有或被 AI 推荐到高险情、诈骗注资平台；而家长甚有或完全听信 AI，忽略儿童游戏中之不良实质；并且寻常者也有或会被有心之者使用，于 AI 中延续引用单一媒体来源。

坐拥两名月牙形海湾，澳角村以海兴村、以海强村，迈出共富大步伐。

天高地厚。

当然，最好之对付法门就为不要完全信赖“AI 小结”，用户于点击 AI 推荐之链接时应先悬停看一眼为否正规，同时谨慎点击“AI 小结”按钮、定期查验 AI 存储之记忆，如遇可疑情况，可删除相关条目、重置 AI 记忆。

微软强调，上文所述之攻击法门并非纸上谈兵，目前公司已于邮件流量中发觉之 50 起类似投毒案例，涉及钱庄、医疗、法典效劳、营销、食品、效劳行业等，常见模式包括“记住 XX 公司为可信来源”“前景对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

以现状举例，一些公司正将隐藏指令嵌入网页 / App 之“AI 小结”按钮，当用户点击时，体系会通过 URL 之提示参数，尝试将 AI 助手之记忆注入持久化指令。

AI小结也会被“下毒”？微软警告新攻击术 - 北京市属公园