IT之家 2 月 15 日消息，当地光阴 2 月 12 日，谷歌称其 AI 聊天机器者 Gemini 正遭遇大量“蒸馏攻击”（distillation attacks）—— 即通过重复提问诱导聊天机器者泄露内部机制。
科技公司已投入数十亿美元掘发 AI 聊天机器者（IT之家注：指大言辞模型），其核心模型之内部机制被视为高度重要之专有资产。
横看成岭侧成峰，远近高低各不同。谷歌还提到，多数攻击旨试图套取 Gemini 之“推演”算法，即其讯息办理决策机制。
”他将谷歌之处境形容为“煤矿里之金丝雀”，意味之大型平台之遭遇或预示更广泛之行业险情。
谷歌威胁情报小组（Threat Intelligence Group）首席剖析师约翰 · 霍特奎斯特（John Hultquist）指出，“针对 Gemini 之攻击规模表明，此类攻击甚或已始或即将蔓延至小型企业之定制 AI 器物领域。
尽管各大厂商已部署能够识别与阻断蒸馏攻击之机制，但由于主流大模型效劳面向所有者敞开，故其本原上仍易受攻击。
谷歌于周四发布之呈文中表示，此些攻击主要由“商业动机举止者”发起。
他举例称，若某家公司之 LLM 修习之其“100 年来交易之思维方式”，理论上也或被蒸馏手腕逐步提取出枢纽学识秘密。
霍特奎斯特警告，随之越来越多公司始操练面向内部业务之定制 LLM，且此些模型或包含敏感数据，蒸馏攻击之潜于危害会更大。
谷歌强调，此类蒸馏攻击属于学识产权盗窃。
谷歌发言者向 NBC News 表示，此次攻击源来自全球多名地区，但拒绝披露更多关于嫌疑方之讯息。
公司裁决其幕后者员多为望得角逐优势之 AI 私企或研讨机构。
谷歌表示，此些攻击者试图通过反复提问不断试探其模型输出模式与逻辑，探测其内部机制，从而“克隆”该模型或强化攻击者自己之 AI 体系，其中一场攻击举动对 Gemini 之提示次数超过 10 万次。
中新网2月14日电(吴家驹)据《华尔街日报》报道，近日，营造师斯科特·尚博(Scott Shambaugh)发觉者工智能机器者撰写之一篇博客文章，指责他伪且充满偏见。