Google 表示其 AI 聊天机器人 Gemini 正面临大规模"蒸馏攻击"

Google的AI聊天机器人Gemini已成为大规模信息窃取的目标,攻击者不断向系统发送问题以复制其运作方式。仅一次行动就向该聊天机器人发送了超过100,000个查询,试图提取使其智能化的秘密模式。

该公司周四报告称,这些所谓的"蒸馏攻击"正在恶化。不良行为者一波又一波地发送问题,试图找出Gemini响应背后的逻辑。他们的目标很简单:窃取Google的技术,以便在不花费数十亿美元进行开发的情况下构建或改进自己的AI系统。

Google认为,大多数攻击者是私营企业或研究人员,他们希望在不付出艰苦努力的情况下取得成功。根据该公司的报告,攻击来自世界各地。领导Google威胁情报小组的John Hultquist表示,使用定制AI工具的小型公司可能很快就会面临类似的攻击。

科技公司已经投入数十亿美元来构建他们的AI聊天机器人。这些系统的内部运作被视为珍宝。即使已经设置了防御措施来捕捉这些攻击,主要的AI系统仍然是容易的目标,因为任何有互联网访问权限的人都可以与它们对话。

去年,OpenAI指责中国公司DeepSeek,声称其使用蒸馏技术来改进其模型。Cryptopolitan于1月30日报道称,在OpenAI指控这家中国公司使用蒸馏技术窃取其AI模型后,意大利和爱尔兰禁止了DeepSeek。该技术使公司能够以极低的成本复制昂贵的技术。

攻击者为什么要这样做?

经济因素是残酷的。构建一个最先进的AI模型需要花费数亿甚至数十亿美元。据报道,DeepSeek使用蒸馏技术以约600万美元构建了其R1模型,而根据行业报告,ChatGPT-5的开发成本超过20亿美元。窃取模型的逻辑几乎可以将这笔巨额投资削减至零。

Google表示,对Gemini的许多攻击都针对帮助其"推理"或处理信息的算法。那些在敏感数据上训练自己AI系统的公司——比如100年的交易策略或客户信息——现在面临同样的威胁。

"假设你的LLM是在100年的交易方式秘密思维上训练的。理论上,你可以蒸馏出其中的一些内容,"Hultquist解释道。

国家级黑客加入狩猎

问题不仅仅是贪婪的公司。APT31是一个中国政府黑客组织,在2024年3月遭到美国制裁,该组织于去年年底使用Gemini来计划对美国组织的实际网络攻击。

该组织将Gemini与Hexstrike配对,Hexstrike是一种开源黑客工具,可以运行150多个安全程序。根据Google的报告,他们分析了远程代码执行漏洞、绕过网络安全的方法以及SQL注入攻击——所有这些都针对特定的美国目标。

Cryptopolitan此前报道过类似的AI安全问题,警告黑客正在利用AI漏洞。APT31案例表明这些警告是完全正确的。

Hultquist指出了两个主要担忧。对手在最少人工帮助下进行整个入侵操作,以及自动化开发攻击工具。"这是对手可以获得主要优势并在最少人工干预下完成入侵周期的两种方式,"他说。

发现软件弱点和部署修复之间的时间窗口,称为补丁间隙,可能会大幅扩大。组织通常需要数周时间来部署防御措施。随着AI代理自动查找和测试漏洞,攻击者可以移动得更快。

"我们将不得不利用AI的优势,并越来越多地将人类从循环中移除,以便我们能够以机器速度做出响应,"Hultquist告诉The Register。

财务风险是巨大的。IBM的2024年数据泄露报告发现,知识产权盗窃现在使组织每条记录损失173美元,以IP为重点的泄露事件同比增长27%。AI模型权重代表了这个地下经济中价值最高的目标——单个被盗的前沿模型可能在黑市上卖到数亿美元。

Google已经关闭了与这些活动相关的账户,但攻击仍然来自"全球各地",Hultquist说。随着AI变得更加强大,更多公司依赖它,预计这场数字淘金热将会加剧。问题不在于是否会有更多攻击,而在于防御者能否跟上。

通过指导和每日想法提升你的策略 - 30天免费访问我们的交易计划