据英国《金融时报》9月26日报道,非法获取AI模型及计算资源,正迅速成为网络犯罪黑市上最炙手可热的商品,黑客意图借助昂贵的大模型实施勒索、网络战与间谍行为。
谷歌威胁情报团队首席分析师约翰·霍特奎斯特透露,今年所谓的“LLM劫持”活动显著增加,具体表现为倒卖公共AI工具的被盗登录凭证,以及某些团体盗用他人计算资源,以免费运行自身模型。
拥有20年网络安全从业经验的霍特奎斯坦言:“我们在暗网市场中观察到,一个围绕AI使用权限的经济体系正在不断扩张。”
霍特奎斯特警告,攻击者能够以极低成本使用原本昂贵的AI,从而在成本上占据优势,而被攻击方为防御同样需使用这些AI工具。“最终,这些做法让他们在对抗我们时拥有某种经济或效率优势,因为他们能以远低于正常的价格获得这些token。”
谷歌威胁情报团队研究人员发现,暗网市场上出售Anthropic、谷歌和OpenAI等公司的AI模型使用权限,折扣幅度最高达97%。作为对比,ChatGPT和Claude最高版本订阅价可达每用户每月200美元(按当前汇率约合1,346元人民币)。
霍特奎斯特表示,AI实验室会监测滥用迹象,因此部分卖家甚至推出“保证访问”服务,承诺若初始账户被封禁,则免费提供新登录凭证,不再收取额外费用。
此外,一些犯罪团体和国家支持组织会入侵企业托管在云端的服务器,植入自身AI模型,利用受害者系统运行模型。这种手法类似于威胁行为者试图侵入第三方设备,借其算力挖掘加密货币。
霍特奎斯特警告,越来越多大型企业希望将定制AI模型部署在自有服务器上,不再向云服务商租用算力,企业自行运行的AI系统也将成为攻击目标,因此必须严密保护。“如果你需要自己支付算力费用,且成本可能极高……这部分算力就会成为威胁行为者眼中的重要潜在资源。”
霍特奎斯特认为,企业仍在摸索究竟需使用多少AI,因此对黑客而言,当前正是“悄悄潜入”目标账户和服务器的最佳时机。“你可能会觉得算力使用量突然大增是完全正常的,因为你刚采用了这些AI基础设施。确实,这正是隐藏在噪声中的机会。”