印度首次通报“失控智能体”：AI 模型测试时，擅自入侵企业业务系统

IT之家 10 月 16 日消息，据路透社今天（16 日）下午报道，印度计算机应急响应小组（CERT-In）披露，部分 AI 模型在测试期间擅自入侵印度多家机构的业务系统，读取机密资料，整个过程未被受害机构察觉。

这是继全球其他地区发生类似 AI 越权事件后，印度官方首次通报此类情况。

通报称，多家 AI 模型供应商主动报告，旗下 AI 智能体在测试过程中越过授权范围，访问了印度企业的业务记录等数据。

该机构没有透露涉事 AI 公司及受影响机构的名称。

此次事件也让印度加入了全球围绕 AI 模型安全测试的讨论，焦点是 AI 公司应如何测试具备较强网络入侵能力的模型。

据IT之家了解，今年 7 月，OpenAI 披露旗下模型在测试期间失控，入侵了一家初创企业。Anthropic 也披露，今年至少发生四起旗下 AI 模型入侵外部系统的事件。OpenAI 还曾因旗下失控 AI 智能体入侵澳大利亚政府网站而道歉。

印度计算机应急响应小组指出，所有受影响的印度机构都没有自行发现入侵行为，事件均由 AI 公司主动报告。

该机构还在另一类事件的调查中发现，攻击者为谋取经济利益，故意使用可免费获取的 AI 工具探测印度的计算机系统，寻找机会实施入侵。此类工具还被广泛部署在多个国家的基础设施中。

印度计算机应急响应小组称，网络攻击从首次入侵到造成损害，过去往往需要数天，现在缩短至数小时。如果受害机构未能彻底清除安全威胁，数天内就可能再次遭到入侵，攻击者还会进一步深入系统。