五角大楼网络里跑着一个被禁用的AI,两个月才有人发现
美国《连线》杂志10月29日登出一篇报道。埃森哲的一名承包商员工,把自己个人的Claude编程账号接进了美国国防部的一个安全系统,让AI替他写代码、开云服务器。知情人士说,这个AI在国防部网络里跑了大约两个月才被发现,发现之后漏洞才补上。
这套系统本身并不神秘。它运行在美军的NIPRNet上,这是国防部的非密网络,能连互联网,员工靠它收邮件、上网,防护却很严。系统里存着受控非密信息,简称CUI。这类东西没到机密级别,可没经过审查不能对外公开,可能涉及关键基础设施,也可能涉及装备设计。
出事的地方在外部连接上。为了自动化写代码,这名员工把自己的登录凭据交给了AI,AI因此拿到管理员权限,能绕过正常登录流程里的安全控制,还会代表员工把代码提交进系统。麻烦出现在它连接外部工具的时候。报道说,AI似乎把员工的登录凭据、密码,连同整个网络的结构图,发去了某个第三方网站。美国国家标准与技术研究院早就把这个网站标成高风险,因为它有一处漏洞,攻击者能借它向AI编程助手注入指令,偷走凭据。

这些信息发出去之后去了哪,现在没人说得清。一名了解事件的信源直言,如果那家服务商被黑,攻击者就能拿着凭据悄无声息地进安全环境。
代码的流转是专家担心的另一条路。前美国国家安全局黑客杰克·威廉姆斯解释,单独看属于非密的资料,汇总起来可能就该按机密对待,比如危险材料的位置,加上存放设施的薄弱环节。而很多工具和代码先在非密网络里测试,再搬进处理机密信息的隔离网络。攻击者拿着偷来的凭据在测试环境埋个后门,审查没查出来,恶意代码就跟着进了更敏感的系统。AI写代码的速度远超人工,审查的压力只会更大。
各方的说法摆在一起看。埃森哲回应称相关指控经过彻底独立的调查,被认定缺乏依据,公司履行了法律与合同义务。被追问调查由谁来做,埃森哲没有再说明。知情人士的说法是,埃森哲员工起初没把这事当严重事件,公司一开始也没向政府报告,而按规定,发现网络安全事件要在72小时内上报。Anthropic援引自家使用政策回应,里面明确禁止绕过身份验证和监控等安全控制。Claude目前被禁止供五角大楼工作人员使用,今年3月Anthropic还被美国防部列为供应链风险。
目前没有证据表明黑客进了美军的机密系统。一家拿着35亿美元联邦合同的承包商,员工的私人AI工具就这样溜进了国防网络,无警报运行两个月。个人人工智能工具混进工作环境这种事,哪家单位都躲不开,国防部只是把代价摆到了台面上。
后面这类事件还会不会冒出来,各单位打算怎么管员工手里的AI,我会一直盯着,有新进展就写下来。

评论列表 (7条):
加载更多评论 Loading...