奇点财富美国政府机构对使用马斯克的Grok聊天机器人发出警示

　　据知情人士透露，近几个月来，多家联邦机构的官员对马斯克旗下xAI的人工智能工具的安全性和可靠性提出了担忧，凸显出美国政府内部在部署哪些AI模型方面持续存在分歧。

　　五角大楼本周决定将xAI置于美国一些最敏感和最机密行动的中心，同意允许其聊天机器人Grok在机密环境中使用。

　　五角大楼已给xAI的竞争对手之一Anthropic设定了周五的最后期限，要求其同意美国军方放宽对其模型的使用规定。在xAI与军方达成协议之前，Anthropic是唯一获准用于机密用途的开发商。

　　在整个政府范围内，各机构都在竞相为多种目的部署AI，但关于使用哪些模型的辩论已变得日益政治化。据知情人士透露，包括白宫官员在内的一些美国高级官员认为，Anthropic在安全问题上直言不讳的立场以及与民主党大金主的关系，可能使其因过于“政治正确”（woke）而无法成为一个可靠的供应商。对Grok较为宽松的控制，以及马斯克在言论自由问题上的绝对主义立场，使其成为五角大楼一个更具吸引力的选择。

　　其他官员则质疑Grok较为宽松的控制是否会带来风险。

　　据知情人士透露，美国联邦政府的采购部门美国总务管理局（General Services Administration）最高官员埃德·福斯特近几个月向白宫官员就Grok的潜在安全问题发出警报。他手下的其他美国总务管理局官员也对Grok的安全性提出了担忧，他们认为Grok阿谀奉承，太容易受到错误或有偏见数据的操纵或败坏，从而构成潜在的系统性风险。

　　当时，在12月底和1月初，Grok因允许对包括儿童在内的照片进行色情化编辑而受到抨击。政府官员认为，这个问题代表了Grok可能被不良行为者利用的方式。

　　上述知情人士说，此事传到了白宫办公厅主任苏西·威尔斯那里，她就这些担忧致电xAI的一位高管。该高管告诉她，xAI正在努力解决导致Grok过于顺从的安全问题。通过马斯克的美国政府效率部（Department of Government Efficiency）招募的美国总务管理局高级采购官员乔希·格林鲍姆向政府官员保证，Grok的政府平台与公共平台是分开的。这些人士说，威尔斯对此感到满意。

　　马斯克曾表示，他致力于防止对儿童的性剥削。他在1月份宣布，该公司将把图像生成和编辑工具的使用范围限制在付费客户。

　　近几周，美国总务管理局官员被告知将xAI的标志放在一个名为USAi的工具上，该工具本质上是一个供联邦雇员试验不同AI模型的沙盒。据知情人士透露，Grok一直未能通过USAi访问，目前仍未在该平台上提供，这主要出于安全考虑。

　　该网站显示了xAI的标志，但只提供来自Anthropic、谷歌和Meta的AI模型。

　　上述知情人士说，美国总务管理局一个研究AI的团队向该机构高层官员分发了一份报告，指出了Grok的安全问题。Grok已被美国总务管理局工作人员停用数月。其他机构对使用Grok的需求一直不大，只有少数情况下有人想用它来模拟不良行为者以进行防御性测试。

　　格林鲍姆在一份声明中说，该机构严肃对待AI安全问题。“我们通过全面的内部审查程序，对包括xAI在内的前沿AI模型进行严格评估。在此次事件中，我们遵循了既定程序，并坚持按计划推进的决心，”他说。

　　两周前，五角大楼主管AI责任部门的负责人马修·约翰逊辞职，部分原因是他担心，在国防部大力推动扩大AI能力之际，安全和治理已成为次要问题。

　　此前，约翰逊的团队曾分发备忘录，强调了Grok的安全问题，并质疑其是否符合政府的道德和标准。这些备忘录已通过他们在五角大楼的指挥系统上报。

　　在被问及置评时，约翰逊提到了他在领英上宣布离职的帖子，他在帖子中说，他为自己在国防部AI责任部门的团队感到骄傲，他们是“一群真正的、默默无闻的专业人士，产生了巨大的影响，却未得到应有的认可”。他还写道：“我们不断面临不可能完成的任务，但总能凭借毅力和一次又一次的通宵达旦完成任务。”

　　一位五角大楼官员说：“无论保密级如何，国防部将继续确保所使用的所有模型的安全和保障。”

　　负责监督美国大部分情报收集和处理工作的美国国家安全局（National Security Agency）在2024年11月对包括Grok在内的大语言模型进行了一次机密审查。据了解此次审查的知情人士称，该机构认定Grok存在其他模型（包括Anthropic的Claude）所没有的特殊安全问题。这些知情人士说，这一结论敲响了警钟，使五角大楼的一些部门打消了使用Grok的念头。

　　上个月，在美国军方抓捕委内瑞拉前总统马杜罗的行动中，Anthropic的Claude被使用，这加剧了该公司与五角大楼之间的紧张争端。

　　Anthropic的使用指南禁止Claude被用于助长暴力、开发武器或进行监视，该公司不予让军方在所有合法情况下使用其模型。xAI则同意了军方的相关要求。

　　美国国防部长赫格塞思已要求Anthropic在周五前同意军方提出的给予更大灵活性的要求，否则他可能会禁止该公司承接政府工作，或采取法律行动迫使其满足要求。

　　据知情人士透露，军方许多部门甚至在非机密工作中也更青睐Anthropic的Claude。

　　xAI通过7月份从AI办公室获得的一份价值高达2亿美元的合同在五角大楼站稳了脚跟，谷歌、OpenAI和Anthropic也获得了该合同。谷歌和OpenAI获准在非机密环境中使用，但未获准用于机密活动。

　　AI和安全分析师表示，直到最近，军方一直更倾向于使用Claude而非Grok，因为业内许多人认为Claude是更可靠的模型。

　　战略与国际问题研究中心（Center for Strategic and International Studies）专注于AI问题的高级顾问格雷戈里·艾伦说：“我认为，就对战争部这样的客户至关重要的所有能力而言，它们目前的表现并非旗鼓相当。”他之前曾参与国防部的AI战略工作。

　　据知情人士透露，在拜登政府期间，五角大楼下属的首席数字和AI办公室（Chief Digital and AI Office）不予寻求任何对Grok的使用。相关担忧包括：Grok难以追踪用于训练模型的数据来源，不符合联邦政府的AI责任标准，以及安全防护措施薄弱。这些知情人士说，xAI没有充分尝试通过攻击自身技术来发现和修复漏洞，这个过程在技术上被称为红队演练（red teaming）。

　　在政府环境中审查过Grok的知情人士表示，最近的测试显示，该聊天机器人比其他模型更容易受到“数据投毒”（data poisoning）的影响，即被操纵的、有偏见的或不准确的数据会破坏底层数据。

　　知情人士称，从积极的方面来看，美国官员已确定Grok能有效模仿敌对行为者，这在兵棋推演等场景中很有用。

　　去年，五角大楼将首席数字和AI办公室划归研究与工程办公室（Research and Engineering Office）管辖，此举旨在加速AI的采用。批评人士称，此举为了追求效率，剥夺了该办公室的大部分权力，特别是在执行AI责任标准方面的权力。