美军方要求无限制使用其AI大模型，美AI公司拒绝：无法违背良知
来源：环球
【环球网报道】“这些威胁不会改变我们的立场。我们无法违背良知接受军方要求。”人工智能初创公司Anthropic首席执行官达里奥·阿莫迪当地时间2月26日发表声明，拒绝美国军方要求。
据美国“政治”新闻网报道，五角大楼近期对Anthropic展开极限施压，要求Anthropic公司允许军方无限制使用其旗下AI大模型Claude。美国国防部长赫格塞思威胁称，如果Anthropic未能在美国时间27日下午5点01分前遵守要求，将被认定为供应链风险企业。
针对军方施压，阿莫迪26日发表声明称：Anthropic公司理解军事决策应由美国国防部而非私营企业作出。我们从未对具体军事行动提出异议，也从未试图临时限制技术应用。然而某些应用场景超出了当前技术安全范畴。以下两类应用场景从未纳入我们与国防部的合同范畴，且我们认为现阶段仍不应纳入：一是在美国国内的大规模监控，二是完全自主武器（即彻底排除人类干预、自动选择并攻击目标的系统）。
阿莫迪称，国防部方面表示，他们只与同意将AI用于“任何合法用途”并在上述情况下解除安全措施的人工智能公司签订合同。他们威胁说，如果我们坚持这些保障措施，就会把我们从他们的体系中剔除；他们还威胁要给我们贴上“供应链风险”的标签——这一标签是专门给美国的对手用的，以前从来没有给美国公司用过——并要援引《国防生产法》来强制解除这些保障措施。“无论如何，这些威胁不会改变我们的立场：我们无法违背良知接受其要求。”
另一方面，阿莫迪在声明中又留有回旋余地。他声称，选择最符合其要求的承包商是国防部的权利。但鉴于Anthropic的技术为美军带来巨大价值，我们希望他们能重新考虑。我们强烈倾向于在保留两项安全保障措施的前提下，继续为国防部及作战人员提供服务。
据美媒此前报道，在美军对委内瑞拉的军事行动中，美军方使用了Anthropic旗下的AI大模型Claude。消息被曝光后Anthropic公司向五角大楼求证该消息是否属实，并向对方表达了关切。此事激化了该公司与五角大楼在AI应用以及战争伦理方面的分歧。赫格塞思24日与阿莫迪举行会晤，但双方未能有效化解矛盾。