DARPA计划开展超大规模人工智能群体研究

（来源：中国航空报）买错股票反思

配资白名单平台开户

高飞

　　军事人工智能的未来或许并非由一台全知全能的机器在遥远的指挥中心指挥战场。相反，美国国防预先研究计划局（DARPA）正准备探索庞大的人工智能群体应用，这些群体能够自我组织、分配任务、适应混乱环境，即使部分成员失效、消失或失控，也能继续运行。

　　2026年6月10日，DARPA发布一份征集公告，正式启动了一项名为“受控涌现的去中心化人工智 能 ”（Decentralized Artificial I n t e l l i g e n c e b y C o n t r o l l e d Emergence，简称DICE）的新计划，该计划将开发能够在对抗环境中运行的人工智能群体，而无须人类或中央人工智能规划器来明确指挥每一个行动。

　　这份征集公告将DICE项目描述为一项为期36个月的计划，分为去中心化、对抗鲁棒性和大规模测试三个部分。DICE项目的最初设想是解决无人机操作人员瓶颈问题的技术方案，据美军研究，“捕食者”无人机的持续监视飞行大约需要150名人员：飞行员、传感器操作员、通信技术人员、武器专家、图像分析员、维护人员、作战计划员、语言专家和其他情报专业人员等。在伊拉克和阿富汗战争初期，限制美国无人机覆盖范围的并非飞机数量，而是训练有素的人员和操作这些飞机的组织结构。美军警告说，自主作战领域也存在类似的问题，美国战争部购买平台和软件的速度超过了构建整合这些平台和软件所需的理论和训练有素的人员的速度，从而可能重蹈在伊拉克和阿富汗的覆辙。

元股证券:ygzq.hk

　　DARPA在相关公告中表示：“未来的冲突将以机器的速度展开，而当前集中式的规划和脚本化的协调方法对于未来高度动态、充满竞争的环境来说太慢、太僵化、太可预测了。能否做到出其不意且适应性和韧性将取决于按需组合和重组AI能力的能力。”

　　DICE项目的基本前提是，当今的多智能体AI方法存在一个严重的缺陷，大多数涉及多个智能体的系统仍然依赖某种形式的中央协调器。可以将其想象成一个管理者监督一个由专业人员组成的团队。其中一个人（智能体）可能负责收集信息，另一个人（智能体）负责分析，第三个人（智能体）制定计划，第四个人（智能体）执行具体任务。但在系统的某个环节，通常会有一个中央规划器或工作流程来决定谁做什么，并将结果汇总。

　　对于可预测的任务，这种方式效果相当不错。然而，DARPA认为，在战场上，这种方式可能极其脆弱。中央协调器会造成瓶颈，因为所有日益复杂的任务最终都必须经过单一的决策结构。随着智能体、角色和交互数量的增长，中央规划器必须吸收更多信息，保留更全面的上下文信息，并协调不断扩展的专用系统网络。

　　DARPA指出，最终，即使是人工智能协调器也会达到其底层基础模型的上下文和推理能力极限。此外，还有一个更明显的军事问题：中央指挥节点是个非常关键的单点。如果通信中断、信息延迟到达，或者协调器本身遭到破坏，错误可能会扩散到整个人工智能系统。在未来的冲突中，电子战、网络攻击、欺骗和通信中断将成为常态，这种脆弱性可能会造成灾难性后果。

　　DICE提出了一种截然不同的模型，该模型并非由中央人工智能发布指令，而是由各个智能体直接相互通信。它们可以组成临时团队，将任务分解成更小的任务，协商角色，整合不完整的信息，并在情况发生变化时进行自我重组。

　　DARPA将这一理念比作互联网的架构，在互联网中，相对简单的局部规则和去中心化的交互可以涌现出具有弹性的全球行为。

　　本质上，一个智能体可能会收到一个任务，并判断出只有部分目标在其能力范围之内。该智能体可以自愿处理这部分任务，并将剩余的问题广播给邻近的智能体。另一个智能体可能会接手下一个任务。其他智能体可以竞争执行相同的任务，并可能根据成本或能力进行竞标。通过反复的局部交互以及分布式共识，整个集体可以逐步构建自己的任务计划。如果某个智能体失败，并不一定需要重新规划整个任务，它可以被简单地交还给集体。DARPA将这一广泛的概念称为“受控涌现”。

　　类似的系统在自然界中已经存在。蚁群或鸟群可以表现出令人惊讶的复

　　杂群体行为，即使单个个体成员没有完全了解集体行为。计算机科学家长期以来一直在研究类似的现象。DARPA的征集公告甚至提到了康威生命游戏——这个著名的数学模拟游戏，展示了如何从少数简单的规则中涌现出极其复杂的模式。

　　挑战在于如何将这一原理应用于能够推理、规划并独立追求目标的认知系统。一个复杂的AI系统可以解读模糊信息、与工具交互、保持记忆并生成自身的中间目标。将成千上万个这样的智能体组合在一起，允许它们进行通信，最终形成的集体可能会以从未被明确编程的方式行事。

　　这种不可预测性既是DICE项目的吸引力所在，也是其潜在的危险。DARPA希望这个集体能够保持足够的创造力，从而发现意想不到的行动方案。然而，它也希望每个智能体都能继续与其指定的角色、更广泛的任务、既定的原则以及最终人类用户的意图保持一致。

　　过度的控制可能会导致人工智能部队变得可预测但不稳定，并且无法适应变化。控制不足可能导致智能体偏离其既定角色，或发展出DARPA所称的与任务不符的“工具性目标”。

　　换句话说，美国战争部的研究机构希望智能体能够涌现，但前提是必须在一定的范围内。为了解决这个问题，DICE的研究人员将开发一种本地适配器，用于与每个智能体进行交互。每个适配器并非作为中央指挥系统运行，而是在本地执行，帮助智能体与同伴协调，同时监控并调整其行为。

　　对于内部激活状态可访问的人工智能模型，研究人员可以尝试“激活控制”等技术。其基本思路是，为人工智能分配特定角色可以在模型内部创建可检测的模式。研究人员或许能够识别与该角色相关的数学表示，并在智能体开始偏离目标时持续引导模型回归该角色。DARPA将这些表示描述为潜在的“角色向量”。

　　对于内部激活状态无法直接检查的专有或黑盒人工智能模型，挑战则要大得多。DICE项目的研究人员可能会尝试内存编辑、上下文工程、工具限制，甚至创建博弈论激励机制来鼓励协作行为。

　　该征集方案将人工智能模型与人类社会规范的产生和传播方式进行了有趣的类比。随着人工智能模型推理能力的提升以及对运行环境的感知能力增强，DARPA认为，这种日益增长的复杂性既引发了人们对失控人工智能的担忧，也可能为控制人工智能提供一种新的途径。

　　为此，DARPA 最终设想的规模是巨大的。在DICE项目的第一个阶段（9个月），模拟任务预计将涉及约500个智能体和5000次交互。DARPA将把这些去中心化系统与最先进的集中式多智能体人工智能系统进行比较。

　　第二阶段的目标将增加到5000个智能体和50000次交互，同时引入对抗性条件。智能体可能会失败、接收到欺骗性信息，或者故意扮演群体中被入侵或叛变的成员。

　　在最后一个阶段（12个月），DICE的目标是测试涉及10万个智能体和100万次交互的模拟。

　　在如此规模下，DARPA的研究目标不仅仅是改进聊天机器人之间的协作。该机构正在探索集体智能本身能否成为一种军事能力。

　　公告文件中描述的一个例子设想了智能体在整个冲突生态系统中进行作战规划。一些智能体可以在冲突地区谈判原材料，另一些则可以管理供应链、优化生产、部署部队、进行作战管理或分析战后损失。即使是单个模拟无人机，也能有效地成为一个微型人工智能集群，由独立的导航、感知和网络智能体组成。

　　根据DICE概念，这些能力可能会随着情况的变化而重新组合。DARPA举例说明，一架监视无人机可以被重新用作网络路由器，因为该集群识别出了新出现的通信需求。关键的区别在于，并非任何中央规划者都必须预见到这种解决方案，它是集群自行发现的。

　　不过，DARPA特别指出，DICE是一个以模拟为核心的研究项目。该机构的公开项目页面明确指出，其范围不包括在现实世界中开发或部署自主系统。相反，DICE将使用与美国战争部相关的模拟环境，来衡量分布式人工智能集群能否超越目前集中式指挥的系统。这些模拟环境可能类似于规模极其庞大且复杂的战略游戏。

　　DARPA建议研究人员可以从《星际争霸》这类大型多人在线角色扮演游戏中汲取灵感，但环境必须与军事问题相关联。高保真物理效果并非必要条件。实际上，要以照片级真实感渲染每一架无人机、车辆或战场互动，对10万个智能体进行模拟在计算上几乎是不可能的。

　　重点在于推理能力。DARPA希望了解数千个智能体能否收集并整合零散的信息，而不是简单地强化彼此的错误假设。这些系统将接受测试，检验其识别欺骗行为、隔离受损智能体、在通信中断时进行调整以及在数千步推理过程中始终专注于任务的能力。

　　最重要的是，DICE项目也有意研究这些庞大的人工智能群体，在交互中产生设计者始料未及的结果时会如何表现。同时，DARPA也明确希望其测试环境能够激发出智能体之间协作、竞争乃至串谋等新涌现的合作模式。

　　在后续阶段，DICE团队将在模拟的“团队对战季后赛”中相互较量。第二阶段将以一场竞赛作为最终结果，用于选拔晋级的研究团队。在系统达到全规模运行后，最终阶段将进行一场1对1的竞赛。

　　到了第三阶段，该项目将引入另一个重大挑战：智能体创建其他智能体。这一进展凸显了DICE核心更深层次的需求。

　　多年来，人工智能安全方面的争论主要集中在如何防止自主系统出现不可预见的行为。DARPA则另辟蹊径，该机构似乎认为，在未来的对抗环境中，一定程度的不可预见行为或许正是人工智能群体价值的体现。

　　一个完全预先编写好的系统不仅对指挥官来说是可预测的，对于对手来说也可能是可预测的。因此，DICE项目正是尝试比构建一个更大的多智能体人工智能框架更具野心的目标。DARPA希望了解工程师能否有意培育新兴的机器智能，赋予其足够的自由发挥空间，同时还能构建有效的控制系统，确保庞大的AI群体始终与人类设定的任务保持一致。

　　这些相互冲突的需求能否共存，目前仍是一个悬而未决的问题。该项目的招标文件中反复提及角色漂移、欺骗性智能体、串谋、系统受损以及智能体独立发展出与人类目标不符的行为等可能性。归根结底，上述这些才是DARPA想通过DICE项目解答的根本性问题。

　　正如DARPA招标公告中所描述的：“DICE专为这种高度自主、快节奏的战场环境而打造。在未来，成功的衡量标准在于自主协作团队在混乱和不确定性中执行任务的不懈努力和创造力。这与过去截然不同买错股票反思，意义深远，也势在必行。”