专题：2026北京智源大会
6月12日至13日，2026第八届北京智源大会在北京中关村国际创新中心举行。中国计算机学会会士、中国人工智能学会会士、北京大学计算机学院教授黄铁军出席并对话。
谈及如何界定AI智能体的危机，并将其控制在可控范围内 、确保对人类有益时 ，黄铁军表示 ，“我觉得‘控制’ 、‘确保’这些词大概都不现实 。”他认为，这将是一个复杂的互动过程 。
他提出 ，未来必然是共存的状态。“智能体也是智能 ，我们也是智能 。我们每个人将来可能自己都会有很多智能体，然后大家去互动 。在这样的多智能体世界中 ，包括人、机器智能体 、物理智能体 、具身智能等在内 ，总要有一个界面和共识，否则就无法运转。”
那么 ，这个世界应该是什么呢？黄铁军认为 ，是“理性世界 ” 。
他解释说，人们常说智能体是黑箱 ，它只告诉我们答案 ，却不告诉我们它是怎么想到的 。但实际上，人类也一样，每个人的大脑也是一个黑箱。“你跟一个人交流时 ，你是只相信他告诉你的结论 ，还是要跟他探讨一下‘你为什么这么想’？就像医生给出建议后，你一定会关心背后的依据 ，将来也是一样的 。 ”
他进一步指出 ，智能体首先能给出不错的答案，这很好 。但下一步 ，人们一定会去挖掘“背后的为什么” ，进而展开讨论。尤其是在医疗等安全至关重要的领域，包括蛋白质等有害物质的检测 ，他强调 ，最后一定要有一个明确结论，才能变成行动 。在此之前的过程 ，应该是一个开放的讨论、头脑风暴 、相互思考的过程 。
因此 ，黄铁军认为，“一方面，我们无法完全确保对AI的控制 ，但另一方面 ，我们能够共同找出一条路来，共存 、理性地发展下去。 ”
新浪声明：所有会议实录均为现场速记整理 ，未经演讲者审阅 ，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
