9月12日至14日，第十一届北京香山论坛举行。在本届北京香山论坛中，人工智能安全也是一项重要议题。十余位国内外专家学者就人工智能在军事等领域的应用以及人工智能治理等进行了深度讨论。

与会代表、美国国防分析研究所研究员 施灿德：人工智能不同于我们已经探索过的其他工具或领域，例如核武器或空间问题，人工智能的问题往往是前所未见的。这就将涉及更多的政治或外交谈判，信任建立措施、加强对话，确保我们进行人对人的交流，而不是任由人工智能引导我们走向该或不该走的道路。

近年来，以深度学习为代表的新一代人工智能技术取得突破性进展，机器也可以有“思维”逐步成为现实。在智能化战争中，一些无人装备和辅助决策系统将成为与人类并肩作战的“机器人战友”和“智能参谋”。

前不久，法国国防部长宣布法国将投入20亿欧元军费预算用于人工智能领域。德法两国政府还决定共同打造具备人工智能和一系列高新技术的“地面主战系统”。

今年5月2日，美国空军部长肯德尔在加利福尼亚州爱德华兹空军基地，乘坐了由AI驾驶的战机。并在这架AI战机的前座舱，目睹了一场AI战机与有人斗机的空战演练。

AI技术在军事领域初露锋芒的同时，风险也已然显现。 今年4月3日，以色列媒体率先爆料，以色列军方在加沙实地测试了一款名为“薰衣草”的AI系统，让它通过大数据和算法来判断哪些巴勒斯坦人是哈马斯成员。据半岛电视台报道，“薰衣草”AI系统已经把多达37000多名巴勒斯坦人列为哈马斯成员。这些人所在的建筑都可能遭到轰炸。这意味着建筑内的每个人都可能会被杀死。

关注人工智能 应对可能带来的安全风险

本届北京香山论坛，为什么要设置一个人工智能相关的话题？人工智能在军事领域的运用发展前景如何？继续来看专家的解读。

国防大学教授 孟祥青：人工智能是世界科技发展创新的一个前沿领域。我们说国际规则也好、安全规定也好，还是国家之间的探讨也好，应该说现在还是滞后于人工智能的发展。目前在人工智能、在一些新型安全领域，还没有共识的规则。这一次的北京香山论坛上，设置这样一个主题，实际上既表明了现代科技发展可能给安全带来的风险，也表明了我们要共同研究探讨。实际上根本目的还是避免科学技术带来这样一些安全风险。

人工智能可帮助军队提升战场感知能力

国防大学教授 孟祥青：人工智能在军事领域的应用非常广泛。

• 首先是对战争决策的支撑。一个是形势判断，一个是对敌情进行分析判断。比如说战场感知，如果人工智能不断演变、不断发展，那么它的战场感知力就会不断增强。
• 还有就是武器系统的智能化，自主进行目标识别，自主进行战场的识别。

正是在这样一个背景下，要探讨人工智能可能带来的风险，包括在军事上的风险。