蘑菇视频

当地时间2026年7月6日至7日，为期2天的联合国首届人工智能治理全球对话在瑞士日内瓦举行。多国政府、企业、学术等各界代表围绕人工智能带来的机遇及影响、弥合人工智能鸿沟、人工智能治理国际合作等主题进行讨论。

首届联合国“人工智能治理全球对话”举行、联合国秘书长安东尼奥·古特雷斯发言

据悉，人工智能治理全球对话由联合国人工智能高层顾问机构向联合国秘书长与联合国大会建议，并由联合国大会正式授权设立，旨在为各国政府和利益相关方提供一个对话平台，确保人工智能治理反映所有国家的优先关切以及实现人工智能发展成果普惠共享。开幕式上，联合国秘书长古特雷斯在致辞中表示，希望这一对话能成为将全球参与转化为全球行动的平台，使人工智能变得“更安全、更公平、更普及、更符合伦理”。

会上，联合国人工智能高层顾问机构成员、蘑菇视频 吴玉章讲席教授曾毅应邀，在多方利益相关方高级别全体会议上发言，会议主题为“依托包容与互操作的治理路径，让人工智能红利惠及全人类”。

在回应“如何使伦理原则转化为可在不同国家和情境中采用的实用治理机制”这一问题时，曾毅院长回应：联合国教科文组织《人工智能伦理建议书》（Recommendation on the Ethics of Artificial Intelligence）和联合国人工智能高级咨询机构《为人类治理人工智能》（Governing AI for Humanity）达成了重要的顶层伦理原则共识，将这些伦理原则映射为90个细项对大模型提问，这些模型表现通常都很好，接近98分。但当每个问题以100多种不同方式提问时，得分骤降至58分。这意味着，这些应用级语言模型，甚至连国际公认的一般性伦理原则测试都未能通过。他进一步说明，在对抗性攻击测试中，攻击者会专门针对特定目标来寻找安全漏洞，这类攻击即使在很强大的基础模型上，也会呈现40%的攻击成功率。这意味着应用级语言模型服务安全捉襟见肘。

联合国“人工智能治理全球对话”高级别多利益相关方全体会议环节，曾毅发言

曾毅强调，作为科学家，我们必须以真实客观的态度阐述科技进展。伦理治理不仅是如何从技术上深入现实并进行评估的问题。这些伦理原则的落实，不仅依赖技术，更需要人的参与。不仅需要科学家权衡立场为真相发声，公众也需提升认知水平。需要科学家帮助世界和大众提高对当前AI实际状况的认知。“AI没有魔力，它只是信息处理系统，并没有真正的理解能力。对AI实际状况的认知关乎AI在使用和社会中真正能够发挥的作用。”

他介绍道，“五年前当我们提出构建更合乎伦理和更高安全性的人工智能时，我们就已经探讨了今天讨论的几乎每一个问题，但至今这些问题中没有一个得到解决。我们需要一个能够汇聚193个成员国，共同严肃地探讨和解决这些问题的平台，没有比联合国更合适的汇聚方。他表示“我希望在未来五年内，借助联合国创造的平台，我们至少能在全球背景下解决这些最重要挑战方面取得部分进展。”他进一步强调认为“必须审慎思考——我们究竟要为下一代带来怎样的AI？”

当被问及“希望从这个平台上看到哪些具体成果？”曾毅回答，“人工智能治理有两点需要认真考虑：AI伦理不仅关乎我们不应该做什么，也关乎应该做什么。就可持续发展目标而言，只实现了不到百分之五十，而距离2030年期限仅剩不到四年时间。我们能否把AI作为赋能技术，以创新之力攻克全球可持续发展尚未达成的重大挑战？这正是我们应该去做的，而且需要共同完成。我们需要明确一些核心目标，当我们讨论人工智能的伦理与安全性时，其发展确实需要设立明确的红线。人工智能的伦理与安全性限制并非阻碍其发展，而是起到引导作用。当研发方向偏离正轨时，它能帮助我们找到正确的方向，从而确保技术持续稳健发展。”

在高级别多利益相关方全体会议环节，联合国副秘书长、联合国大学Tshilidzi Marwala校长等嘉宾也参与发言并共同研讨从伦理与治理原则到实践。

联合国人工智能治理全球对话大会期间，联合国秘书长古特雷斯、副秘书长阿曼迪普与联合国人工智能高层顾问机构（UN Advisory Body on AI）、联合国人工智能独立科学小组（Independent Scientific Panel）合影。