首届全球人工智能（AI）安全峰会在英国布莱切利庄园举行

·英国媒体评论称“这是罕见的全球团结表现”。 但英国和美国监管重点存在差异，人工智能学术界和产业界存在激烈争论。

全球28个国家和欧盟一致认为人工智能对人类构成潜在的灾难性风险。

11月1日，首届全球人工智能安全峰会在英国布莱切利庄园开幕。 开幕式上，包括中国在内的与会国共同达成的《布莱切利宣言》正式发布。 这是世界上第一个关于迅速兴起的人工智能技术的国际声明，旨在重点关注对未来强大的人工智能模型对人类构成生存威胁的担忧，以及对当前增强有害或偏见的担忧。人工智能的信息。

据新华社报道，中国科技部副部长吴朝晖率团出席峰会，参与人工智能安全等问题讨论，积极推动中国“全球人工智能治理倡议”，并将进行双边会谈与有关国家。 该倡议围绕人工智能发展、安全、治理三个方面系统阐述了中国人工智能治理方案。

中国科学技术部副部长​​吴朝晖致辞

布莱切利公园是二战期间盟军破译密码的主要地点。 半个多世纪前，“现代计算机科学和人工智能之父”数学家艾伦·图灵在那里发明了第一代图灵计算机。

今天，英国科学、创新和技术大臣米歇尔·唐兰发表讲话，宣布《布莱切利宣言》。 她说：“各国现在第一次一致认为，我们不仅需要单独面对这一问题，而且需要共同审视尖端人工智能的风险。”

“我们申明，为了所有人的利益，人工智能应该以安全、以人为本、值得信赖和负责任的方式设计、开发、部署和使用。” 声明中写道，并特别提请注意 OpenAI、Meta 和 Google 等公司正在开发的大规模语言模型，以及它们通过滥用可能造成的具体威胁。

“特殊的安全风险出现在人工智能的‘前沿’，被理解为那些强大的通用人工智能模型，包括可以执行多种任务的基本模型，以及相关的特定狭义人工智能，它可以表现出以下能力：危害——具有达到或超过当今最先进模型的能力，”声明指出。

该声明特别关注网络安全和生物技术等领域的风险，以及尖端人工智能放大虚假信息的可能性等风险。

唐兰宣布，人工智能安全峰会将成为定期举办的活动，下一次峰会计划六个月后在韩国举行，下一次峰会计划一年后在法国举行。

吴朝晖在开幕式上致辞。 据新华社报道，中方指出，人工智能治理关系全人类命运，是世界各国面临的共同问题。 发展人工智能，应积极倡导以人为本、智向向善，加强技术风险管控，鼓励各方本着相互尊重、平等互利的原则协调共治，增强人工智能的发展水平。发展中国家在人工智能全球治理中的代表性。 和声音，不断弥合情报差距和治理能力差距。 中方愿与各方加强人工智能安全治理沟通与交流，为推动形成普遍参与的国际机制和广泛共识的治理框架积极贡献智慧，有效落实全球发展倡议、全球安全倡议。倡议和全球文明倡议，推动人工智能技术更好造福人类，共同构建人类命运共同体。

峰会上还取得了一些具体进展。 美国商务部长吉娜·雷蒙多宣布成立新的人工智能安全研究所，该研究所将设在美国商务部内，并具体隶属于商务部国家标准与技术研究所（NIST）。 雷蒙多表示，该组织的目标是与其他政府设立的其他人工智能安全组织密切合作，并透露英国也计划建立一个安全研究所。 她说：“我们必须开始工作，我们必须开始在我们的机构之间合作，以实现世界各地政策的一致性。”

“罕见的全球团结表现”

本次峰会邀请了约100名各国官员、人工智能企业代表和专家。 英国科学创新技术部11月1日发布的信息显示，有来自美国、中国、日本、德国、印度等20多个国家的政府代表，以及美国等多个国际组织的代表。国家、经合组织和国际电信联盟。 代表出席了会议。 来自学术机构、企业和协会的80余名代表参加了会议。

据《环球时报》援引路透社报道，中国上周接受了英国出席会议的邀请。 吴朝晖以及外交部、企业界、学术界代表等参加会见。 据新华社报道，中国科学院、中国腾讯、阿里巴巴等出席会议。 国外科技公司中，微软总裁布拉德·史密斯、OpenAI首席执行官萨姆·奥尔特曼、谷歌DeepMind首席执行官德米斯·哈萨比斯、特斯拉首席执行官埃隆·马斯克等出席峰会。

英国媒体称，美国商务部长雷蒙多和中国科技部副部长吴朝晖与唐澜一起上台，“这是全球罕见的团结表现”。 负责组织这次峰会的英国官员之一马特·克利福德称雷蒙多和吴朝晖一起登台是“一个非凡的时刻”。 这次峰会标志着英国，特别是苏纳克首相的外交成功。

不过，美国媒体注意到，根据与会者的个人陈述，各国的优先事项存在一定差异。 例如，包括马斯克在内的一些学者和人工智能开发者推测，“上帝般”的人工智能可能会消灭人类。 受此驱动，苏纳克更喜欢控制超级大国的尖端模型，而《死神》人权宣言也承认了这种灭绝级别的理论上的威胁。

相比之下，美国代表并不认同这一优先事项，或者至少没有像英国代表那样同意。 出席会议的美国副总统卡马拉·哈里斯更担心人工智能目前对社会构成的威胁。 “让我们明确一点，还有其他威胁需要采取行动。现在对许多人造成伤害的威胁也存在......”她说。

美国媒体POLICATO评论称，这种分歧并没有完全排除或忽视其中一种风险，因为《布莱奇利宣言》承认了这两种风险。 但政府的政治资本和影响力有限，他们决定关注的法规也远不确定。 企业对这种不确定性感到担忧，一些企业则对针对不同优先事项的法规可能使他们的工作复杂化感到愤怒。 Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 表示，世界各国政府监管人工智能的竞赛让整个行业感到困惑，他希望本周的峰会至少能让各国政府“朝着类似的方向前进”。

出席开幕全体会议的领导人不仅包括世界最大经济体的代表，还有一些发展中国家的代表。 他们谈论包容性和问责制，但如何实施仍然存在很多问题。

AI行业争论激烈

一些开发商、学者和活动人士担心，缺乏政府协调将使科技巨头不计后果地进行竞争，并破坏保护隐私或消费者权利的理念。

峰会前夕，图灵奖获得者和“人工智能三巨头”等学者之间爆发了激烈的争论。 首先，三巨头中的Geoffrey Hinton和Yoshua Bengio呼吁加强对AI技术的监管，否则可能会导致危险的“AI末日论”。 当时的三巨头之一、元人工智能 (Meta Artificial Intelligence) 负责人 Yann LeCun 警告称，“快速采用错误的监管方法可能会导致权力集中，从而损害竞争和创新。” 斯坦福大学教授吴恩达（Andrew Ng）与杨一起呼吁对世界末日的过度恐惧。 真正的危害正在发生，这将摧毁开源并扼杀创新。

10月25日，中国人工智能科学家与西方知名学者一起呼吁对人工智能技术进行更严格的控制。 24 名人工智能专家签署了一份声明，警告先进的人工智能将在未来几十年对“人类的生存构成威胁”。 两位中国著名学者——清华大学交叉信息研究所所长姚期智和清华大学智能产业研究院院长张亚勤均是署名者。 他们呼吁建立国际监管机构，对先进人工智能系统进行强制注册和审核，引入即时“关闭”程序，并要求开发公司将30%的研究预算分配给人工智能安全。 英国《金融时报》11月1日表示，这些提议初步表明了中国对全球人工智能监管可能采取的立场。

在布莱切利公园，马斯克在峰会期间提出了他的建议。 “我们真正的目标是建立一个洞察框架，这样至少有一个第三方裁判，一个独立的裁判，可以看看领先的人工智能公司在做什么，至少在他们有疑虑时发出警报，”他争辩道。 在政府采取监管行动之前，需要了解人工智能的发展，人工智能领域的许多人担心政府会在不知道该怎么做之前过早地制定规则。

经常对人工智能发出警报的马斯克表示：“这是人类历史上第一次与比我们聪明得多的东西生活在一起，所以我不知道我们是否真的能控制这样的东西。但我认为我们可以。希望引导它朝着有利于人类的方向发展。我确实认为这是我们面临的生存风险之一，而且可能是最紧迫的。”

本次峰会为期两天。 第一天由唐澜主持。 大多数科技公司和政府官员将参加第一天的活动。 第二天的会议由苏纳克主持，只会邀请一小部分政治领导人和技术高管来讨论具体的应对措施。 （澎湃新闻记者方晓）