世界强国表示他们希望控制人工智能，但他们也在争相推进其发展
世界主要国家表示他们渴望控制人工智能，但同时也在争相推进其发展
昨天，包括美国、欧盟成员国和中国在内的28个国家签署了一份声明，警告人工智能正以如此迅速和不确定的方式发展，可能会造成“严重甚至灾难性的危害”。
这一声明发布于由英国政府组织、在历史悠久的第二次世界大战解码地点布莱切利公园举办的AI安全峰会上，还呼吁国际合作来定义和探索更强大的人工智能模型，包括驱动聊天机器人如ChatGPT的大型语言模型的风险。
英国首相里希·苏纳克在一份声明中表示：“这是一项具有里程碑意义的成就，世界上最强大的人工智能力量都同意了理解人工智能风险的紧迫性，有助于确保我们子孙后代的长期未来。”
ENBLE’s Fast Forward 通讯Will Knight
峰会的场地向艾伦·图灵致敬，艾伦·图灵是英国数学家，他在计算和人工智能领域做出了开创性的工作，并通过开发早期计算设备帮助盟军破译纳粹密码。2009年，一届英国政府曾为图灵道歉，因为他在1952年因为同性恋被起诉。
然而，即使是亲密盟友也会被人工智能炒作引发的竞争热潮所改变。在这份面向未来的宣言还未干透之际，美国就宣称其在发展和引导人工智能方面的领导地位，副总统卡玛拉·哈里斯发表了一篇发表警告性演讲，指出AI风险，包括深度伪造和有偏见的算法已经存在。白宫本周早些时候宣布了一项全面的行政命令，旨在制定规定人工智能的规则，昨天还概述了新规则，以防止政府算法造成伤害。
“当一位老人因为一款有缺陷的AI算法而被迫离开他的医疗计划时，对他来说这难道不是生存关头吗？”哈里斯说。“当一位女性因拥有深度伪造照片而受到滥用伴侣的威胁，对她来说这难道不是生存关头吗？”
英国此次的合作与竞争交织不清，源于大语言模型在过去一年中展示出的令人惊讶和略带吓人的能力。人工智能已经证明做一些许多专家认为在未来几年内仍将是不可能实现的事情。这让一些研究人员认为，拥有能够复制类似于人类常常忽视的一般智能的能力的系统，可能会突然更接近。
本周，伦敦迎来了顶级人工智能专家。我见到的人包括深度学习领域的先驱尤西亚·本吉奥，他说他的使命是向政府提醒更先进的人工智能的风险；斯坦福大学基础模型研究中心负责人<lii的李，红队ai系统脆弱性的专家；以及谷歌deepmind的首席执行官迪米斯·哈萨比斯，他认为人类要保证人工智能体现了我们最美好的利益而不是最差的行为，时间非常有限。</lii的李，红队ai系统脆弱性的专家；以及谷歌deepmind的首席执行官
为了做好这场AI外交史上可能是最重大的事件的准备，我在前往伦敦之前与斯德哥尔摩大学研究人工智能监管地缘政治的Jonas Tallberg教授进行了交谈。
“在全球监管人工智能的过程中，利益重大。”他对我说，似乎这周在英国正在发生这样的事情。“在人工智能竞赛中脱颖而出的人预计将对国家和地区的经济竞争力和地缘政治地位产生重大影响。”
过去几周里，Rishi Sunak一直在警告人们AI带来的风险，如化学和生物武器的发展、自动化网络攻击和虚假信息。他还强调AI可能因为试图将其置于历史的回收站而反对人类的想法。
这让英国的一些人工智能界感到不悦，他们认为政府应该更紧急地帮助他们与美国和中国竞争。Sunak可能在某种程度上也受到类似的担忧驱使。当你甚至不是世界上技术最强大的第二个AI大国时，你可能会被迫寻找另一种方式来使自己成为焦点。”
