简而言之
联合国秘书长安东尼奥·古特雷斯在日内瓦召开了首届人工智能治理全球对话，他称人工智能的部署“比任何人（包括构建人工智能的人）都快”。
古特雷斯重新利用了“氛围编码”——让人工智能在没有人类仔细审查的情况下编写软件的做法——作为危险的被动治理的隐喻：“我们无法对人类的未来进行氛围编码。”
他要求国际法禁止致命自主武器，并发起人工智能儿童安全承诺，并计划于 2027 年在纽约举行第二次对话。
联合国秘书长安东尼奥·古特雷斯周一在日内瓦召开了首届人工智能治理全球对话，他告诉 193 个国家，人工智能的发展速度已经超过了管理它的机构，而人类正在“没有计划、也没有得到同意”地对自己进行一项实验。
“人工智能正在以失控的速度前进，”古特雷斯在主题演讲的开头说道。 “一项能够重塑经济、改变工作世界、影响选举和倾斜安全平衡的技术的部署速度比任何人（包括构建该技术的人）都要快。”

会议室里包括所有 193 个联合国成员国，在日内瓦召开了第一届人工智能治理全球对话，这是一项多边尝试，旨在治理一项已经超越了所有尝试者的技术。
古特雷斯用来解释不受监管的人工智能风险的模因是“vibe编码”——这个术语是由 OpenAI 创始成员、特斯拉前人工智能总监安德烈·卡帕蒂 (Andrej Karpathy) 创造的，用来描述凭感觉编程：告诉人工智能你想要什么，让它处理其余的事情，不要看得太仔细。韦氏词典最近将其添加到词典中。
古特雷斯承认氛围编码“可以创造奇迹”。随着越来越多的人信任人工智能产品。
“但我们无法对事实进行振动编码，”他说。 “我们无法对人类的未来进行编码。”
这条线后面的数字并不软弱。古特雷斯预计互联网需要 15 年才能覆盖 10 亿人口，而人工智能则需要 2 年。他将当前的系统描述为“不再是等待指令的工具——它们正在编写代码、在线操作并在越来越少的人类监督下做出选择。”
“我们的机构是为了管理遵循命令的机器而建立的。他们还没有准备好接受做决定的机器。”

此次对话源于 2024 年全球数字契约，该契约首次将国际人工智能治理确立为联合国的一项任务。两年后的开幕会议还收到了由来自 140 个国家的 40 名科学家组成的人工智能国际独立科学小组的初步报告，该小组上周发表的调查结果表明，目前没有人能保证人工智能不会造成灾难性伤害。
速度是古特雷斯从小组中收到的三个警告之一。第二个是权力：计算、数据和人才集中在少数公司和国家，世界上大多数国家都无法参与已经决定的决策，这也让 Yann Lecun、Andy Kowinski 和 Yoshua Bengio 等其他人工智能专家感到担忧。
第三个是真相——机器驱动的谎言现在和经过验证的事实一样有效地具有说服力，不断侵蚀古特雷斯所说的“我们信息生态系统的完整性”。
儿童豚鼠和杀手机器人

古特雷斯的具体建议包括人工智能儿童安全承诺，要求公司在任何人工智能接触儿童之前通过独立测试来证明安全，对儿童性虐待图像的生成保持零容忍，并将痛苦的儿童与真正的人类支持联系起来，而不是让他们独自与聊天机器人相处。 “任何孩子都不应该成为不受监管的人工智能的小白鼠。”
然后是杀手机器人。古特雷斯称致命的自主武器——在没有人类判断的情况下选择并杀死目标的机器——“在道德上令人反感”，并要求国际法予以禁止。
各国已经坐在讨论桌上。他并没有建议他们慢慢来。
对话将于 2027 年在纽约重新召开。古特雷斯还呼吁大会设立一个全球人工智能基金，重点关注发展中国家的计算访问，并要求各大人工智能公司到 2030 年使用可再生能源运行所有数据中心——他估计，到 2030 年，这些设施的用电量将超过除五个国家以外的所有国家。
每日简报时事通讯
每天从当前的热门新闻报道以及原创专题、播客、视频等开始。