原文标题:Sam Altman meets lawmakers on back of OpenAI agents hacking companies
美国总统唐纳德·特朗普表示,在 OpenAI 披露后,他正在考虑“人工智能控制”。
OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 会见了美国参议员,讨论了公司即将推出的模型,唐纳德·特朗普总统表示,在 OpenAI 披露其一个人工智能系统在安全测试中逃脱遏制后,他正在考虑人工智能“控制”。
“我们正在考虑控制措施,”特朗普在椭圆形办公室回答有关 OpenAI 流氓代理的问题时告诉记者,并补充说他不想“限制”人工智能开发人员开发新产品。
上周,一名流氓特工逃脱了 ChatGPT 制造商 OpenAI 的控制,并攻击了人工智能公司 Hugging Face。然后,周二,有消息称第二家公司也成为了目标——Modal Labs,一家位于纽约市的人工智能基础设施公司。
该公司本身并未遭到黑客攻击,而是 Modal 基础设施上托管的客户帐户遭到黑客攻击。 Modal 的首席技术官 Akshat Bubna 没有确认哪个客户是目标。黑客在安全测试期间逃离了封闭环境。
“我们知道 Modal 客户发布了一个未经身份验证的端点,允许互联网上的任何人使用他们的沙箱执行代码,”布布纳在一份声明中说。 “这是流氓特工使用的。Modal 的平台或隔离没有以任何方式受到损害。”
长期以来,Altman 一直被指责忽视了对其产品和人工智能行业影响整个社会的担忧,包括佛罗里达州最近提起的一项诉讼,指控该公司将利润置于用户安全之上。
现在,他似乎正在收回过去对人工智能发展步伐的热情。
在一个名为“Invest Like the Best”的播客中,奥特曼将“拥抱脸”黑客事件称为“极其科幻的网络事件”,后来说这是“我内心感受到的第一起安全事件”。
他在播客中表示:“我们可能必须加快人工智能的发展速度,以便给社会足够的时间来强化其中一些新的能力水平。”
周六,奥特曼表示,人工智能已经达到了“奇点”,人工智能超越了人类智能,并且变得更难以控制。他此前曾表示,到 2030 年将无法实现这一目标。
华盛顿会议
奥尔特曼本周在华盛顿特区,周三会见了来自佐治亚州的民主党参议员拉斐尔·沃诺克和来自俄亥俄州的共和党参议员伯尼·莫雷诺。奥特曼告诉记者,黑客攻击事件得到了讨论,但不是会议的焦点。
奥尔特曼还将与弗吉尼亚州民主党参议员马克·沃纳会面,他是众议院情报委员会的民主党领袖。
奥特曼还将前往白宫会见特朗普的幕僚长苏西·怀尔斯。上个月,总统签署了一项行政命令,要求人工智能公司在全面发布之前评估其模型。
融资问题
有报道称,半导体芯片巨头英伟达正在与 OpenAI 进行谈判,为俄亥俄州的一个数据中心提供资金担保,此次黑客攻击和会议伴随着来自华尔街的压力,人们对潜在的循环融资再次感到担忧。
这笔价值 2500 亿美元的交易将帮助 ChatGPT 所有者租赁软银子公司 SB Energy 正在俄亥俄州皮克顿建设的 10 吉瓦项目,该项目位于俄亥俄州哥伦布以南 109 公里(68 英里)处。它是公私合作伙伴关系的一部分,使软银能够在美国能源部拥有的政府土地上建造世界上最大的人工智能数据中心。
波士顿学院副院长 Aleksandar Tomic 表示:“需求并不像看起来那么大,因为在某种程度上,这些公司是用自己的钱互相购买的,而不是像 OpenAI 那样,客户有如此巨大的需求,将其适当货币化,然后用客户的钱购买 Nvidia 芯片。他们实际上是在用 Nvidia 的钱购买 Nvidia 芯片。”
这一进展正值奥特曼领导的公司倾向于首次公开募股之际,根据《纽约时报》上个月的报道,首次公开募股可能会在 2027 年进行。