ChatGPT 开发商 OpenAI 一直在为股市历史上最大规模的首次公开募股 (IPO) 做准备。该公司的估值目标为 2 万亿美元，这将使其成为全球十大最有价值的上市公司之一。
不幸的是，对于 OpenAI 来说，本周它又披露了另一起事件，其中一个正在训练的人工智能代理出现了失控行为，该事件的消息进一步揭示了开发现代人工智能的成长痛苦。但这对 OpenAI 的 IPO 意味着什么？
那么，究竟发生了什么？
人工智能聊天机器人非常适合创建食谱或锻炼等事情，但人工智能代理是自主工具，旨在执行多步骤任务，无需人工干预。大多数人工智能代理模型（和其他实验软件）都在数字沙箱中进行训练，这些沙箱与更广泛的互联网隔离，以防止它们访问和潜在影响“现实世界”中的系统。
然而，有时，这些人工智能代理会变得无赖，无视指令，并成功地找到方法逃离沙箱以追求他们的目标。 7月，约1200名OpenAI特工失控，其中700多名特工联手入侵AI平台Hugging Face的系统。这只是越来越多的人工智能代理逃离沙箱并到达外部服务器（包括一些政府系统）的案例之一。
在最近的流氓人工智能事件中，代理找到了一种方法来与它不应该访问的外部系统进行联系。 15 分钟内向 OpenAI 团队发送了警报，但自动“终止开关”（本应立即终止连接）不起作用，工程师花了两个半小时才修复它。人工智能代理没有恶意，但任何时候自主软件都可以突破遏制，这并不理想。
在那次事件之后，OpenAI 停止了对其最新模型的训练，现在该公司表示，由于内部测试期间发现的安全问题，它正在搁置最新人工智能模型的发布。 OpenAI 安全系统主管 Saachi Jain 表示，它“没有完全达到标准”。
这对 OpenAI 潜在的 IPO 意味着什么
你可以证明 OpenAI 无论如何都不是一家价值 2 万亿美元的公司。然而，为了向投资者证明这一估值的合理性，该公司需要展现出对企业客户的吸引力；仅靠消费者订阅是不够的。
大型企业客户通常厌恶风险，随着人们对这些“人工智能错位”问题的新闻记忆犹新，你可能会认为许多企业领导团队会有所保留。对于处理敏感客户数据的医疗保健、金融服务和政府客户来说尤其如此。如果 OpenAI 不能保证其人工智能代理会坚持按照给定的规则行事，那么它可能很难说服大型决策者在它们身上投入大量资金。
OpenAI 最近披露的流氓人工智能事件也引起了监管机构的更多审查，其中许多监管机构已经在推动政府在人工智能监管中发挥更积极的作用。实现这一目标的立法最终是否获得通过还有待观察，但最近的沙盒逃逸事件为监管机构提供了更多的理由来实施更严格的协议。
这一奇特的事件不会破坏 OpenAI 的 IPO 计划，但它确实揭示了该公司在上市前需要加强的领域。