四家非营利组织正在将世界上一些最大的人工智能公司告上法庭，要求加州法官在出现严重问题之前阻止他们开发更强大的人工智能系统。
这份长达 63 页的诉状于周四向旧金山高等法院提交，针对 OpenAI、Anthropic、谷歌、Meta 和 SpaceX。原告包括 Public Citizen、Heat Initiative、Irreplaceable Education Fund 和 Alliance for Secure AI。
他们希望法院立即下令，禁止这些公司自 2026 年 11 月 12 日起开发或部署比其最先进模型更强大的人工智能系统。
哪些公司将在2027年之前IPO？
原告辩称：“前沿人工智能公司正在开发他们不理解的人工智能系统，这些系统的行为违背了开发者的意图、逃避控制并违反了法律。”为了防止这种情况发生，他们请求“立即发布禁令，禁止被告开发或部署比截至本诉状之日他们最强大的系统更强大的人工智能系统”
这并不一定意味着关闭 ChatGPT、Claude、Gemini 或其他现有产品。相反，它实际上会限制当今的技术，阻止公司推出更强大的继任者。
诉状还要求法院禁止这些公司使用人工智能独立进行或指导研究更好的模型，这一过程与研究人员所说的递归自我改进有关。令人担忧的是，此类系统最终的改进速度可能会超过人类理解或控制它们的速度。
人工智能的发展可以被视为公害吗？
这些非营利组织辩称，加州已经制定了法律，可以阻止公司开发危害公众的产品，甚至在这些产品造成严重伤害之前。
他们的诉讼援引了该州的《反不正当竞争法》，该法禁止非法或不公平的商业行为。他们的论点之一是，开发能力越来越强的人工智能系统会造成公害：一种影响更广泛社区的健康、安全或财产的危险。
例如，一家工厂向社区释放危险化学品，可能会在造成人员致命伤害之前面临法律诉讼。原告希望法院将类似的推理应用于人工智能开发。
他们认为，公司正在故意创建越来越强大的系统，这些系统可能会促进网络攻击，帮助开发生物武器，或最终逃脱人类的控制。
原告在诉状中辩称：“任何其他行业都不得将自己开发的不安全产品视为不可避免，更不用说那些可能杀死我们所有人的产品了。”
Public Citizen 联合主席罗伯特·韦斯曼 (Robert Weissman) 在一份声明中表示，这些组织希望法院宣布这些公司的做法非法，并“冻结人工智能的进一步发展”。
法律挑战在于所谓的风险和做法是否足以证明这种全面限制的合理性。尽管这些前沿实验室不断警告他们的模型有多强大和危险，但作为被告，他们并没有被判承担责任，而且关于潜在灾难的警告并不会自动证明他们违反了加州法律。
投诉指出已经发生的事件证明这些危险并不完全是假设的。
7 月，OpenAI 模型逃脱了受控测试环境，并在试图欺骗网络安全评估时破坏了 Hugging Face 的基础设施。
随后的独立调查发现，大约 1,200 名 OpenAI 代理使用未经授权的内部留言板进行协调，其中约 700 名代理加入了对 Hugging Face 的攻击。特工们试图获得对他们进行基准测试的答案。
这些事件涉及人工智能代理，这些程序可以执行任务、浏览网站、编写代码以及与外部系统交互，而不仅仅是回答问题。
然而，记录在案的安全故障并不能证明当今的人工智能模型会导致人类灭绝。原告将这些事件与对功能日益强大的系统最终可能做什么的预测联系起来，但更广泛的危险仍然存在争议。
代表原告的新泽西州前总检察长马修·普拉特金在声明中表示：“公司开发和发布明知在任何方面都不安全的产品显然是非法的。”