原文标题:Fired OpenAI researchers say they were let go for 'prioritising safety'

三名因涉嫌信息处理不当而被解雇的 OpenAI 前研究人员声称,他们之所以被解雇,是因为他们在科技公司提出了安全问题。

Mikita Balesni 在 X 上发帖称:“我认为,我们被解雇是因为将安全置于 OpenAI 作为一家公司的近期利益之上。”该消息还附有一封与前雇员一起写给 ChatGPT 制造商的公开信。

10 月 2 日,这家人工智能公司的发言人告诉 BBC,其调查“证实这些人在公司既定程序之外错误地处理了敏感信息”。

周五上午,OpenAI 在研究领导者的一份报告中重申了这些说法。

该说明称:“我们希望非常明确地表明,这些决定并不是为了引起安全担忧或大声疾呼。”

“我们的内部调查发现,他们存在严重违反信任的行为,超出了他们发表的信中概述的内容,我们坚持不继续雇用他们的决定。”

这些解雇事件发生之际,关于人工智能安全以及先进人工智能系统可能给社会带来的潜在风险的争论日益激烈。

致 OpenAI 领导层的联名信由 Balesni、Tomek Korbak 和 Jasmine Wang 撰写,他们表示,他们

直到最近,他们都是公司的安全或调整员工。

协调是将人类伦理思想和原则融入技术的实践。换句话说,它的目标是使其与人类价值观保持一致。

前员工担心,他们的解雇让这家科技公司的员工“不敢以直到上周为止在 OpenAI 工作中不可或缺的方式说话和行事”。

科尔巴克在转发这封信时对外写道:“几个月来,我一直在提出安全担忧,担心我们正在失去监控人工智能代理想法的能力,而这是我们捕捉人工智能代理不当行为的最佳工具之一。

“我相信这就是我被解雇的原因。”

OpenAI 表示正在与第三方安全评估机构敲定合同,并将在未来几周内公布细节。

“我们并不是第一个在可疑情况下被赶出 OpenAI 的公司,”王在外部 X 上的一篇帖子中说道。

“除非员工现在采取立场反对这种做法,否则我担心我们不会是最后一个。”