原文标题:OpenAI admits response to Australian government hacks 'not good enough'

OpenAI 承认,在其一名流氓特工于 6 月入侵澳大利亚政府网站后,其行动“不够好”,并表示已对其培训环境增加了更多预防措施。

该公司首席战略官杰森·权(Jason Kwon)周二在悉尼接受了关于人工智能的议会听证会,他表示此次违规行为“不应该发生”,并且“应该更好地处理我们的应对措施”。澳大利亚花了数周时间才通过通用收件箱收到电子邮件通知。

权说:“我们很抱歉,我们知道我们需要努力重建与澳大利亚人民的信任。”

Anthropic 也出现了,并表示在最近的调查中没有发现任何澳大利亚违规案例。

6 月份,一名 OpenAI 代理“作恶”并“渗透”了一个私人统计门户网站,其中包含来自澳大利亚全民医疗保健计划 Medicare 的“非敏感”数据,网络安全专家称这是此类黑客行为中的首次。

当被问及为什么 OpenAI 在发现违规行为后没有立即直接联系政府部长时,Kwon 承认这是一个错误。

“回想起来,我们应该按照你的建议去做,”权在回答委员会的问题时说道。

委员会解释为何没有拨打政府部长的手机号码。

“之所以会出现这样的情况,是因为我认为人们将其视为一种技术情况,他们想联系技术对手,但这还不够好。”

权表示,该公司已经改变了处理此类事件的方式。

“即使我们不完全了解情况,我们也会通知并开始与受影响方合作解决该情况。”

Kwon 告诉这个由 12 名成员组成的委员会,自事件发生以来,OpenAI 还对其培训环境增加了“更多预防措施”。该委员会由工党、自由党和独立议员以及参议员组成,他们正在研究人工智能及其对澳大利亚的影响。

该公司还在澳大利亚建立了一个当地工作组,以调查“如何更好地管理与日益强大的人工智能相关的风险”。

Kwon 告诉委员会,现在在测试期间会实时监控训练模型,如果它们以不符合预期的方式与互联网交互,就会触发警报。

这意味着它上周能够向新南威尔士州政府发出另一次黑客攻击警报

48小时。

权表示,该公司还将支持强制披露事件的框架,因为它将提出“明确的期望”。

“我们试图制定一个适用于我们自愿行动的标准……根据我们在这里学到的经验,我们可能应该与更多的人讨论如何做好这一点。”

Anthropic 的安全保障负责人戴夫·奥尔 (Dave Orr) 表示,在 OpenAI 特工于 7 月份黑客攻击技术平台 Hugging Face 后,该公司已审查了“数亿份记录”,以检测任何与 OpenAI 类似的澳大利亚政府网站的潜在违规行为。

“我们还没有发现类似的东西,我们已经看过了,”他告诉委员会。

公开听证会将持续到周五,还听取了艺术和媒体组织关于版权的证据以及他们对人工智能模型如何使用其材料的担忧。

委员会获悉,选择退出模式——艺术家有责任要求人工智能不要将他们的材料用于培训目的——是有缺陷的,可能意味着艺术家不会因其内容而获得报酬。

首席执行官安娜贝尔·赫德 (Annabelle Herd) 表示:“换句话说,澳大利亚的艺术家将成为匆忙达成这项人工智能协议的路上的牺牲品。”

澳大利亚唱片工业协会。