Nvidia (NVDA) 发布了开放代理安全平台，旨在帮助人工智能开发人员对代理实施安全保护，几天前，这家人工智能硬件巨头的首席执行官对 Anthropic 和 OpenAI 的安全方法提出了质疑。
英伟达首席执行官黄仁勋在一份新闻稿中表示：“只有解决人工智能安全问题，人工智能对社会的巨大潜力才能实现。” “在我们不断发现人工智能能力前沿的同时，我们必须加快人工智能安全前沿的发现。安全和安保需要全栈工程。”
上周，黄与《纽约时报》的 Ezra Klein 坐下来讨论了 Anthropic 首席执行官 Dario Amodei 和 OpenAI 首席执行官 Sam Altman 最近发出的警告，即人工智能的发展速度可能会威胁人类。
“如果你的产品还没有准备好发货，就不要发货，”黄告诉埃兹拉·克莱因秀播客。 “这是我第一次听到一家公司或首席执行官说我需要……减轻产品责任法，以便我能够调整自己的节奏。”
黄一再将领先的人工智能实验室的立场描述为“奇怪”，因为这些公司正在引领人工智能创新，而在他看来，安全风险可以通过技术来缓解。
黄告诉克莱因：“如今，没有人比那些要求放慢速度的人构建更多的计算。” “这让我觉得很奇怪……我认识这两个实验室的很多人，他们毕生致力于做好工作。他们知道发生了什么事。我知道他们知道发生了什么事。我知道他们知道如何解决问题，而且我知道他们正在解决问题。”