原文:OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks
简介
OpenAI 宣布了一项新功能,据称该功能将针对即时注入攻击提供额外的保护,即恶意聊天机器人指令隐藏在网页和其他内容源中。
除此之外,锁定模式将禁用实时网页浏览(因此您只能访问缓存的内容)、从网络检索和显示图像(您仍然可以生成图像)、深入研究和代理模式。
该公司表示,即使打开锁定模式,ChatGPT 仍然可能容易受到提示注入的影响,例如,这可能“出现在缓存的网页内容或上传的文件中,并且仍然可能影响响应的行为或准确性。”
但目标是减少敏感数据在此过程中共享的可能性。
“锁定模式并不适合所有人,”OpenAI 表示。 “它是为处理敏感数据并希望更严格地保护免受与即时注入相关的数据泄露风险的个人和组织而设计的。”
该公司表示,目前正在将锁定模式推广到自助式 ChatGPT Business 帐户以及符合条件的个人帐户。