OpenAI 推出 Lockdown 模式以防范提示注入攻击
图片： TechCrunch
简要回答
Компания OpenAI анонсировала функцию Lockdown Mode, предназначенную для защиты пользователей от атак с инъекцией промптов. Эта угроза возникает, когда злоумышленники внедряют вредоносные инструкции в веб-страницы или другие источники данных, которые затем обрабатываются чат-ботами. Новый режим снижает вероятность утечки чувствительной информации, но не гарантирует полную защиту от подобных атак.
OpenAI 推出 Lockdown 模式，以提升企业和个人 ChatGPT 账户的安全性。该功能旨在降低与提示注入攻击相关的风险，攻击者会将恶意命令伪装成合法内容，从而影响 AI 模型的运行。
在 Lockdown 模式下，多项功能将被禁用：实时网页浏览（仅可访问缓存内容）、从互联网下载和显示图片，以及高级研究工具和代理模式。不过，用户仍可使用内置模型生成图片。
开发者强调，Lockdown 模式并不能提供绝对的保护。例如，恶意代码可能隐藏在缓存数据或上传的文件中，从而影响聊天机器人的回复。尽管如此，该模式显著降低了敏感信息泄露的可能性。
该功能面向处理敏感数据的组织和个人用户。目前，Lockdown 模式适用于 ChatGPT Business 企业账户及符合安全标准的个人账户。
常见问题
- 常见问题
- Компания OpenAI анонсировала функцию Lockdown Mode, предназначенную для защиты пользователей от атак с инъекцией промптов. Эта угроза возникает, когда злоумышленники внедряют вредоносные инструкции в веб-страницы или другие источники данных, которые затем обрабатываются чат-ботами. Новый режим снижает вероятность утечки чувствительной информации, но не гарантирует полную защиту от подобных атак.
Dzen 订阅： /feed/dzen.xml · RSS： /feed.xml