趋势解读:ChatGPT's new Lockdown Mode lets you disable web,提升开发者接入体验
OpenAI发布ChatGPT新功能“Lockdown Mode”,可禁用网页访问、深度研究和代理模式,防止数据泄露,主要面向处理敏感数据的用户和组织。
原贴
查看原文原文
中文翻译
OpenAI发布了ChatGPT的新“锁定模式”,该模式禁用了网页访问、深度研究和代理模式等功能,以保护用户免受潜在的数据窃取。该功能阻止所有与互联网和外部服务的连接,防止在对话期间敏感数据泄露给AI。用户可以在安全设置中激活锁定模式,并在需要更广泛功能时暂时为单个对话禁用它。通过新的锁定模式,ChatGPT用户可以禁用网页访问、深度研究和代理模式,以更好地保护自己免受通过提示注入攻击的数据窃取。该功能主要面向处理敏感数据的用户。锁定模式限制所有将ChatGPT连接到互联网或外部服务的功能。目标是防止攻击者使用提示注入(嵌入在文本或文件中的隐藏指令)来操纵模型行为并窃取敏感用户数据。OpenAI表示,该功能专为处理特别敏感数据的个人和组织设计。实时网页搜索仅限于缓存内容,这意味着搜索结果可能过时或完全不可用。深度研究和代理模式被完全禁用。ChatGPT无法再下载文件,也不会在常规响应中显示网络图像。Canvas生成的代码的网络访问也被阻止。OpenAI称提示注入是一个“前沿、具有挑战性的研究问题”,正在努力解决。这是事实,但只是部分情况:提示注入至少在GPT-3时代就已是一个众所周知的LLM漏洞,频繁被利用,经过多年研究仍未找到修复方案。锁定模式证实了现状:这是一个临时措施,而不是对提示注入的修复。它建立在现有防御措施之上,包括沙箱、基于URL的窃取保护、监控和访问控制。但OpenAI表示,上传文件中隐藏的操纵指令仍然可以影响模型行为并导致错误答案。该模式只阻止窃取链的最后一步——尝试通过网络请求将数据发送给攻击者。OpenAI的FAQ指出,提示注入“目前不是主要风险”,但影响“可能随着攻击者开发更复杂方法而增长”。锁定模式不能保证完全保护。在将财务数据链接到ChatGPT之前,这一点值得注意。对于个人账户和自管理的ChatGPT Business账户,锁定模式可在“设置 > 安全”下启用。在管理工作区中,管理员可以通过基于角色的访问控制(RBAC)为个人成员或组设置该模式。用户可以在特定对话中暂时关闭锁定模式,以获取全部功能。但锁定模式和开发者模式互斥。对于应用和连接器,OpenAI根据账户类型进行区分。在个人账户上,锁定模式允许访问已同步数据的连接器,但阻止实时访问、写入操作以及金融和购物功能。在管理工作区中,OpenAI建议管理员仅启用受信任的应用,并单独评估每个应用的窃取风险。
核心信息
OpenAI发布ChatGPT新功能“Lockdown Mode”,可禁用网页访问、深度研究和代理模式,防止数据泄露,主要面向处理敏感数据的用户和组织。
- OpenAI推出锁定模式禁用网络和外部服务
- 主要防范提示注入导致的数据泄露
- 实时搜索降为缓存,深度研究禁用
- 仅阻断外泄链最后一步,非根本修复
- 管理员可RBAC配置,用户可临时关闭
成为会员查看完整内容
你已经看到了这篇内容的前置整理,剩余深度部分仅对会员开放。