OpenAI新浏览器Atlas引发隐私和安全担忧
OpenAI 的新浏览器Atlas 正在引发新的隐私和安全警报——但没有人确切知道如何应对它们。
重要性：浏览器是互联网的门户，众所周知，它们会窃取用户的一些最敏感的信息，例如密码和信用卡信息。
新闻动态： OpenAI上周向 MacOS发布了备受期待的 ChatGPT 浏览器 Atlas。
隐私保护人士随即开始对该浏览器收集的用户数据量表示担忧，该浏览器收集的数据量远远超过市场上任何其他浏览器。
安全研究人员还对浏览器如何防御提示注入表示担忧，攻击者在网站和电子邮件中隐藏恶意命令，诱骗人工智能违反其自身的规则。
总体情况： OpenAI 加入了越来越多竞相将人工智能嵌入浏览器的公司行列，其中包括微软、谷歌和 Perplexity。
但 Atlas 更进一步：ChatGPT 代理可以根据用户的要求自主完成网站上的任务，并且搜索查询通过 ChatGPT 而不是 Google 进行。
字里行间：这种自主性要求 Atlas 比传统浏览器收集和记住更多关于用户的信息。
与传统浏览器不同的是，Atlas 还能从这些搜索中构建“记忆”，帮助浏览器推断某人是否正在计划旅行、是否需要在本周重新订购家居用品或是否应该在特定时间查找食谱。
他们说的是： “浏览器之战不再是关于标签和搜索的了，”OWASP Gen AI 安全项目的创始人兼联合主席、网络安全公司 Exabeam 的首席人工智能官史蒂夫威尔逊 (Steve Wilson) 告诉 Axios。
“它们关系到我们是否能够阻止我们的新数字同事变得叛逆。”
放大：随着专家深入研究 Atlas 的功能，新的安全和隐私威胁列表正在增加。
电子前沿基金会的技术人员莉娜·科恩告诉《华盛顿邮报》，在她的测试中，阿特拉斯记住了关于“通过计划生育直销中心提供性与生殖健康服务”的查询，甚至记住了一位真实医生的名字。此类搜索曾被用来在堕胎受限的州起诉堕胎者。
OpenAI 表示，它已经改进了其系统，并且 Atlas 并不旨在记住有关用户医疗保健的详细信息。
在代理模式下，如果恶意网站在其设计中嵌入了隐藏提示，Atlas 可能会被诱骗预订酒店房间、删除文件或向用户联系人中的某人发送消息。
SquareX 的研究人员周六表示，他们能够诱骗 Atlas 访问伪装成币安加密货币交易所登录页面的恶意网站。
现实检验： OpenAI表示Atlas 不应该保留敏感信息，例如政府身份证、银行详细信息、密码、地址、医疗记录或财务数据。
用户还可以告诉 Atlas 不要记住某些网站，并手动从其档案中删除记忆。
OpenAI 表示，它已采取控制措施，防止代理运行代码、下载文件或使用自动填充数据来完成任务。某些敏感任务还需要用户监视代理的行为。
但一些安全专家表示，现在信任任何人工智能浏览器还为时过早，其风险超过了它们目前所能实现的功能。
有趣的是： OpenAI 首席信息安全官 Dane Stuckey周三在一篇长篇社交媒体帖子中表示，他的团队进行了红队演习，使用新颖的模型训练策略来激励 ChatGPT 忽略恶意指令，实施了独特的护栏和安全措施，并添加了新功能来阻止快速注入攻击。
但斯塔基也承认，即时注入攻击在很大程度上仍然是所有人工智能平台上的“未解决的安全问题”，对手可能会花费“大量时间和资源”来欺骗 ChatGPT。
OpenAI上周末发布了一些关于如何防范 Instagram 上的快速注入攻击的技巧。
Brave 公司（也拥有一款浏览器）的研究人员周二发布了一份报告，详细说明了包括 Perplexity 的 Comet 浏览器在内的人工智能浏览器也容易受到提示注入的影响。
值得关注的是：执法部门已开始要求获取 ChatGPT 用户数据。 《福布斯》上周获得的首份此类搜查令显示，调查人员正在就正在进行的案件索取用户的 ChatGPT 历史记录。
