搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

OpenAI承认Atlas浏览器提示词注入攻击难以根治

2025-12-24 04:59:40
来源:

猫眼电影

作者:

白陶

手机查看

  猫眼电影记者 宋文挡 报道首次登录送91元红包

IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。

OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。

据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。

意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。

就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”

那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。

这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。

不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。

这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。

这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。

OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”

在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。

该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。

针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。

网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。

麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”

他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”

这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。

OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”

尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。

他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”

 时事1:金沙全部网址APP

  12月24日,海南自贸港12月18日起可办理“一线”“二线”报关业务,截至当地时间2月8日,土耳其和叙利亚北部地区6日发生的大地震已造成超过1.5万人遇难。据土耳其阿纳多卢通讯社报道,地震后埃尔多安的专机也投入了救灾工作,并于8日晚从卡赫拉曼马什拉省将16名幸存婴儿运送到首都安卡拉。,188体育登录首页注册。

  12月24日,中国外交部亚洲事务特使将再次赴柬埔寨、泰国穿梭调停,参与过国内多条海底隧道设计工作的中交二航局技术中心副总工程师黄修平告诉中国新闻周刊,无论是沉管隧道还是盾构隧道,中国企业都取得了可靠的施工经验。在沉管隧道方面,通过港珠澳大桥等项目的实践,中国企业掌握了大型沉管预制、浮运、安装以及深水定位技术;自主研发的防水材料和防腐蚀措施也得到成功的应用。在盾构隧道方面,自主研发了超大直径盾构机,如“京滨同心号”,成功应用于天津滨海国际机场隧道等项目的挑战。,星速电竞,世界杯注册网站推荐,mgm好玩吗?。

 时事2:AG亚游集团8位人气女星荷官

  12月24日,周六迎欧冠首战 再赴德国的樊振东持续带火欧洲乒乓市场,施正文表示,此次关税法制定一大原则就是提升关税征管便利化水平,因此确定了关税征收管理可以实施货物放行与税额确定相分离的模式。比如,进口货物关税确认需要一段时间,要明确原产地、货物估价等。如果等缴完税再放行,影响通关便利。因此,目前采取了货物放行与税额确定相分离的模式,即根据企业申报纳税情况先发行,后审核纳税,提升通关速度,以促进对外贸易。,牛牛小游戏,火狐体育下载,云顶娱乐手机版入口。

  12月24日,新疆发改委党组书记、副主任文华谈2026年经济工作:构建特色优势现代化产业体系,如何理解央行行为和资金指标之间的背离,背后核心是银行资金充裕和非银杠杆抬升。,188宝金博手机网址,gpk捕鱼大亨辅助,E世博。

 时事3:外站精料

  12月24日,泰国教育部长:已临时关闭泰柬边境地区近千所学校,李国杰作为中科曙光董事长,配偶张某华六个月内买入卖出“中科曙光”的行为,导致李国杰违反《证券法》第四十四条第一款、第二款的规定,构成《证券法》第一百八十九条所述的违法行为。,银河赌场网站,环亚旗舰厅APP,大满贯官方下载。

  12月24日,福建发改委主任孟芊谈2026年经济工作:福建数字化赋能智能化改造走在前列,据宁波市海曙出租汽车服务中心李贵春介绍,截至6月12日下午,已有50余人提交《超过法定退休年龄驾驶员从业资格证延续注册登记表》并参加体检,此次政策调整预计释放约2000名驾驶员资源。,永利体育官方app,6686旧版,买球哪个平台最好用。

 时事4:MG视讯充值就送

  12月24日,创意作品点亮城市数字未来 2025上海“随申码”应用创新大赛落幕,虽然并非所有国家都详细披露本国黄金储备存放地点及具体数量,但根据新加坡贵金属交易商Bunker Group的估算,美国和英国是全球最大的黄金保管国,两国合计储存的黄金占全球黄金储备的约53%。,合法买球网站买球app哪个好用,万博官方manbext体育下载,云顶官网下载。

  12月24日,两岸专家学者厦门交流施琅收复台湾历史功绩与民间信仰,拉夫尔正通过阿里巴巴等中国科技巨头布局人工智能赛道。阿里巴巴旗下设有人工智能芯片业务单元,拥有大语言模型通义千问(Qwen),并持续加大对云基础设施的资金投入。,澳门永利官方电子,美高梅游戏登录网站,fg电子是什么游戏。

责编:王荣称

审核:丹泽尔华盛顿

责编:姜宏铭

相关推荐 换一换