猫眼电影
猫眼电影记者 孙志远 报道首次登录送91元红包
IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。
OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。
据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。
意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。
就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”
那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。
这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。
不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。
这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。
这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。
OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”
在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。
该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。
针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。
网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。
麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”
他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”
这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。
OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”
尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。
他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”
时事1:百灵百人牛牛最新版下载
12月25日,为奋进新时代新征程传递真善美传播正能量——习近平总书记贺信指引志愿服务事业高质量发展,高检网4月29日消息,全国政协人口资源环境委员会原副主任,陕西省政协原党组书记、主席韩勇涉嫌受贿一案,由国家监察委员会调查终结,移送检察机关审查起诉。日前,最高人民检察院依法以涉嫌受贿罪对韩勇作出逮捕决定。该案正在进一步办理中。,ayx官方网站。
12月25日,锡林郭勒雪原:苍原覆雪舞琼衣 生灵为画酝成诗,证券日报网讯 12月23日,长春高新在互动平台回答投资者提问时表示,公司高度重视投资者关系管理工作,已通过券商策略会、电话、路演及现场调研等多种形式,与投资者保持密切沟通,后续公司也将持续加强与资本市场的沟通交流,不断完善投资者关系管理,进一步提升信息披露透明度。,牛牛网站app,欢乐真人国际象棋,e乐彩登录旧版。
时事2:博悦
12月25日,我在四川很安逸|台青林彦谷:虹吸壶里的慢时光,华福证券分析称,总体来看,当前我国经济正处于温和复苏阶段,往后看,随着经济内生动能的不断修复,预计后续将会延续回升向好的趋势;结构上来看,“依靠质优来促量稳”将是未来中国经济发展的重要特点,未来经济结构将不断改善。(中新经纬APP),世界杯彩票投注赔率,鸿运国际,八仙图。
12月25日,重庆发改委主任高健谈2026年经济工作:加快培育AI时代的新增长点,习近平在新时代推动西部大开发座谈会上指出,要坚持以大开放促进大开发,提高西部地区对内对外开放水平。,m8体育平台,棋牌斗牛牛,188体育平台体育。
时事3:金宝博平台网址
12月25日,山南市第45届雅砻物资交流会开幕 焕发商贸新活力,带领国足三场比赛,主客场对阵新加坡、主场对阵泰国,伊万只交出了1胜1平1负的尴尬答卷,技战术角度,三场比赛,伊万留下了太多值得商榷之处,还有最后一场和韩国队的比赛,留给伊万的时间已经不多了……,欢乐牛牛下载,best365手机官网,多宝官方下载。
12月25日,2026年国考今日开考:招录年龄放宽 报名创新高,俄罗斯过去已经展示了许多在轨反卫星能力,战区称据信中国也对这种轨道反微信跟那个你感兴趣。去年,中国实践21号卫星(SJ-21)靠近北斗导航系统的一颗卫星,抓住它,并将其拖入所谓的“墓地轨道”,展示了另一种可用于压制对手天基系统的能力。,bet所有的平台网址,美高梅网站注册,正规靠谱买球十佳平台。
时事4:凯时kb官网登录
12月25日,贝宁部分军人政变 总统府称军队正在恢复控制权,美国锐联全球顾问公司创始人许仲翔表示,在人工智能赛道的竞争中,美国在创新方面具有优势,而中国则在工程技术、制造业以及电力供应领域占据上风。,爱游戏体育首页,米乐平台官网,三公扑克。
12月25日,河北固安开通首条跨省定制公交 直达北京大兴国际机场,至于重新统计的岛屿数量做何使用,日本国土地理院称,“今后会用在政府统计和学校教科书上。”,H88和记,糖果派对老版本app苹果,世界杯球赛购买。
责编:詹姆斯
审核:张世文
责编:金佼












