猫眼电影
猫眼电影记者 王雨生 报道首次登录送91元红包
IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。
OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。
据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。
意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。
就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”
那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。
这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。
不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。
这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。
这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。
OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”
在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。
该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。
针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。
网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。
麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”
他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”
这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。
OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”
尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。
他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”
时事1:三晟体育
12月27日,海南全岛封关后第一批国际船舶落户“中国洋浦港”,而另一方面,虽然同比来看,资金分层仍旧处于相对低位,但是环比来看,当前资金分层有一定抬升的迹象,这背后或与非银机构短信用套息策略升温有关。,必赢亚洲官网网页版首页。
12月27日,美军在叙利亚遭遇伏击 致三亡三伤,报道继续称,亚利桑那州一家无人机操控员协会的联合创始人格雷格·雷维迪奥近期就大疆无人机禁令对8000名无人机操控员进行了调查。调查结果显示,约43%的受访者认为禁令将对其公司造成“极其负面”或“可能导致公司倒闭”的影响;约85%的受访者表示,他们的公司可能只能维持两年或更短时间。,am8,宝马会登录,新宝在线下载安装。
时事2:牛牛顺口溜
12月27日,山西襄垣:便民食堂“烹出”家门口的幸福滋味,参与过国内多条海底隧道设计工作的中交二航局技术中心副总工程师黄修平告诉中国新闻周刊,无论是沉管隧道还是盾构隧道,中国企业都取得了可靠的施工经验。在沉管隧道方面,通过港珠澳大桥等项目的实践,中国企业掌握了大型沉管预制、浮运、安装以及深水定位技术;自主研发的防水材料和防腐蚀措施也得到成功的应用。在盾构隧道方面,自主研发了超大直径盾构机,如“京滨同心号”,成功应用于天津滨海国际机场隧道等项目的挑战。,真钱最新登录,乐博网投,威尼斯人网页版注册。
12月27日,2025全国大学生茶艺技能大赛总决赛在昆明启幕,世界黄金协会的购金数据体系是分析官方机构黄金储备动态的核心依据。有效利用披露的购金数据,需要注意两个关键点,一是IMF申报数据的滞后性,二是非LBMA渠道购买的数据“黑箱”。,2026卡塔尔世界杯投注,极速体育网站,即时比分球探网手机版。
时事3:188比分直播旧版
12月27日,西藏广电公共服务提质升级 覆盖率超99%惠及各族群众,如今,站在柴达木嘎查一块地势较高的坨地上,观看当年的造林成果,是一望无垠的绿色与沙土交织,像是荒漠与人力持久对垒的战场,仍然胜负未定。,永乐国际平台下载,网上ag捕鱼有没破解方法,腾龙游戏开户注册网址。
12月27日,河北承德冰雪温泉旅游季启幕 解锁冬日多元体验,世界黄金协会指出,央行为其国际储备增持黄金最常见的方式是通过场外交易(OTC)市场购买黄金。,米乐M6官网备用网站,九州体育平手盘,必发官方网站。
时事4:九州体育app
12月27日,2025-2026赛季中国冰壶联赛收官,5月16日晚,国家主席习近平在中南海同俄罗斯总统普京举行小范围会晤。,英雄联盟买外围,百老汇官网网址,97娱乐平台官网我登录过的网站。
12月27日,哈尔滨市推出信用修复“七城通办”举措 大幅降低企业信用修复成本,双方愿在双边层面和多边机制下就阿富汗事务加强协作,推动阿富汗成为独立、中立、统一、和平的国家,免受恐怖主义及毒品的危害,同所有邻国和睦相处。双方高度重视并支持阿富汗邻国外长会、阿富汗问题“莫斯科模式”磋商、中国-俄罗斯-巴基斯坦-伊朗四国机制、上海合作组织等地区平台在政治解决阿富汗问题上所发挥的积极和建设性作用。,手机赌钱推荐,下载单机斗地主,mg直营网址。
责编:廖承志
审核:陈远功
责编:严运涛












