猫眼电影
猫眼电影记者 张棻 报道首次登录送91元红包
IT之家 12 月 23 日消息,尽管 OpenAI 正致力于强化其 Atlas 人工智能浏览器的网络攻击防御能力,但该公司承认,提示词注入攻击 —— 一种通过操纵人工智能智能体、使其执行隐藏在网页或电子邮件中的恶意指令的攻击手段 —— 带来的风险短期内无法消除。这也引发了人们对人工智能智能体在开放网络环境下能否安全运行的质疑。
OpenAI 在当地时间周一发布的一篇博客文章中详细阐述了该公司为增强 Atlas 的防御能力、抵御持续攻击所采取的措施,并写道:“提示词注入攻击就像网络上的诈骗和社会工程学攻击一样,几乎不可能被完全‘攻克’。”该公司坦承,ChatGPT Atlas 的“智能体模式”“扩大了安全威胁面”。
据IT之家了解,OpenAI 于今年 10 月推出了 ChatGPT Atlas 浏览器,随后安全研究人员迅速发布了相关演示,证明只需在谷歌文档中输入寥寥数语,就能改变底层浏览器的行为。就在同一天,浏览器厂商 Brave 也发布博客指出,间接提示词注入攻击是所有人工智能驱动型浏览器面临的系统性挑战,Perplexity 公司的 Comet 浏览器也未能幸免。
意识到提示词注入攻击威胁将长期存在的并非只有 OpenAI 一家。英国国家网络安全中心本月早些时候发出警告,称针对生成式人工智能应用的提示词注入攻击“或许永远无法被完全缓解”,这使得各类网站都面临数据泄露的风险。这家英国政府机构建议网络安全从业者,应着力降低提示词注入攻击的风险及影响,而非寄希望于将这类攻击“彻底阻止”。
就 OpenAI 而言,该公司表示:“我们将提示词注入视为一项长期的人工智能安全挑战,未来需要持续强化防御措施。”
那么,面对这项永无止境的任务,OpenAI 给出了怎样的解决方案?答案是建立一套主动式快速响应机制。该公司称,这套机制已初显成效,能够在新型攻击手段被用于“实战攻击”前,提前在内部发现这些攻击策略。
这一思路其实与 Anthropic、谷歌等竞争对手的主张并无本质区别:要应对提示词注入攻击的持续威胁,必须构建多层防御体系,并持续开展压力测试。例如,谷歌近期的研究重点就聚焦于智能体系统的架构层面与策略层面管控。
不过,OpenAI 采取了一种与众不同的策略 —— 开发“基于大语言模型的自动化攻击程序”。本质上,这是一款由 OpenAI 借助强化学习技术训练而成的机器人,其作用是模拟黑客行为,寻找向人工智能智能体植入恶意指令的途径。
这款机器人可以先在模拟环境中测试攻击手段,再投入实际应用。模拟环境能够还原目标人工智能在遭遇攻击时的思维过程与可能采取的行动。随后,机器人可分析目标的反应,调整攻击方式,并反复进行测试。这种能够洞悉目标人工智能内部推理逻辑的优势,是外部攻击者所不具备的。因此从理论上讲,OpenAI 的这款机器人发现系统漏洞的速度,要快于现实中的黑客。
这是人工智能安全测试领域的一种常用方法:打造一个智能体,让它找出系统的极端漏洞场景,并在模拟环境中开展快速测试。
OpenAI 在博客中写道:“我们通过强化学习训练的攻击程序,能够诱导目标智能体执行复杂且需要多步骤推进的有害任务流程,这些流程的操作步骤可达数十步甚至数百步。此外,我们还发现了一些全新的攻击策略,这些策略既未出现在我们的人工红队测试中,也没有相关外部报告提及。”
在一份演示案例中(上图为部分截图),OpenAI 展示了其自动化攻击程序如何将一封恶意电子邮件植入用户收件箱。当人工智能智能体后续扫描收件箱时,它执行了邮件中隐藏的恶意指令,发送了一封辞职信,而非按要求撰写休假自动回复邮件。不过 OpenAI 称,在完成安全更新后,“智能体模式”已能成功检测到提示词注入攻击的企图,并向用户发出告警。
该公司表示,尽管要实现对提示词注入攻击的万无一失防御难度极大,但仍在依靠大规模测试与更快速的补丁更新周期,力争在相关攻击手段出现在现实世界之前,完成系统防御加固。
针对 Atlas 的安全更新是否已显著降低攻击成功率这一问题,OpenAI 发言人拒绝透露具体数据,但表示该公司早在 Atlas 浏览器发布前,就已与第三方机构合作,共同强化其针对提示词注入攻击的防御能力。
网络安全公司 Wiz 的首席安全研究员拉米・麦卡锡指出,强化学习技术确实能实现对攻击者行为的持续自适应防御,但这只是解决方案的一部分。
麦卡锡在接受科技媒体 TechCrunch 采访时表示:“衡量人工智能系统风险的一个有效方法,是计算其自主性与访问权限的乘积。”
他进一步解释道:“智能体浏览器恰恰处于这一风险模型中的高挑战区域:它们拥有中等程度的自主性,同时又具备极高的系统访问权限。当前许多安全建议,其实都反映了这种利弊权衡。比如限制登录状态下的访问权限,主要是为了减少暴露面;而要求对各类确认请求进行人工审核,则是为了约束智能体的自主操作权限。”
这两点也被列入 OpenAI 向用户提供的风险降低建议中。该公司发言人还表示,Atlas 浏览器经过训练,在发送邮件或执行支付操作前,都会向用户发起确认请求。OpenAI 同时建议用户,应向智能体下达具体明确的指令,而非直接授予其收件箱访问权限,简单告知其“自行采取必要措施”。
OpenAI 指出:“即便已部署安全防护措施,过高的自主操作权限也会让隐藏的恶意内容更容易对智能体产生影响。”
尽管 OpenAI 声称,保护 Atlas 用户免受提示词注入攻击是公司的首要任务,但麦卡锡仍对这类高风险浏览器的投入产出比持怀疑态度。
他在接受 TechCrunch 采访时表示:“对于大多数日常使用场景而言,智能体浏览器目前带来的价值,尚不足以匹配其当前的风险水平。由于它们能够访问电子邮件、支付信息等敏感数据,因此风险系数极高 —— 但与此同时,也正是这种高访问权限赋予了它们强大的功能。这种利弊平衡状态未来或将逐步改善,但就目前而言,其中的取舍权衡依然十分显著。”
时事1:刻成真人的国际象棋
12月25日,西藏首家蜂产品原料养殖场获出口“护照”,另一个值得关注的财务风险点是规模庞大的应收账款。截至2025年第三季度,公司应收账款余额已达到97.90亿元的历史高位。,真钱赌城app平台。
12月25日,500余名选手角逐大湾区青少年跳绳王者 赛事三超世界纪录,其三,根据国际货币基金组织(IMF)等的界定,官方储备资产主要包含外汇储备、黄金储备(特指货币黄金)、特别提款权(SDRs)和在基金组织的储备头寸。黄金ETF作为一种证券化投资产品,不在此列。,澳博体育平台,ag真人是假的吗,2026年世界杯买球app。
时事2:188bet金博宝手机版
12月25日,海南商业航天发射场“十连捷” 新工位明年投用,虽然繁琐辛苦,但在政府补贴和“多囤点地”的激励下,村民们的造林积极性很高。到2000年,柴达木嘎查2万多亩的造林工程分批次顺利完成,树木存活率普遍在85%以上。整个通辽也在这时候完成了生态的逆转。2003年,中科院沙漠化土地空间分布遥感监测显示,“三北防护林”工程实施以来,科尔沁沙地在通辽市范围内的沙漠化面积已减少了1200万亩,在全国四大沙地中,科尔沁沙地唯一出现了治理大于沙化的总体良性逆转。,威尼期人线路检测,必赢棋牌游戏,澳门太阳神集团网址APP。
12月25日,中国人民抗日战争纪念馆举行南京大屠杀死难者国家公祭日悼念活动,这意味着我们引以为傲的移动互联网大厦,始终建立在他人夯实的根基之上,让中国科技产业始终悬停在“空中楼阁”的隐忧之中。正是在这样的背景下,鸿蒙系统在安卓与iOS的夹缝中破土而生,让我们在无路可退中看到阔步前行的希望。,酷游ku111,AG九游会app下载,手机娱乐注册。
时事3:大发888官网
12月25日,中国2025式人民警察制式服装正式列装,摩根大通预计,2026年黄金ETF的净新增持仓量约为250吨,金条与金币的年需求将再次超过1200吨。截至2025年9月底,投资者通过ETF、实物黄金及COMEX期货持有的黄金,已占全球股票、债券(不含央行储备)及另类资产管理规模(AUM)的约2.8%。摩根大通分析师认为,未来几年这一占比有望提升至4%–5%。,世界杯竞猜投注站,新宝6下载官方网站,美高梅游戏中心官网充值。
12月25日,高效通关推动吉林延边外贸多点增长,近日,市场流传出一张疑似为华福证券首席分析师王保庆观点的截图,其中提出了名为“2026年有色十大狂想”的判断。截图内容显示,其对未来一轮有色金属周期给出了极为激进的设想,包括:,威廉客户端app下载安装,杏彩登录地址,重庆分分彩网站。
时事4:金沙澳门官方网下载
12月25日,【理响中国】中国经济长期向好的确定性确定无疑,证券日报网讯 12月23日,锡装股份在互动平台回答投资者提问时表示,截至2025年12月19日收盘后,公司股份持有人数为9569户。,国际上的真人游戏机,线上拉斯维加斯,澳门贵宾厅app网址。
12月25日,寒潮强势来袭!多地将现入冬以来最强雨雪……出行安全攻略来了,汪文斌对此表示,我们对美方发表的有关声明表示坚决反对。世界上只有一个中国,台湾是中国领土不可分割的一部分,台湾地区参与国际组织,包括世卫组织活动,必须按照一个中国原则来处理,这也是联合国大会第2758号决议和世界卫生大会25.1号决议确认的重要原则。,pp体育官网投票,有没有正规的斗牛平台,09电竞。
责编:孔智勇
审核:林艳周
责编:佩特科维奇












