搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-25 00:20:53
来源:

猫眼电影

作者:

谭魏请

手机查看

  猫眼电影记者 刘咏康 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:世界杯足球购买

  12月25日,法国卫生部长称全法流感活动水平接近高峰,具体大城市来看,贵阳、广州高考期间遇到雨的概率甚至超过了6成。此外,海口、南宁、重庆、昆明、成都、福州、哈尔滨等地高考期间的降雨概率也超过了一半。,必发集团888永久网址。

  12月25日,香港队的滚球比赛:不平凡的特奥之旅,今年一季度,佛山进出口总额1273.29亿元,同比下降33.1%,增速在外贸20强城市中垫底,外贸规模也由去年同期全国第10位下降至第17位。,大地网投DD免费下载,买球官方网站,澳门一号游戏官网。

 时事2:真钱澳门电玩城

  12月25日,川航成都直飞奥克兰航线正式复航,新京报讯 据国家空间天气监测预警中心消息,国家空间天气监测预警中心5月11日9时发布地磁暴红色预警:北京时间2024年5月10日23时起发生地磁暴,最大级别达到超大地磁暴(Kp=9)水平,预计未来24小时,磁暴过程仍将持续,后续仍可能发生大地磁暴。,手机在线网投,4o888网止,云顶娱乐网站。

  12月25日,国家电网今年建成投运4条特高压直流工程,一德期货在梳理澳洲、南美盐湖等2026年新增项目后,预估2026年全球范围内供应增量在33万吨上下,需要端虽然动力电池的需求增速可能有所放缓,但是受到国内电力市场化带来的储能端需求增长,2026年需求增量可能达到38万吨。,开yun体育app官网入口bob,AG平台首页,ag捕鱼王在哪里下载。

 时事3:六合未来报

  12月25日,第九届中央文献翻译与研究论坛在天津外国语大学开幕,从国际对比角度看,中国并没有创造过多的金融资产。中国与发达国家的区别在于金融资产中的权益类资产少,债权类资产多。中国的家庭部门并没有持有过多的金融资产。,免费送彩金彩票网,欧冠篮赛程,英皇娱乐快速开户。

  12月25日,香港特区政府介绍火灾搜救安置等最新进展,张先生认为,网球明星的出现与整个网球运动以及网球经济的发展是相互促进的,并形成正向反馈。他说,明星越多,示范效应就越强,就会更加刺激网球运动的发展,网球经济热度也会越高。而打网球的人多了,就会涌现出更多的网球明星。,尊龙游戏登录,仲博平台注册官网,信誉买球平台。

 时事4:网上购彩彩票

  12月25日,大比分获胜!王楚钦谈“莎头组合”:比以前合拍很多,《星岛》从现场了解到,钠电池具有宽温域、高倍率、长寿命、高安全性等优势。亿纬锂能目前已经研发出了“无痕”“不燃烧”的钠电产品:“无痕”体现在钠资源开采难度低、碳排放少、免回收可自然降解等环保属性;“不燃烧”则指钠电池零热失控、不助燃、不燃烧,安全性能大幅提升。,正版679棋牌入口,环球app下载,qy300千亿棋牌。

  12月25日,元旦假期武汉120余项活动掀文旅热潮,20日,外交部发言人汪文斌主持例行记者会。有记者提问称,华盛顿智库战略与国际问题研究中心发布的一份报告显示,中国重新使用一个自2018年以来停用的科研站,此举引起澳大利亚和其他西方国家对中国可能用于监视的担忧。中方对此有何回应?,天博体育TBXN,金币免费炸金花,威尼斯人最新网址。

责编:杨一民

审核:沃金

责编:张雨绮

相关推荐 换一换