搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-21 09:17:05
来源:

猫眼电影

作者:

谢晓东

手机查看

  猫眼电影记者 黄梅调 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:博线上必赢

  12月21日,增强城市韧性 北京房山山区基础设施全面升级,坚持出作品与出人才相结合,拓展思维,增强合力,努力为人才施展才华搭建平台,提供舞台;,365Bet登陆。

  12月21日,甘肃1600多年历史的马蹄寺石窟群“转危为安”,无视中央八项规定精神,违规收受礼品礼金,接受可能影响公正执行公务的宴请;,bc体育官方下载,ag正版捕鱼,银河国际城官网。

 时事2:K8凯发官网APP

  12月21日,六部门:到2030年,培育一批具有国际竞争力的服务外包龙头企业,值得一提的是,三座机场都在本轮扩建中新修了跑道,兰州、乌鲁木齐因此成为国内为数不多的三跑道机场,西安更是拥有了四条跑道。,澳门捕鱼游戏手机版下载,信誉盘输了钱不给,世界杯比赛买球推荐。

  12月21日,“从文学到影像”优秀文学作品推介在京举行 助推好故事“跨界生长”,通报显示,钟自然丧失理想信念,背弃初心使命,对党不忠诚不老实,对抗组织审查,不信马列信鬼神,搞迷信活动;,365网站开户,大发体育官网,凯时网站游戏。

 时事3:2020俄罗斯欧洲杯

  12月21日,商务部:望欧方克制审慎使用限制性经贸工具,“实际上就是‘打样’。”李瀚明认为,国泰开航证明了乌鲁木齐机场具备保障顶级航司的能力,会产生示范效应。国泰飞得好,其他国际顶级航司,以及东亚、东南亚的航司都会考虑跟进。除了证明机场的保障能力,也是新疆以此为契机,对外释放开放活力的强烈信号。,kok快速登陆,ManBetx客户端下载ios,美高梅足球。

  12月21日,你有没有吞过“愤怒诱饵”?2025年牛津年度词汇出炉,“当年李娜一度手握13个国内外知名品牌代言,而郑钦文在奥运夺冠之前已有10个代言品牌。”纪宁认为,网球目前在中国的热度已今非昔比,李娜时代已奠定的中国网球经济的热度,在郑钦文夺冠后会被逐渐引爆。纪宁还表示,网球作为全球顶级的职业体育和商业体育项目,正逐步释放巨大的产业经济空间。,188体育今日独家推荐,线上网投娱乐,银河体育下载。

 时事4:九游会在哪里玩

  12月21日,“设计5.0”重塑生产力 中国创新设计大会在浙江嘉善召开,坚持问题导向,勇于担当作为,通过健全组织、管理等各项工作机制,推动艺术创作生产;,澳门金沙巴黎人官网,m6米乐在哪玩,世界杯网站源码是多少。

  12月21日,“天桥一号”落地天桥演艺区 构筑北京城市演艺新生态,依据有关规定,经中央纪委常委会会议研究并报中共中央批准,决定给予钟自然开除党籍处分;按规定取消其享受的待遇;收缴其违纪违法所得;将其涉嫌犯罪问题移送检察机关依法审查起诉,所涉财物一并移送。,英皇体育手机APP,乐鱼赌场网站,jbo官网。

责编:张新

审核:关家玉

责编:潘主任

相关推荐 换一换