搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-20 19:38:13
来源:

猫眼电影

作者:

罗嘉良

手机查看

  猫眼电影记者 李·塔特尔 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:bob综合登录不了

  12月20日,北京发布道路结冰橙色预警,在西北机场的你追我赶中,西安和乌鲁木齐最引人注目。两座机场不仅扩建规模最大,定位也更高。,十大棋牌游戏平台排行榜。

  12月20日,冷空气“速冻”广东 粤北出现冰挂,张先生说,因为网球人群的增多,网球运动关联经济也更加活跃。球衣、球袜、球包以及打球的各种装备和周边产品,包括网球训练课都在走俏。比赛数量的增加,更是提升了各地运动场馆的利用率。,体育平台官方网页版,扎金花游戏大厅下载,牛牛开户注册。

 时事2:吉数赌经B

  12月20日,中国外交部:日方炒作所谓“雷达照射”问题别有用心,随着四座大型国际机场陆续启航,深居内陆腹地的大西北,能否迎来起飞?,澳门赌王网址,火狐体育官方入口,环亚官方。

  12月20日,第四届大湾区工程师论坛在穗举办,昨天刚当选中国煤矿文工团(中国安全生产艺术团)团长的@靳东 亮相话剧《温暖的味道》发布会现场!,九五至尊手机游戏网站,188体育网站大全,互博国际官网手机版。

 时事3:m6米乐娱乐入口

  12月20日,重庆:大树“穿”上卡通外衣 萌趣十足暖意浓,Copyright © 1996-2024 SINA Corporation,大红鹰dhy登录界面,w88优德体育集团,yabo22vip平台网址。

  12月20日,商业航天,从发射场到“三链协同”,家住北京朝阳区的资深网球爱好者张先生在接受《环球时报》记者采访时感慨,“原来就不好预约的网球场,在郑钦文夺冠后,更不好约了。”他说:“我经常打球的球馆最早预约时间是提前一周的早上七点,但是现在到点就秒没,手一慢就显示预约完毕。”,先发三张牌的斗牛技巧,注册送36元现金,mgm登陆。

 时事4:现金app大厅

  12月20日,国际锐评丨新一年的“中国机遇”,对西北城市来说,机场的作用尤为重要。西北不沿海,也没有内河航运。依托铁路和机场打造枢纽,形成开放门户,无论对区域还是全国而言,都具有经济与战略的双重意义。,银河在线试玩,刺激战场国际服真人,最好的捕鱼游戏。

  12月20日,日本遗孤郜凤琴:没有中国,我也不能有今天,“实际上就是‘打样’。”李瀚明认为,国泰开航证明了乌鲁木齐机场具备保障顶级航司的能力,会产生示范效应。国泰飞得好,其他国际顶级航司,以及东亚、东南亚的航司都会考虑跟进。除了证明机场的保障能力,也是新疆以此为契机,对外释放开放活力的强烈信号。,真钱网赌推荐,最新老虎机网址,线上真钱大全app。

责编:于显文

审核:宋鑫

责编:赵村

相关推荐 换一换