搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-23 11:57:52
来源:

猫眼电影

作者:

郭玉叶

手机查看

  猫眼电影记者 何予平 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:万博ManBetX首页

  12月23日,国防部:坚决阻击日本军国主义幽灵复活,“岛屿涉及海洋权益,不管日本是怎么测出了这么多岛屿,但既然宣布拥有这么多岛屿,很可能今后日本与周边国家的领土纷争会更多。”北京大学海洋战略研究中心主任胡波3日在接受《环球时报》记者采访时指出,日本声称一下子多出7000多个“岛屿”,“这很难从技术方面去合理解释”。,365bet预测。

  12月23日,从追标准到定标准 “中国蔬菜出口第一县”做对了什么?,刚刚,2024年WTT沙特大满贯赛女单半决赛,中国选手孙颖莎4比1战胜队友王艺迪,晋级决赛。,伟德体育客户端,m6米乐手机版官方登录网站,买世界杯哪个网站好。

 时事2:永利真人注册

  12月23日,元旦假期火车票今起发售 哈铁增开多趟列车保障假期运力,真的会有吗?谁也没有答案。中国足球始终处在寻找奇迹的道路上,但奇迹一次次离我们远去……,2022世界杯,体育投注官网,优博官网。

  12月23日,内蒙古体育职业学院原党委副书记、院长王浩林被开除党籍,双方注意到,当前,地区和全球性冲突不断,国际安全环境不稳定,包括核武器国家在内的国家间对抗加剧导致战略风险不断加大。双方对国际安全形势表示关切。,牛宝体育网站是什么,果博官网APP,mg官方网站。

 时事3:AG真人接口

  12月23日,华南农业大学举办紫荆国际青年学者论坛,新疆机场集团总经理吕辉斌表示,国泰航空开通乌鲁木齐至香港航线,标志着乌鲁木齐天山国际机场的航线网络又一次升级,满足了新疆及周边地区旅客日益增长的出行需求,不仅提升了乌鲁木齐机场的国际化水平,也将进一步增强新疆的区位优势和影响力,共同助力打造乌鲁木齐成为连接亚欧区域门户复合型国际航空枢纽目标。,2019英皇国际官方版,dafa登路,国际对战平台。

  12月23日,杭州萧山机场海关查获黑犀碎块和粉末,总重461.52克,据彭博社报道,布林肯在华盛顿对记者说,“随着事态逐步发展,需求在变化,我们提供给乌克兰的(武器)也在变化。最近发生的(变化)是,(美国)决定提供‘艾布拉姆斯’坦克,当然德国也要提供‘豹’式坦克,其他欧洲国家也在做同样的事”。,澳博网投,凯时app登录首页,美高梅体育下载App。

 时事4:捕鱼游戏网络平台

  12月23日,福建发改委主任孟芊谈2026年经济工作:福建数字化赋能智能化改造走在前列,此前于5月6日,深圳市商务局已宣布,启动汽车“报废更新”及“置换更新”补贴活动,支持汽车以旧换新,促进消费升级换代。其中,报废更新补贴最高可达到1万元,置换更新补贴最高为8000元。,真人棋牌国际,万博h平台,必威进不去了。

  12月23日,市场首单工业厂房机构间REITs项目落地 助力机构间REITs市场发展,商务部新闻发言人表示,从市场经济原理看。供给和需求是市场经济内在关系的两个基本方面。在经济全球化的现实背景下,供需问题要从全球看,不能只看一国。当今世界经济早已你中有我、我中有你,成为不可分割的一个整体,生产和消费都是全球性的,需要在全球视野下进行供需匹配和调节。不能因为一国的产能超过本国需求,就贴上“过剩”标签。,英皇娱乐手机版,AG亚洲国际影视,世界杯买球平台哪个好。

责编:夏丹荔

审核:顾雪

责编:关宪

相关推荐 换一换