搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-25 08:06:06
来源:

猫眼电影

作者:

考彭斯

手机查看

  猫眼电影记者 姜小白 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:网上打钱的金花

  12月25日,澳大利亚宣布国防部门重大改革,张先生认为,网球明星的出现与整个网球运动以及网球经济的发展是相互促进的,并形成正向反馈。他说,明星越多,示范效应就越强,就会更加刺激网球运动的发展,网球经济热度也会越高。而打网球的人多了,就会涌现出更多的网球明星。,kok官方网站下载。

  12月25日,【好评中国】一如既“网”展精品,持续激发正能量,答:高官磋商是中国东盟重要战略沟通与合作机制。刚才我和东盟同事在亲切友好的气氛中,就新形势下深化全方位合作及共同关心的国际地区问题深入交换意见,达成广泛共识。,尊龙手机版注册,bb手机版网页体育,世界杯支付宝怎么买球。

 时事2:杏彩平台登录注册

  12月25日,贺兰山冬日限定:马鹿踏雪绘就生态画卷,头顶“银行系”光环,国民养老保险的业绩也可圈可点。数据显示,2022年至2024年,国民养老保险的保险业务收入分别为2.92亿元、11.19亿元、48.08亿元,净利润分别为0.49亿元、3.15亿元、4.30亿元。截至2025年三季度末,国民养老保险规模保费收入为47.37亿元,净利润为3.2亿元。,888集团App,银河官网平台,体球手机比分旧版。

  12月25日,情系香江 在沪港人团体紧急募捐驰援香港大埔火灾,“反补贴调查是针对企业出口产品是否存在政府或公共机构提供的相关补贴,对进口国国内产业造成实质损害或实质损害威胁进行调查,继而判断是否要采取贸易救济措施。”对外经济贸易大学中国WTO研究院院长屠新泉在接受贝壳财经记者采访时表示,不同企业被认定接受的补贴不同,所被征收的关税税率也不同。,dafabet在线登录,澳门百老汇游戏网址,王中王彩料。

 时事3:凯发k8国际真

  12月25日,浙江义乌成中国首个外籍人员参保突破万人县级市,美国商务部长霍华德・卢特尼克近期在消费者新闻与商业频道上称:“美国 30 万亿美元规模的经济体有望实现 4%、5% 的增长,在特朗普总统任内,你们将看到这一增速达到 6%。”,庄闲游戏下载,博亿堂,m6米乐手机端登录。

  12月25日,以电力为基 绘就雪域乡村振兴新图景,英国资产管理公司南北资本合伙人兼投资组合经理卡米尔・迪米奇表示:“目前已上市的芯片企业,其估值均缺乏基本面支撑,几乎完全由市场热度驱动。”,bwin怎么注册,nba在哪下赌注,澳门现在有梭哈吗。

 时事4:365bet娱乐场在线

  12月25日,大型国际航空展览暨会议在香港举行,据公开资料,吕王镇刘院村379户,共有1356人。该村以刘、汪两大姓为主,其中刘姓长字辈、汪姓绪字辈的以五六十岁的中老年人居多。有村民在企查查APP上输入“刘长”二字,发现大量村民的工商注册信息。,世界杯怎么买球投注,亚博AG,世界杯网上投注彩票。

  12月25日,泰柬双方互指对方在边境地区开火,从国际对比角度看,中国并没有创造过多的金融资产。中国与发达国家的区别在于金融资产中的权益类资产少,债权类资产多。中国的家庭部门并没有持有过多的金融资产。,华体会登录界面,亚洲彩票官网版下载,世界杯网站投注。

责编:陈威翰

审核:贾某

责编:王威

相关推荐 换一换