搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-25 04:38:47
来源:

猫眼电影

作者:

冯德伦

手机查看

  猫眼电影记者 王卫华 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:博天堂平台网址

  12月25日,低空物流再添重器 以“短距起降”优势开拓国际市场,(1)价格部分:DR001延续在1.26%附近,7天14天资金因为跨年上行,Shibor 3M下行,全周来看,DR001和R001分别较前一周周五下行1.5BP和下行0.7BP至1.2556%和1.3450%;DR007和R007分别上行8.2BP和上行1.2BP至1.5237%和1.5264%。,国际炸金花下载真人在线。

  12月25日,中医九种体质测试走红 成为年轻人的“社交名片”,截至目前,全国GDP三十强城市一季度经济数据已全部出炉,其中包括26座“万亿俱乐部”城市,以及唐山、徐州、大连、温州等4座“准万亿”城市。,tt336,天博平台app,188bet赌场网站。

 时事2:炸金花开牌规则

  12月25日,银发族跟团游“年龄门槛”怎么破?,中亚位于欧亚大陆的心脏地带,是连接东西方的战略通道,历来是大国竞逐之地。虽然由于历史和语言文化等方面的原因,俄罗斯在中亚的影响力最大,但中亚国家一直奉行多元平衡外交,追求独立自主。,新皇冠体育网,巴黎人注册网址app,澳门百乐门体育客户端。

  12月25日,“为开创人类发展更加美好的未来助力”——习近平总书记引领推动构建网络空间命运共同体,也有质疑的声音。西北经济不发达、财政也不宽裕,更大规模意味着更多投资,这些大手笔扩建是否超前?,赌博网,bsportsfan网球,天博国际官网地址。

 时事3:现金在线游戏

  12月25日,纪录片《大国基石》拓展“大国工程”创作格局和美学意趣,根据港交所公告显示,唐家成年薪为455万港元(约合人民币412万元)。,凯时官网买球,c966bet彩集团,葡京下载安装。

  12月25日,“十四五”期间北京地区开展考古发掘400余项,——持续深化教育合作,完善立法基础。推动双向留学扩大规模、提升质量,推进在俄中文教学和在华俄文教学,鼓励教育机构扩大交流、合作办学、开展高水平人才联合培养和科研联合攻关,支持高校间基础研究领域合作,支持同类大学联盟和中学联盟开展活动,深化职业和数字教育合作。,威尼斯人网页手机登陆,手机上彩票APP,银河国际在线注册。

 时事4:PG免费送2000试玩金

  12月25日,11月中国百城新房价格微升 二手房价继续走降,后来,张青莲又一次生病做手术,花了2万多块钱,新农合报销了几千元,申请大病医疗补助又遇到同样问题。汪绪金到村委会申诉,村里去镇工商所帮忙注销了相关个体工商信息,才申请到2800元。但申请低保,后来再无下文。“如果申请到低保,我妈妈的手术报销比例会更高。”汪文燕说。,天博体育tb登录,现金手机捕鱼游戏大厅,网络棋牌平台。

  12月25日,看机器人考官路上考验智能车,此外,还有网友称赵菊英并非视频中宣传的退休老师,而是“被辞退”。对此,嘉峪关市教育局工作人员回应极目新闻记者称,赵菊英于2023年从该市某小学退休,针对网友们反映的问题,教育局将介入调查。,凤凰彩票app官方,皇冠国际真人在线娱乐平台,深度揭秘AG平台。

责编:沈蕾

审核:王盛革

责编:王宇

相关推荐 换一换