搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-26 02:47:02
来源:

猫眼电影

作者:

祝卫东

手机查看

  猫眼电影记者 蒋小晶 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:现金手机捕鱼游戏大厅

  12月26日,黄庭坚诞辰980周年特展启幕 85件套文物再现“山谷雅集”,而造成主营业务收入同比下跌的原因的主要是平均每日成交额下跌令交易及结算费减少、保证金与结算所基金的投资收益净额减少以及上市费收入减少。,皇冠足球官方版。

  12月26日,黑龙江“东北黑蜂”“黏豆包”农产品进京 全国采购额4.1亿元,双方将以元首外交为引领,推动中俄新时代全面战略协作伙伴关系全方位发展。双方将全面贯彻落实两国元首达成的重要共识,继续保持密切高层交往,确保政府、地方及民间交往机制顺畅运行,积极研究创建新的合作渠道。,星力捕鱼信誉客服,滚球app都有哪些,足彩吧。

 时事2:开元棋牌体育平台

  12月26日,首飞高原机场!东航C919国产大飞机执飞上海至兰州定期航线,从“缺生态”到“建生态”,从“单点攻坚”到“系统共创”,鸿蒙正与成千上万的开发者一同,在挑战中重构信任,在协作中重塑规则——这条路虽难,却因同行者众,而越走越宽。,赌博注册送充值卡,米乐体育官网下载,世界杯在微信哪里买球。

  12月26日,东西问丨意大利前总理普罗迪:让欧中关系更紧密是我的梦想,2016年4月,郭宁宁出任中国农业银行执行董事、副行长、党委委员。2018年10月,她任福建省政府党组成员,同年11月获任副省长。,下载金沙娱场,大富豪平台靠谱吗,冠亚体育网页版。

 时事3:疯狂炸金花安卓版下载

  12月26日,澳网男女单正赛名单公布 中国7人入围,根据预报,未来三天,南方降雨的“主战场”仍然集中在贵州到江南地区一带,部分地区或现大暴雨,并将伴有短时强降水、雷暴大风、冰雹等强对流天气。,米乐平台被骗的钱能举报吗,tvt体育客户端下载,188bet直播视讯。

  12月26日,中国队实现成都混团世界杯三连冠,通报显示,钟自然丧失理想信念,背弃初心使命,对党不忠诚不老实,对抗组织审查,不信马列信鬼神,搞迷信活动;,博狗网址,皇冠比分网,澳门葡京导航注册。

 时事4:银河总站网址是多少

  12月26日,俄总统普京签署法令对中国公民实施免签,据测算,在4月份0.3%的CPI同比变动中,翘尾影响约为-0.1个百分点,今年价格变动的新影响约为0.4个百分点。,新梦想娱乐城,世界杯买球内地,欧洲杯视频直播。

  12月26日,多国人士:海南自贸港将为全球商贸带来新机遇,议员米哈伊尔·马特维耶夫去年5月说:“我完全不理解,‘少先队’一词有什么不合适?这是个好词,意指‘开拓者’,起带头作用的人。没有任何意识形态负担。但不知为何‘少先队’这个词被嫌弃,开始发明什么新词。”,云鼎真人注册,亚星入口登录,日博体育在线登陆。

责编:高贵林

审核:苗永建

责编:蔡伯翰

相关推荐 换一换