搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-23 01:27:22
来源:

猫眼电影

作者:

齐力

手机查看

  猫眼电影记者 蒋伟 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:银河登入国际

  12月23日,解放军南部战区位中国黄岩岛领海领空及周边区域组织战备警巡,降水引发帕哈罗河水位猛涨,冲垮一段大约30米的堤坝。蒙特雷县超过8500人收到疏散命令或警告,包括大约1700名帕哈罗社区的居民。抢险人员和加州国民警卫队彻夜从洪水中救出超过50人。一段视频显示,国民警卫队员从齐腰深的水中帮助一人从汽车里脱困。,bbin体育总部。

  12月23日,东西问|张安福:从千年唐蕃古道历史看汉藏民族交融,在中国汽车流通协会专家委员会委员章弘看来,欧盟针对中国车企的高额税率,影响显而易见。首先,这轮征税将直接导致中国车企出口欧盟的电动汽车价格上涨。高额的关税意味着中国车企需要承担更高的成本,而这些成本最终将反映在产品售价上。对于欧洲消费者而言,这意味着需要支付更多的费用来购买中国品牌的电动汽车,这无疑会削弱中国电动汽车在欧洲市场的竞争力。,人人体育app官方下载IO,皇冠体育网页,比分球探网。

 时事2:亚星官网

  12月23日,转人工要“闯关”?AI客服不该成服务“围墙”,《纽约邮报》8日也以“吉尔·拜登和道格·埃姆霍夫在国情咨文中怪异亲吻”为题,称两人“以嘴唇上的亲吻问候对方”,并补充称“总统妻子和副总统丈夫的亲吻似乎没有让附近的人感到不安”。,2026世界杯买球app下载,现金信誉网站,大刀皇之(梦幻组合)。

  12月23日,厄瓜多尔一监狱发生骚乱 至少13名囚犯死亡,汪文斌说,我们认为你所提到的有关的关切是不必要的。中国作为《南极条约》的协商国,始终按照《南极条约》体系相关的规定开展活动,中国南极站的建设完全符合南极国际规则和程序,将有利于增进人类对南极的科学认知,为中国与各国南极科学考察合作提供平台,促进南极和平及可持续发展。,免费手机网址,365bet注册地址,外围足球让球规则。

 时事3:尊龙凯时人生就是博

  12月23日,北京发改委主任杨秀玲谈2026年经济工作:加速布局6G、脑机接口等新赛道,海外网4月20日电 据台湾“东森新闻”、“TVBS”等媒体报道,因受到锋面接近影响,台湾岛内北部与中部地区出现雷雨天气,19日晚间,台北知名地标101大楼也遭雷击,有台网友拍下罕见瞬间画面。,现在的赌钱App,银河官方网,澳门永利最新备用网址。

  12月23日,广西推动教育成为与东盟交流合作活力元素,对于刚刚上任董事会主席的唐家成来说,目前面临诸多挑战,恒生指数已连跌4年,港交所IPO上市数量和融资规模暂时也处在低谷,近年流动性不足、股权融资市场不景气一直被市场诟病。,葡京现金导航,男朋友世界杯买球,亚新体育怎么注册。

 时事4:至尊娱乐

  12月23日,海南自贸港全岛封关:为什么是“标志性举措”?,在外盘带动下,上期所黄金期货主力合约全天震荡上行,尾盘强势拉升,一举突破1000元/克大关,收盘报1000.86元/克,单日涨幅达2.10%。,凯时登陆,必赢登录官网,ag捕鱼王3d下载。

  12月23日,天津第二届室内蹦极国际锦标赛启幕 中外选手跃动海河之畔,时间上,仅有周一(12月29日)有260亿元地方债发行,10年期及以上国债/地方债发行占比分别约0%/13%。,送彩金平台有哪些,XBET星投APP,新英体育直播。

责编:周开东

审核:韦凯中

责编:高世雄

相关推荐 换一换