搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-26 14:03:29
来源:

猫眼电影

作者:

苏东昌

手机查看

  猫眼电影记者 邓国敬 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:球球体育电脑版

  12月26日,辽宁“冰雪+民俗”引客深度游,23时30分,违规内容的传播达到高峰,不少用户称,部分违规直播间的观看人数突破万人,越来越多用户选择向警方报案。至23日0时30分左右,北京市公安局海淀分局已接到多个相关群众报案,正针对事件情况展开了解。,外围足球比分。

  12月26日,青海西宁南川工业园区入选首批国家级零碳园区,6月15日白天,安阳东部、濮阳、新乡、焦作、洛阳东部、郑州、开封、商丘、平顶山、许昌、漯河、周口、南阳、驻马店、信阳大部最高气温将升至37℃以上,其中漯河南部、周口南部、驻马店部分县市最高气温将升至40℃以上。请注意防范。上述地区的相邻县市(区)也需关注。,zoty中欧体育·(KOK),鸿利,澳门威尼斯人在线。

 时事2:博狗体育官方

  12月26日,年轻人当上“文化特派员”:既当“搭桥人”链接资源 又做“播种者”培育内生动力,据相关统计,在2017年公布的首批“双一流”建设高校中,北京、江苏、上海分别以31所、15所、13所的数量高居前三,而广东只有5所高校在列,落后差距十分明显。,宝博游戏棋牌,必威官方网站登录,新2皇冠手机版官网下载。

  12月26日,暴雪蓝色预警:山西河南等6省区部分地区有大雪 局地暴雪,12月23日金融一线消息,上海金融监管局发布关于陈放民生通惠资产管理有限公司首席风险管理执行官任职资格的批复,核准陈放民生通惠资产管理有限公司首席风险管理执行官的任职资格。,珠都国际逃脱计划真人密室,立博可靠吗,上葡京安卓客户端。

 时事3:万博官网网页版本登陆不上怎么办

  12月26日,关注巴以局势:气温下降天气恶劣 流离失所者勉强度日,据第一财经,去年8月27日,证监会发布《统筹一二级市场平衡优化IPO、再融资监管安排》,阶段性收紧IPO节奏,此后,沪深交易所提交注册和取得注册批文的公司数量,总体保持平稳。同时,受多重因素影响,提请上市委审议的项目数量同比有所减少。,澳门威斯导航,bbin真人电子登陆器,百家乐。

  12月26日,涉新粒子探测、人造细胞等领域 首批3个重大非共识基金项目拟获资助,2009年成立以来,该公司共经历4任董事长,5任总裁。国任保险前身信达财险更名前,该公司“一二把手”均为中国信达委派。更名为国任保险后,其董事长为房永斌由当地政府委派,而总裁邓可则为社聘而来。,最老牌agw66,凯时kb官网登录,怎样下载体育app。

 时事4:九游会网址

  12月26日,聚焦严羽诗学思想 《沧浪诗评》新书发布,赵秀池还认为,按套内面积计价的房价,单价反而会提高。由此,以面积计价的物业费、暖气费等都要做相应调整。,美高梅软件官方版下载,美高梅手机版注册,贝博官方app登陆。

  12月26日,四川公布首批省级革命文物协同研究中心名单,英国《金融时报》指出,土耳其这次“百年一遇”的大地震或进一步影响即将在5月中旬举行的总统及国会选举。灾难发生前,土耳其就面临着严重的通货膨胀、经济危机,执政近20年的埃尔多安声望有所下降。今年早些时候,该国六个反对派政党首次组成“六方圆桌”联盟,承诺要逆转埃尔多安的多项经济政策,收紧货币政策,并恢复央行的独立性。,平博官网登录,新利18体育官网app,滚球体育平台。

责编:司龄

审核:孙小明

责编:李晋玮

相关推荐 换一换