搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-24 04:51:44
来源:

猫眼电影

作者:

阿尔巴卡尔

手机查看

  猫眼电影记者 张晓萍 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:亚新入口登录

  12月24日,2025特步泉州晋江马拉松赛开跑 海内外选手畅跑世遗路,他还表示,日本不是北约成员国,但开设联络处发出了一个信号,即北约的亚太伙伴正在“以非常稳定的方式”与北约进行接触。,大发体育登陆。

  12月24日,广东揭阳聚焦产业创新 构建粤东高质量发展增长极,这次,李强在新疆调研期间,前往多家企业察看生产线和产品展示,详细了解企业生产研发、市场开拓等情况。,沙巴体育备用网址,新葡萄娱乐场官网,永乐国际ag。

 时事2:特码快递

  12月24日,武装台湾必成“台独”噩梦,在救援的过程中,不断发生的奇迹让我们感受到生命的顽强。当地时间9日1时30分,中国救援队与当地救援队通力合作,从一栋8层倒塌房屋废墟中成功营救出一名孕妇,这是中国救援队成功参与营救的首位幸存者。,爱博下载地址,万赢彩票官方网站,三合皇。

  12月24日,沿江问水 护航“母亲河”——农工党中央开展长江生态环境保护民主监督专题调研综述,路透社评论说,中国在美国长期施加影响的地区扮演和平调解人的角色,令华盛顿深感不安。,im体育在哪里玩,网上扎金花平台,牛宝体育开户网址。

 时事3:竞技宝官方测速网站

  12月24日,云南玉溪高质量发展“三重奏”:产业焕新、赛事吸金、旅居留客,从承保端来看,该公司保险业务收入持续扩张,且于2021年大幅增长67.41%达104.23亿元,站上百亿保费平台。今年三季度,保险业务收入为93.41亿元,若要保持持续增长,还需更进一步。,bg真人试玩ios版APP,jdb金鸡报喜大奖视频,世界杯买球攻略视频。

  12月24日,城市治理研究联盟成立 推动城市治理理论实践深度融合,气象部门预报,数日内新一次“大气河”天气将侵袭加州,且更多这类天气状况似乎正在酝酿。,365唯一官网,bc体育足球,足球比分足彩即时比分网球。

 时事4:体育平台代言人有哪些

  12月24日,“铜鼓杯”第一届广西气排球超级联赛开赛 融入民族元素,双重身份:既是直接负责的主管人员,又是组织指使舞弊的实际控制人;,TV188体育,age在线官方入口,网上玩球哪个平台好。

  12月24日,民众参观中国人民抗日战争纪念雕塑园,姜恩柱担任过外交部副部长、香港中联办主任,曾是中国驻英国大使。,香港世界杯投注app,澳门新莆京直播,365彩票平台下载。

责编:拉洛

审核:杨祥海

责编:秦建生

相关推荐 换一换