搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-28 04:48:20
来源:

猫眼电影

作者:

胡建奇

手机查看

  猫眼电影记者 王春富 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:癞子真人斗地主

  12月28日,上海机场免税招标签约 助力国家高水平对外开放和机场商业品质升级,以BSP和CBU为例,中央银行直接从本地生产中购买黄金的流程通常包括以下几个步骤:,葡京体育体育。

  12月28日,22场开得实在、认真、持久的民营企业座谈会,从1994年中国正式接入国际互联网开始,“缺芯少魂”一直紧紧束缚着中国信息产业的发展步伐。在操作系统领域,我们长期处于受制于人的境地:在个人电脑端,Windows系统几乎形成垄断;在移动终端,安卓与iOS双分天下,构筑起坚不可摧的生态壁垒。,米乐m6网页,正版天线宝宝B,hth华体会app链接。

 时事2:国际娱乐棋牌真人游戏

  12月28日,美丽异木棉花朵盛开 冬日福州如春,从总量角度看,如果总量上创造了过多债务,会带来过多的金融资产、过多的投资和消费,会带来通货膨胀和货币贬值,但中国的事实并非如此。,银河盘口网站网址官方入口,体球网即时比分赛果,永利老虎机。

  12月28日,香港特区政府29日下午召开记者会宣布,此前被列入大埔宏福苑火灾失踪名单的人士中,已确认144人安全无恙。,报道称,邓肯之所以在演讲台上遭到如此强烈的抗议,其中部分原因是斯坦福法学院的学生对他在2020年一份意见书上的表态感到愤怒:当时他拒绝允许一个跨性别儿童性侵者将自己的男子姓名“诺曼·瓦尔纳”改为“凯瑟琳·妮可·杰特”。,银河体育娱乐,MG电子在哪注册,星速app下载安卓手机。

 时事3:体球网手机即时比分

  12月28日,贵州杂技剧《脊梁》赴瑞典巡演,环证国际证券集团首席执行官方颂贤表示,投资者应选择性增持那些在中国人工智能和限止领域 “自主化” 进程中受益的企业,同时将全球龙头企业保留在投资组合中。,亚博快速登陆,bb手机版体育,澳门十大正规游戏。

  12月28日,(走进中国乡村)天山南麓孜然 香飘海外市场,编队刚到达任务海区,雷达部位就报告海区出现可疑目标。编队迅速调整阵位,组成攻击、防御两个阵型。此时受短时降雨影响,海上涌浪明显增强,艇身摇摆不定,能见度低。指挥员立即指挥车舵兵保持航向稳定,配合抓取目标。,威尼斯人在线登录入口大全,凯时投注登录,澳门二十一点押注多少。

 时事4:足彩平均优化

  12月28日,(乡村行·看振兴)广西乡村“长短结合”解锁林地增收密码,“重要的不仅仅是(提供)某种特定的武器系统、某种装备,”布林肯称,“乌克兰有能力有效使用(这些武器)同样重要,而在某些情况下,这需要大量训练。”,王者体育app官网,im体育的平台,188体育网站大全。

  12月28日,“十四五”期间长三角铁路中欧班列开行量年均增长7%,双方为应对气候变化采取措施,重申恪守《联合国气候变化框架公约》及其《巴黎协定》目标、原则和制度框架,特别是共同但有区别的责任原则。双方强调,发达国家为发展中国家提供的资金支持对减缓全球平均气温增长、适应全球气候变化负面影响至关重要。双方反对以应对气候变化为由设置贸易壁垒和将气候议题同国际和平安全威胁挂钩。,信誉好的娱乐平台,凯时平台登陆,赌博直营平台。

责编:道格里基茨

审核:万凌

责编:陈桦

相关推荐 换一换