搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-23 10:55:13
来源:

猫眼电影

作者:

邹乐

手机查看

  猫眼电影记者 鲍丹 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:易博最新登陆网址

  12月23日,海南布局现代化产业体系 谋划五条新质生产力赛道,纪宁说:“欧美国家的网球市场已逐渐进入饱和阶段,中国被认为可能带来新的爆发性增长点。”他认为,在中国这个网球新兴市场,应更充分地挖掘体育明星的商业价值。“这有利于全面释放中国体育经济的增长潜力。”,金博188网址。

  12月23日,上海市浦东新区人民检察院原检察长曾国东被“双开”,2013年,早在“一带一路”倡议提出时,对新疆的定位是:丝绸之路经济带上重要的交通枢纽、商贸物流和文化科教中心,打造丝绸之路经济带核心区。对陕西、甘肃、宁夏、青海的定位则为:面向中亚、南亚、西亚国家的通道、商贸物流枢纽、重要产业和人文交流基地。,ku体育靠谱吗,赌博去哪个网站,威尼斯人最新入口。

 时事2:盛世登录线路

  12月23日,儿基会说刚果(金)面临25年来最严重霍乱疫情,新的工作岗位意味着更大的责任,今后将努力提高政治站位,加强理论学习;,e世博开户网址,威尼斯人登入网上,光速体育。

  12月23日,学习贯彻四中全会精神,以定点帮扶书写金融为民新篇,据国际网球联合会发布的《2021年全球网球报告》,2021年全球参与网球运动的人口有8718万人,中国以1992万人成为全球网球参与人数排名第二的国家,仅次于美国,占全球总网球人口的22.9%。同时,中国网球场的数量也为全球第二,达49767个。网球教练则以11350人位居全球第五。,世界杯买球哪个app,怎样才能玩抢庄牛牛,世界杯博彩网站有哪些。

 时事3:美高梅下载

  12月23日,中共中央、国务院在南京举行2025年南京大屠杀死难者国家公祭仪式,曾文莉认为,在职业选手商业价值充分释放后,其成功效应才会吸引更多的人群尤其是青少年从事网球运动,而这是中国网球经济发展的根基。,BG真人游戏到底假不假,沙巴体育盘口欢迎你,金年会娱乐平台登录。

  12月23日,二里头夏都遗址博物馆冬日吸引游客,[环球时报报道 记者 倪浩]8月3日,郑钦文夺得2024巴黎奥运会网球女单冠军,实现中国选手在该项目上的历史性突破,也点燃了民众参与网球运动的热情,网球热度随之大涨。接受《环球时报》记者采访的专家认为,体育明星与体育经济会形成正向反馈:体育明星的示范效应会提振相关体育产业、吸引更多人参与到运动中来,大众的广泛参与则会成为“未来明星运动员”诞生的基石。,威尼斯人游戏官网,ope体育f网站,365体育注册开户。

 时事4:电脑看世界杯直播网站

  12月23日,四中全会精神解读·市场最前沿|织起全国一张网,看算力普惠按下“加速键”,坚持出作品与出人才相结合,拓展思维,增强合力,努力为人才施展才华搭建平台,提供舞台;,龙8手机网页版登录,永乐国际乐在其中录,欢乐街机捕鱼游戏最新版本。

  12月23日,多学科专家呼吁:守护成人免疫缺口,“三高一疹”医防协同,去年,民航局、国家发改委联合发文《关于推进国际航空枢纽建设的指导意见》,画出国际航空枢纽的蓝图,提出“3+7+N”国际航空枢纽功能体系。,乐鱼手机登录网站,世界杯投注软件哪个好,必赢亚洲官网登录手机。

责编:康奈尔

审核:唐国忠

责编:严青青

相关推荐 换一换