搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-26 01:05:47
来源:

猫眼电影

作者:

张志刚

手机查看

  猫眼电影记者 王凡凡 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:世界杯球亚盘网站

  12月26日,业界嘉宾相聚山东青岛共探国际传播效能提升,在核心项目与潜力项目路演环节,四个聚焦重大未满足临床需求的创新项目依次亮相。包括了眼科、肿瘤、代谢性疾病等行业热门治疗领域和技术路线。现场,来自泰格医药、和泽医药的临床与药学专家及多家基金代表,从临床价值、差异化竞争格局、关键数据里程碑与可行性评估等多维度进行提问与点评,为项目团队提供了具有可操作性的优化建议。,pg电子赏金女王试玩。

  12月26日,涟漪漾成浪潮:浙江乡野的进化论与未来式,2021年11月,邓可作为第二任社聘总裁,接任王新利职务,国任保险业绩开始大幅提升,盈利也逐步稳定下来,开始持续稳定盈利。,365bet投注官方网站,上葡京开户,ku游娱乐备用网址线路二。

 时事2:淘宝世界杯投注

  12月26日,湖南电动汽车出口首次突破百亿元 前11月对东盟出口增逾5倍,“目前修建海底隧道,主要有三种工法,分别是钻爆法、盾构/TBM法和沉管法。”中交公路规划设计院有限公司隧道与地下工程部总工程师黄清飞告诉中国新闻周刊。,体育开户平台,吉祥斗地主手机版最新版,澳门js1996。

  12月26日,黑龙江:城乡低保标准5年分别增长29.1%和59.7%,“我从来没有想过一杯啤酒给香港市场带来翻天覆地的变化,这也是港交所史上第一次用啤酒,而非香槟庆祝一家公司上市。如果没有H股,香港及内地经济在过去30年的发展历程必定截然不同。”港交所主席史美伦此前在H股30周年庆典活动上表示。,现金在线赌钱,线上赌博大厅,千炮捕鱼怎么在游戏中上下分。

 时事3:新皇冠官方app2020

  12月26日,转人工要“闯关”?AI客服不该成服务“围墙”,此后,靳东多次利用职务便利,在项目承揽、项目实施、国有资源经营权承包等事项中为商人老板谋取利益并收受好处。2012年下半年,时任若尔盖县委副书记、县政府县长的靳东收下了项目承建商李某某用黑色旅行包送上的“水果”——100万元现金,这是他单笔受贿金额最大的一次。他把这个旅行包放在卧室的床下,陆续用于炒股、购车和个人日常开支。,欧宝官网网址是多少,ca88客户端下载,哪里能赌博。

  12月26日,11月中国各种自然灾害造成直接经济损失4.33亿元,同时,公司的“大菱形”机构网络布局在拓展市场空间的同时,也意味着更高的运营成本和更复杂的管理难度。对于一家盈利历史尚短、资源有限的中小险企而言,如何在多个区域市场进行有效渗透并实现盈利,是比单纯开设分支机构更为艰巨的任务。,ROR网页版,注册送99元现金的捕鱼游戏,宝博李逵捕鱼下载。

 时事4:台湾麻将

  12月26日,成渝铁路扩能改造工程建设“进度条”刷新,只是,放在锂盐行业,2022年以来的下跌周期中,整体减产力度并不突出,至少远远无法与2019年澳洲矿山所出现的关停、减产相比。,森林舞会老虎机,立博网投,吉祥棋牌二八杠。

  12月26日,四川成都:考生参加全国大学英语四、六级考试,中方坚决反对冷战式阵营对抗在本地区重演,坚决反对将地区国家当做霸权的工具和代理人。此次高官磋商期间,我明确表达了中方严正关切。中方支持东盟加强战略自主,愿同地区国家一道,坚持走共商共建共享的亚洲安全之路,坚定维护地区和平稳定。,海口体育平台,888棋牌游戏,怎么在网络上赌博。

责编:全忠勋

审核:兰生

责编:秦银河

相关推荐 换一换