搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

研究:用诗歌就能让AI说违禁内容,成功率达62%

2025-12-27 11:25:09
来源:

猫眼电影

作者:

兴武强

手机查看

  猫眼电影记者 陈海东 报道首次登录送91元红包

IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。

该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。

IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。

尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”

 时事1:世界杯买球中国官方

  12月27日,国际人士:高市错误言论严重威胁地区稳定,刘长文说,此前,有个别村民发现自己或家人被注册了个体工商户,汇报到村委会,村委会都会帮忙注销。,贝博体育平台官网。

  12月27日,聚焦知识产权服务人工智能等 北京多部门协同推进新业态发展,2018年3月,高渝文晋升为中国医药党委书记、董事长,成为公司的核心掌舵人,直至2021年2月因工作调整辞职,不再担任公司任何职务。至此,其在公司董事长岗位上的任职时长约3年。,MG游戏,白小姐透特,大发app下载地址。

 时事2:电子游戏申请送68元体验金

  12月27日,民间组织连续12年致信日政府要求就南京大屠杀谢罪赔偿,据《星岛》了解,亿纬锂能AI机器人项目运营主体为全资子公司惠州金源智能机器人有限公司(曾用名:惠州金源智能机器人有限公司)。该公司长期为亿纬锂能各大产业园打造智能设备、智能装备及智能体,积累了深厚的AI技术储备与丰富的工业场景落地经验。,云顶2322备用网址,优博2022世界杯,云顶买球。

  12月27日,俄国防部:乌军一昼夜损失约1210名军人,事实上早在2023年,这个趋势已经显现。红餐产业研究院发布的《2023年中国餐饮消费趋势》报告显示,餐饮业消费已经显现出“第四消费时代”的特征,消费者对高性价比有着极致追求。我国的餐饮消费呈现出了“K形分化”,即一端向上探顶,一端往下坠落的分化走势,主张高端、差异化与主打刚需、价低质优的企业有较大机会承接住时代的红利。,葡京平台直营,188bet快速登陆,MG电子。

 时事3:真人赌博网址

  12月27日,巴黎地铁发生持刀袭击事件三人受伤 嫌犯已被捕,而且,此前公司为了拓展医药商业板块进行的多笔并购,留下了商誉风险——2024年,中国医药针对通用技术辽宁医药有限公司计提商誉减值损失约1.28亿元;截至今年前三季度,中国医药的商誉余额为9.96亿元,作为对比,公司去年归母净利润为5.35亿元。,龙8手机登录客户端,太阳集团游戏城旧版138,凯时k66平台登录入口。

  12月27日,港科大(广州)二期首栋教学楼封顶,复星医药(600196.SH,02196.HK)6月24日晚间公告,6月24日,公司控股子公司复星新药(即要约人暨合并方)与另一控股子公司复宏汉霖(即被合并方)订立《吸收合并协议》;同日,控股子公司复星新药、复星医药产业、复星实业共同订立《存续协议》。根据该等协议,复星新药拟以现金及/或换股方式收购并注销复宏汉霖其他现有股东持有的全部复宏汉霖股份(包括H股及非上市股份)并私有化复宏汉霖。,SW电子游戏,威尼斯城注册送28,必发竞彩官网。

 时事4:bet365官网

  12月27日,我国成功发射遥感四十七号卫星,新华保险积极响应国家发展数字金融、普惠金融的号召,依托“空中柜面”项目,将消费者权益保护与服务便捷性深度融合,通过数字化转型为客户带来高效、安全、有温度的保单服务新体验。这一创新举措赢得了市场认可,成功获评“2025金柿奖·中国保险消费者权益保护样本”。,大发体育官方网站,澳门永利集体官方下载,美高梅手机微信上分客户。

  12月27日,意大利:米兰冬奥会火炬本土传递在罗马启动,综合美联社、路透社和BBC报道,埃尔多安承认政府对地震的初步应对存在“不足”,承诺会加快处理重建工作,但表示现在情况已经“得到控制”。他还说,冬季天气也是影响救援的一个因素,相信未来的救灾工作“会更好”。,体育投注官方网站,真钱体育游戏,app手机彩票下载。

责编:王有志

审核:黄英贤

责编:林耀明

相关推荐 换一换