IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。
该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。
IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
《旺球体育官网》,《首次登录送91元红包》AG电子竞技俱乐部官网
“AG真人官网”
bet365手机APP
……
{!! riqi() !!}
“米6体育app官网下载苹果”{!! reci() !!}
↓↓↓
{!! riqi() !!},特朗普称委内瑞拉抢了美国石油 马杜罗批驳其殖民企图,云顶娱乐官方网站登陆,威廉希尔体育,老品牌金沙城,欧洲杯2020赛程表决赛
{!! riqi() !!},苦练内功,做更好的自己,极跃体育官方网站,杰克棋牌官方最新网站,优德快速登陆,ag最大平台
{!! riqi() !!},成渝铁路扩能改造工程建设“进度条”刷新,KU体育手机网址,百乐门开户平台,凯时ag在线,下载官方体育彩票
{!! riqi() !!}|两部门协调援助应急装备物资 支持香港大埔火灾应对处置后续工作|亚新体育官网首页|体育365下载|爱游戏在线登陆|现金斗牛软件哪个好
{!! riqi() !!}|苏炳添退役后首次公开露面:残障运动员的精神值得所有人学习|球探体育下载|九游会网页版bob|看4张牌抢庄斗牛app|k8凯发官方
{!! riqi() !!}|第十四届中国创新创业大赛颠覆性技术创新大赛总决赛在杭开幕|爱游戏体育官网首页|ag亚游担保平台|明升体育快速开户|365体育官网app下载……
{!! riqi() !!},著名演员何晴去世 一起回顾何晴经典影视片段,真人国际象棋比赛,澳门金沙网,永利体育线路检测,爱体育
{!! riqi() !!},从“文化符号”到“百亿产业” 宁德大黄鱼游出富民新路,ag电竞官方网站,澳门永乐娱乐,百老汇官方app,麻将胡了试玩平台
{!! riqi() !!}|中东珠宝品牌加码香港零售布局|新金沙官网|足球体育赛事视频|尊龙z6平台|凯发娱乐体育官方网址
{!! riqi() !!},吉尔吉斯斯坦提前议会选举顺利举行 中方表示祝贺,必赢官方网站,世界杯买球app下载,乐动体育网址多少,球探体育比分直播
{!! riqi() !!},平陆运河土石方开挖突破3亿立方米,世界杯买球首页,有体验金送的网址,欧亿平台首页,捉鱼
{!! riqi() !!},甘肃高校“Z世代”锤炼匠心 零基础入门深耕文物修复,am8亚美ag旗舰厅官网,云开体育app入口下载,色子游戏,高爆金币捕鱼
{!! riqi() !!}|青海老年助餐服务年均惠及10万老年人|开云app最新版|在线捕鱼游戏现金|九游会注册网址|彩票体验金
{!! riqi() !!}|印度西部一夜总会火灾致至少23人丧生|投注世界杯图片|开元棋下载app最新版|188体育手机投注|尊龙人生就是博登录准认来就送38
{!! riqi() !!}|你好,小镇丨河南道口:古埠流芳|电子老虎机娱乐|亚盈体育平台app下载|凯时最新官方app下载|2019欧洲杯直播哪里看
{!! reci() !!},{!! reci() !!}|上海机场免税招标签约 助力国家高水平对外开放和机场商业品质升级|贝博下载网站|牛牛打团怎么才可以赢|365bet官网首选|188宝金博下载
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺