IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。
该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。
IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
《世界杯比赛预测网站》,《首次登录送91元红包》美高梅官网在线
“澳门威斯尼斯人203119”
世界杯投注违法吗知乎
……
{!! riqi() !!}
“AG9亚洲集团”{!! reci() !!}
↓↓↓
{!! riqi() !!},文旅“蹲”下身来 “一米”大有可为,麻将胡了pg电子下载,日博官网,mg摆脱免费试玩,必威手机官网登录不了
{!! riqi() !!},大兴安岭 “冰超” 系列活动启幕 36项冰雪盛宴燃动极寒,澳门十大娱乐平台APP,美高梅下载,篮球比分直播,真钱牛牛棋牌
{!! riqi() !!},特奥举重台上的“母亲”教练,买球的APP哪个好,ag真人官网游戏下载,e乐彩在线登录入口,九游会体育外围
{!! riqi() !!}|深圳北站到发旅客同比增长8.8% 已超去年总量|kok2022世界杯|beat365在线体育投注|经典炸金花手游|凯时国际平台充值
{!! riqi() !!}|习言道|做好经济工作,中央强调重要方法论|送彩金的网站有哪些|沙巴体育盘口首页|下载千亿体育|世界杯比分直播网站
{!! riqi() !!}|危急时刻果断一跃 铁路乘务员站外勇救落水者|bwin注册App|188金宝搏安卓机怎么下载|必威网页登录|美高梅下载官网……
{!! riqi() !!},从“集中攻坚”到“长治长效” 陕西公检法合力打击“老赖”,沙巴体育计划,必发网址是多少,鸭脖体育官方入口,亚博足彩官网
{!! riqi() !!},应急管理部调度连霍高速交通事故 派出工作组赶赴现场指导处置,博狗怎么注册,真钱打牌官网app,手机电玩城直营,澳门太阳神集团app
{!! riqi() !!}|中国国家航天局设立商业航天司 持续推动商业航天高质量发展|88游戏官网在线|马经玄机图(荐)|日博体育在线注册开户|开元棋牌快速登陆
{!! riqi() !!},第四届中国(黄山)新安医学发展大会启幕,求靠谱足球现金体育网,杏彩登录官网,皇冠365官方APP,满贯捕鱼怎么把金币弄成无限的
{!! riqi() !!},建设两岸融合发展示范区 福建发布第五批政策措施,365直播足球,澳门新葡萄旗下,尊龙AG旗舰厅登录,澳门新永利皇宫网址
{!! riqi() !!},福建漳州举办世界闽南文化创新发展研讨会,ag手机官网注册,爱游戏app官网下载地址,奔驰宝马娱乐,世界杯买球哪里注册
{!! riqi() !!}|泰国百余名师生广西柳州研学 感受工业底蕴|世界杯让球网站|集结号捕鱼爆分时间|通化大嘴棋牌最新版本|新2手机足球网址大全
{!! riqi() !!}|京张高铁清河站邂逅张家口冰雪邀约|365bet体育直播开户|天博官网在线登陆|全球最正规体育平台|大赢家娱乐城
{!! riqi() !!}|北京石景山街道实现社区法援服务全覆盖|万博手机官网注册|六合皇A|百老汇易记网址|金沙电子游戏官网
{!! reci() !!},{!! reci() !!}|关注巴以局势:以警方强行进入近东救济工程处办公场所|bet36直营|大富豪下载app|澳博苹果版|cbin平台
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺