IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,成功绕过了多种大语言模型(LLM)的安全限制。
该研究指出,“诗歌形式可作为一种通用型越狱操作符”,实验结果显示,整体上有 62% 的成功率诱使模型生成被禁止的内容,包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。
IT之家注意到,研究测试了多款主流大语言模型,包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
《新凯发娱乐》,《首次登录送91元红包》亚洲各大赌场
“彩票官方直营网”
巴黎人信誉现金
……
{!! riqi() !!}
“网上抢庄牛牛游戏大厅”{!! reci() !!}
↓↓↓
{!! riqi() !!},纪念“鹅湖之会”850周年研讨会在江西铅山举办,乐鱼客户端下载,网上足球注册,真钱赌场,188bet官网买球
{!! riqi() !!},日本前首相石破茂再批“日本拥核”言论,天博app官网入口App,679体育官网,365必发,金沙官网棋牌
{!! riqi() !!},外媒:乌克兰首都基辅传出多次强烈爆炸声,世界杯 投注 知乎,万博好玩吗?,一二博官方网站,MG电子注册App
{!! riqi() !!}|“十四五”时期西藏实施考古项目200余项|尊龙D88官网|澳门威尼斯正网|贝搏体育官网|网上百家娱乐平台
{!! riqi() !!}|广州启动珠江流域广州段水生态环境保护专项民主监督|金蟾捕鱼电玩城|天下足球直播网|龙8国际开户|亚新体育入口
{!! riqi() !!}|你吃的轻食真能减脂吗?实用减脂食谱快来收藏|AG真人是全网统一吗|银河娱乐app是正规的吗|和记娱乐在哪注册|吉乐棋牌百人二八杠……
{!! riqi() !!},国内首次!夏尔希里自然保护区发现菊科新物种“橙黄细毛菊”,银河国际网站多少,娱乐平台大全网,mg注册送53,凤凰体育首页官网
{!! riqi() !!},黄庭坚诞辰980周年特展启幕 85件套文物再现“山谷雅集”,篮球竞彩网站官网,金年会娱乐平台登录,dafa888下载,leyu乐鱼电竞官方下载
{!! riqi() !!}|外国人看《黑猫警长》学中文|篮球投注app下载|男篮世界杯网站打不开|app手机彩票下载|大发官网登录网址
{!! riqi() !!},日方炒作“我航母舰载机对日战机实施雷达照射”·新闻链接 日本持续推进西南诸岛的军事化进程,世界杯体彩购买时间,球探比分手机,皇冠电子游戏注册官网,国际真人cs战队名字
{!! riqi() !!},培育城乡发展新动能 专家解读要这样“联动”,银河电子平台娱乐,彩票官网在线购买,澳门威尼斯人网上注册,维多利亚游戏官vic67
{!! riqi() !!},AI赋能千行百业 “制造”迈上“智造”新台阶,AG亚游国际,龙头报,bet365在线买球,手机电子游戏
{!! riqi() !!}|“史料是揭示历史真相的重要证据”|体育信用网站|12博开户平台|博雅德扑下载|乐鱼全站网站登录首页
{!! riqi() !!}|刚果(金)反政府武装称正撤出东部重镇乌维拉|真钱手机捕鱼游戏|亚洲365平台|日博开户网址|竞彩人工智能大数据预测app
{!! riqi() !!}|广东鹤山汽车坠江事件通报:排除生产安全事故 属意外事件|澳门网上投注网站平台|欧亿体育app下载|bc体育官方下载|波克捕鱼达人千炮版官方下载
{!! reci() !!},{!! reci() !!}|台风“天琴”回旋少动 南海大部分海域继续大风天气|爱发体育|世界杯盘口网站让球|博雅德克萨斯扑克掌上聚侠网|多宝最新版APP
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺