研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-08 22:16:39 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容吕梁市某某化品销售部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功吕梁市某某化品销售部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
12月29日开始，中国人民解放军东部战区组织陆军、海军、空军、火箭军等兵力，位台湾海峡、台岛北部、台岛西南、台岛东南、台岛以东等区域，开展代号为“正义使命-2025”的联合演习。 上午9时30分2026-01-08
总有人说“五十岁就该有五十岁的样子”，可“样子”从不是松垮的旧衣服、暗沉的老花色，而是历经岁月沉淀后的从容与精致。其实50+女性的穿搭，不用刻意模仿年轻人的潮流，也不用默认穿得朴素就好，选对款式、找对2026-01-08
再见美拉德、格雷系！橙色+棕色，才是今年冬天最时髦配色毛衣+阔腿裤、羽绒服+裙子，这5组搭配照着穿就很时髦！阔腿裤失宠了？这4条裤子承包你整个冬天的时髦！2026-01-08
晚上好啊。我们几乎每年冬 天都会聊一下裙子的搭配。我猜很多人也和我一样，买了很多裙子，也不希望一到冬天就全收起来。其实啊，漂亮小裙子也一定是春夏的专属呢，有些裙子的保暖性也被我们低估了。比如，防风厚实2026-01-08
来源：中国新闻周刊 为何他成了“国民演员”？ 2025年12月30日午后，74岁的安圣基在首尔家中进食时，食物突然堵塞气道。紧急送医后，他陷入昏迷，并于2026年1月5日在医院离世。这位被誉为2026-01-08
冬天的“外套”别随便买！40+女人锁定这3款，优雅大气还保暖
冬天一到，衣柜里的旧衣服就像“失了宠”，看着满街的新款冬装，40+的姐妹们是不是也忍不住想剁手？但咱们这个年纪买冬装，可不能再像小姑娘那样只追时髦，盲目跟风容易踩雷，要么款式浮夸显廉价，要么保暖性差冻2026-01-08
最新评论