研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-09 14:57:44 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容宜春市某某过滤设备有限公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功宜春市某某过滤设备有限公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
没人配教我做事！杨立昆离职后怒斥汪滔：我绝不闭嘴，因为我才是对的
作者 | 辰辰出品 | 网易科技离职后的AI教父杨立昆Yann LeCun），选择亲手撕碎最后的体面。在接受《金融时报》专访时，他毫不留情地揭开了老东家的伤疤：Meta为了在军备竞赛中追赶OpenAI2026-01-09
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车7月2日报道近日，我们从相关渠道获悉，广汽埃安第二代AION V将于7月23日正式上市。新车定位为纯电紧凑型SUV，将搭载弹匣磷酸铁锂电池2.2026-01-09
来源：封面新闻近日，家住湖北的李女士反映，前段时间她通过网络平台向成都一旅行社报川西游的团。出发前几天被铁路部门通知，受到天气影响，他们预订的动车停运了，无法按期抵达出发地。李女士申请取消订单，旅行社2026-01-09
惠州某在建项目每日经济新闻 资料图 上半年已过，大湾区不少城市的楼市成交出现显著回升。从成交结构来看，二手房成交量要远高于新房。 据乐有家数据，2024年6月，深圳二手房成交4172套，新房成交2026-01-09
[为应对大陆军演，台军出动坦克但半路故障冒烟]据台湾联合新闻网29日报道，为应对大陆军演，台陆军第八军团所属564旅当日上午出动CM-11坦克执行实战训练任务。 报道称，途经台北市中山路时，其中2026-01-09
广汽丰田在其成立20周年之际，举办了首届科技开放日，向外界展示了其在合资2.0时代的转型成果和前瞻技术布局。这一重要活动标志着广汽丰田在科技创新和未来发展方面的坚定决心。而其中电动化以及智能化无意是最2026-01-09
最新评论