您的当前位置:首页 > 热门资讯 > 研究:用诗歌就能让AI说违禁内容,成功率达62% 正文
时间:2025-12-18 03:18:54 来源:网络整理 编辑:热门资讯
IT之家 12 月 1 日消息,事实证明,只需一点创意,便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab)最新发表的一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》
IT之家 12 月 1 日消息,研究用诗事实证明,违禁只需一点创意,内容黄冈市某某装饰设计有限责任公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室(Icaro Lab)最新发表的率达一项题为《对抗性诗歌:一种通用的单轮大语言模型越狱机制》的研究中,研究人员通过将提示词以诗歌形式表达,研究用诗成功绕过了多种大语言模型(LLM)的违禁安全限制。
![]()
该研究指出,内容“诗歌形式可作为一种通用型越狱操作符”,成功黄冈市某某装饰设计有限责任公司实验结果显示,率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容,包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到,成功研究测试了多款主流大语言模型,率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率:Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答,而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文,但研究团队向 Wired 杂志表示,这些诗句“过于危险,不宜向公众披露”。不过,论文中确实包含了一个经过弱化处理的示例,用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调:“这可能比人们想象的要容易得多,而这正是我们保持谨慎的原因所在。”
6000架空客A320飞机紧急换软件,空客公司致歉2025-12-18 02:23
标配银河Flyme Auto/还带外放电 吉利星愿配置发布2025-12-18 02:04
章子怡汪峰带娃出游,围着儿子互动和拍照,弟弟向妈妈撒娇求抱抱2025-12-18 01:56
大众“确认”将关停工厂!裁员人数达3万人2025-12-18 01:56
蔬菜发芽后还能吃吗?2025-12-18 01:09
这是中年女人该有的模样:穿衣色不过三,风格简约,美丽如初2025-12-18 00:56
辛芷蕾拥抱赵丽颖、唐嫣笑容凝固,飞天奖的微表情才是一出好戏2025-12-18 00:48
孙艺珍搬家后晒衣柜靓照,陪儿子甜豆玩游戏,豪宅庭院外景曝光2025-12-18 00:37
春秋航空日本回应东京飞上海航班紧急返航2025-12-18 00:34
4件便宜又实用的收纳神器!告别脏乱差!租房、宿舍必备!2025-12-18 00:33
8个好友在福建抱团村居:几乎不花钱,尝试在山里养育下一代2025-12-18 03:05
大湾区这一夜“港娱”没死,难听、跑调,内娱偶像明星们输得彻底2025-12-18 02:43
高知优雅风越来越火,这样穿高级又气质2025-12-18 02:06
赵丽颖唐嫣入围,杨幂杨颖“消失”,飞天奖展现了内娱的人情冷暖2025-12-18 01:56
关于草莓这些“传言”是真的吗2025-12-18 01:39
秋天上衣穿什么?推荐衬衫、风衣、西装、牛仔外套,保暖舒适2025-12-18 01:33
50多岁妈妈学会“富养”自己,追求品质着装,打扮得才有气质2025-12-18 01:07
美国纽约市长亚当斯受到五项联邦指控2025-12-18 01:02
印度南部公交车坠崖 已造成9人死亡2025-12-18 00:47
40岁,有前男友还能搞纯情先婚后爱?2025-12-18 00:39