研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-05 09:01:32 [娱乐] 来源：河北某某金属制品教育中心
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容德州市某某钢球股份业务部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功德州市某某钢球股份业务部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：探索)
泽连斯基：乌美正筹备新一轮会谈
奥运后已取二连冠：孙颖莎4
大S48岁生日一片冷清，具俊晔不能陪她庆祝，夫妻两地相隔
小米 SUV 汽车谍照曝光，采用无边框车门设计
上海一外卖员被撞断6根肋骨，肇事大学生未支付赔偿，选择消失……推荐文章
-
当地时间11月30日19时21分，随着中国东方航空MU2051航班降落在阿曼马斯喀特国际机场，首条由中国航空公司运营的中阿直飞航线顺利完成首航。马斯喀特国际机场当天为来自北京大兴国际机场的首航航班
...[详细]
-
古尔曼：苹果 Apple Intelligence 将于 10 月 28 日推出
IT之家 10 月 6 日消息，彭博社记者马克・古尔曼在最新一期 Power On 节目中透露，Apple Intelligence 功能将于 10 月 28 日与 iOS 18.1 一起推出。IT之
...[详细]
-
最近，一部尺度生猛的新剧在国外爆了。在网飞上线两周，力压多部热门美剧，登顶IMDb最热剧集榜第一。这部剧改编自轰动世界的富家子弟弑亲案。讲述一对兄弟俩，合谋杀害了自己的亲生父母。而在证据确凿的情况下，
...[详细]
-
直播吧10月6日讯 客场1-1战平切尔西后，诺丁汉森林门将塞尔斯接受了媒体的采访，对本场比赛做出了评价。塞尔斯表示：“我们知道对手非常出色，几天前他们踢了欧协联比赛，他们有庞大且实力强劲的阵容，所以我
...[详细]
-
12月1日，字节跳动豆包团队发布豆包手机助手技术预览版。据了解，该产品是在豆包APP基础上，与手机厂商在操作系统层面合作的AI助手软件。据介绍，豆包手机助手基于豆包大模型能力，通过与手机厂商合作授权，
...[详细]
-
假期接近尾声，文旅市场依旧火热，仍有不少游客宁愿堵在路上，也要抓紧时间自驾出游，其中，新能源汽车占比越来越高。国家电网统计显示：国庆节当天，国家电网智慧车联网平台单日充电量、单日高速公路充电量、单日充
...[详细]
-
直播吧10月06日讯 中网女单决赛，赛会4号种子高芙vs半决赛击败郑钦文的穆霍娃。最终高芙仅耗时76分钟便以2-06-1、6-3）轻取对手，夺得中网女单冠军。这是高芙职业生涯的巡回赛单打第八冠，也是第
...[详细]
-
在德国足球顶级联赛第6轮的较量中，海登海姆坐镇主场迎战RB莱比锡。比赛第53分钟，谢什科进球因队友推人在先被吹无效，第59分钟，努萨送助攻，奥蓬达小角度爆射建功。最终，RB莱比锡凭借这一进球，以1比0
...[详细]
-
五年前，林斐然家在高位买了一套房。至今，房价已经跌了整整100万。这100万让丈夫难以释怀。婚后，从房价下跌开始，林斐然就与丈夫频繁争吵。这五年内，只要谈及钱，他都会忍不住向妻子抱怨不该买房。2025
...[详细]
-
在今天晚上进行的英超第7轮比赛中，曼联客场0-0战平维拉，赛后，埃文斯在接受《当日比赛》节目的采访时谈到了自己对比赛的看法。对比赛的看法“这是展现球队精神的关键，每个人都尽了最大努力，看到球队这样的表
...[详细]
热点阅读
