AI安全新升级:古文漏洞倒逼全域防护强化

作者:技术拾光时间:2026-05-22 18:39:01浏览:469

研究发现主流大模型安全对齐机制在文言文等古典语言中存在系统性漏洞。CC-BOS攻击框架通过将现代敏感概念映射为古代术语并优化生成越狱提示,在六个主流模型上实现百分之百攻击成功率。实验显示古典语言普遍面临类似风险,现有防御措施难以完全拦截,警示AI安全需超越现代语言,系。

AI安全新升级:古文漏洞倒逼全域防护强化

近期,AI安全领域的一项新研究引发了广泛关注。一篇被ICLR 2026接收的论文揭示了一个显著现象:使用文言文对大语言模型进行提示,攻击成功率竟可达到100%。

这里所指的文言文,正是我们在语文课本中学习的古代汉语。

论文明确指出,当前主流大语言模型的安全对齐机制,在面对文言文、拉丁文、梵文等古典语言时,存在系统性的防御缺陷。研究者提出的“CC-BOS”攻击框架,在测试的六个主流模型上实现了百分之百的攻击成功率。

文言文为何成为有效攻击载体?

论文对此给出了直接解释。大模型的安全防护主要针对现代语言(尤其是英语)中的敏感词和危险模式进行过滤。但文言文具备三个特点,使得安全过滤器难以应对。

首先,文言文语义高度凝练,寥寥数语即可承载大量信息。安全系统在如此简短的文本中精准识别危险信号,难度较大。

其次,文言文中一词多义现象普遍。同一字词在不同语境下含义可能截然不同,这给安全机制的准确判断带来了挑战。

最后,文言文富含隐喻、用典、借代等修辞手法。许多现代的危险概念,能够被古代词汇自然地“包装”起来。

其结果便是,模型本身能够理解文言文背后的意图,但安全检测器却无法识别其中的危险语义。论文将这种现象称为“高能力-低对齐”的分布偏移。

CC-BOS攻击框架解析

CC-BOS,全称为“Classical Chinese Bio-inspired Optimization Search”(文言文生物启发式优化搜索)。这是研究团队为验证漏洞而专门设计的攻击框架。

其核心思路,是将生成越狱提示词的过程,分解为一个包含八个维度的策略搜索空间。这八个维度分别是:角色身份、行为引导、机制设计、隐喻映射、表达风格、知识关联、情境设置和触发模式。

其中,隐喻映射被认为是关键环节。它负责将现代敏感概念,巧妙地映射为古代术语和典故,在完全保留攻击意图的同时,实现表达形式的“古风化”。

随后,研究团队引入了一种名为“果蝇优化算法”的搜索策略。该算法模拟果蝇觅食行为,通过“嗅觉搜索”(局部微调)、“视觉搜索”(全局收敛)和“柯西变异”(跳出局部最优)三种机制,在庞大的策略空间中高效寻找最佳攻击组合。

实验数据与结果

论文显示,研究团队在六个主流模型上进行了测试,包括GPT-4o、Claude-3.7 Sonnet、Gemini-2.5-Flash、DeepSeek-Reasoner、Qwen3和Grok-3。

在AdvBench恶意行为基准测试中,CC-BOS框架对这六个模型的攻击成功率均达到100%。

作为对比,此前表现最好的ICRT方法,在Claude-3.7上的成功率为40%;而PAIR方法在多个模型上的成功率接近0%。

攻击效率优势同样明显。PAIR方法平均需要40到60次查询,TAP方法需要50到93次,而CC-BOS平均仅需1.12到2.38次。

实验还将攻击范围扩展至拉丁语和梵语。结果显示,针对这两种古典语言的攻击成功率也高达94%以上。这表明,问题并非文言文独有,而是古典语言面临的系统性风险。

在跨语言对比实验中,文言文的攻击成功率最高(100%),现代中文为86%,英语为82%。

更值得注意的是,即便模型部署了Llama Guard等多层防御系统,CC-BOS仍表现出明显的穿透能力。在多层复合防御下,现有攻击方法几乎全部失效,但CC-BOS依然保持了16%的成功率。

该漏洞的潜在影响与启示

在AI智能体日益频繁地操控电脑、执行任务的趋势下,此漏洞的潜在影响值得重视。攻击者可能无需编写复杂恶意代码,只需将一段精心构造的文言文指令嵌入网页或邮件,即可诱导高权限智能体绕过安全防御,执行任意操作。

举例而言,若用户使用智能体助手处理邮件和管理文件。攻击者在网页中嵌入一段文言文指令,智能体访问并“阅读”该文本。尽管它能理解此为恶意指令,但由于安全系统对古文缺乏有效过滤,它便可能执行删除文件或外发邮件等操作。

因此,这不仅仅是一个程序漏洞,更是一个触及技术路线根本的问题。它提醒所有AI研究者:安全对齐工作不能仅局限于现代语言、英语及常见模式,必须系统性地覆盖多语言、多文化的复杂语境。

当我们惊叹于AI日益强大的能力时,也需清醒认识到,技术越先进,其安全漏洞可能越隐蔽,带来的影响也越深远。文言文越狱或许只是冰山一角,真正的AI安全,需要我们从语言、文化、社会等多个维度,构建起立体的防御体系。