Uniswap创始人称Claude Fable 5安全过滤器有缺陷
Uniswap创始人HaydenAdams指出,Anthropic新模型ClaudeFable5的安全过滤器存在缺陷,在回答前过滤所有网络安全查询,导致白帽测试与黑客攻击被同一标准拦截,真正的安全检查被跳过。Coinbase和币安已分别接入其他模型进行资安检测。
人工智能模型要判断系统是否安全,第一步就是主动测试。但Anthropic新推出的Claude Fable 5,却会在回答前先过滤掉网络安全相关的查询。结果呢?真正该做的检查反而被跳过了。
Uniswap联合创始人Hayden Adams周一在X平台上直接点出了这套机制的致命缺陷。说实话,安全领域的白帽测试和黑客攻击,在底层逻辑上用的是同一套动作。机器如果一刀切地把安全查询过滤掉,那等于直接关掉了检测功能。
他在推文中写得很直白:“白帽和黑客用同一种方式做事,机器却把两类请求一起过滤掉。”听起来好像是个合理的防护措施,但实际操作中,真正的安全检查也因此被漏掉了。
安全分流机制的盲点
Anthropic在六月初推出Claude Fable 5时,宣称这是针对网络安全设下的最严格护栏。Adams的观点很明确:AI要判断系统是否安全,第一步就是主动测试,而测试行为本身,就是一种安全查询。
就拿检查网站HTML原始码来说,白帽工程师和黑客的操作完全一样。如果模型先把这些请求过滤掉,就等于跳过了真正的防御检查。
这套安全分流机制的核心逻辑听起来挺合理:把网络安全请求标记为“活跃动作”,再从原始资料中提取答案。问题恰恰出在这里——白帽测试和黑客攻击在底层共享着同一套动作集。这么一来,过滤机制根本分不清谁是谁。
AI模型如何影响加密货币产业
Uniswap不是唯一注意到Claude Fable 5存在隐患的加密项目。Coinbase和币安已经分别与Anthropic合作,接入了Claude Mythos模型来强化资安检测能力。
Coinbase的Glasswing计划正在利用Claude Mythos进行智能合约审计和链上交易分析。币安也在内部部署了Claude Fable 5,用于交易数据的异常检测。
Adams的批评给整个行业提了个醒:AI模型的安全护栏不是万能解药。如果模型在底层就把白帽测试请求过滤掉了,那些依赖AI进行安全检测的加密交易所,很可能在不知不觉中错过了真正的安全威胁。这才是真正值得警惕的地方。
