LiteLLM v1.108.10 的兼容接口与 Vertex AI 转换规则有哪些变化?
作者:接口漫谈时间:2026-11-18 00:17:19浏览:321
LiteLLM v1.108.10 修复两类容易被混在一起的问题。兼容接口的异步文件请求需要避免重复转换,Vertex AI 的版本化 Claude 需要在缺省时取到正确的输出上限。

文件消息为什么会返回 400
在 lts/1.108.x 分支上,Codestral 通过 OpenAI 兼容路径接收含 file 类型内容的异步聊天请求时,共享转换标志会让消息转换两遍,导致返回 400。v1.108.10 合入的回移补丁去掉该共享标志,消息转换在工作线程只执行一次。

异步 PDF 处理的适用范围
过去流式请求遇到 PDF URL 时,下载可能卡在事件循环里,使并行流互相等待。补丁使用异步客户端预下载用户消息中的 PDF URL,再运行同步转换。对于工具消息,这条长期维护分支沿用上游透传 PDF URL 的处理方式。
Vertex AI Claude 的 4096 从哪里来
使用类似 claude-haiku-4-5@20251001 的版本化模型标识,且请求没有传 max_tokens 时,以前会用 4096 作为默认输出上限。补丁令这个分支改读模型的已映射上限,作用点是缺省值推断。调用方显式传入参数的情况与这一缺省逻辑不同。

作者最新文章
Node.js读取并解析本地JSON文件的方法
2026-11-17 19:11:58
Node.js Buffer用法:字符串、Hex与二进制的快速转换
2026-11-17 18:20:17
llama.cpp b12457 的 A7 内核为什么要区分后端和模型路径?
2026-11-17 13:36:42
Node.js中怎么使用fast-xml-parser高效解析XML
2026-11-17 08:52:18
Node.js环境使用JS生成Excel并保存至服务器
2026-11-16 13:19:17
