返回 AI Bar

Agent 突然变笨,先查中转站换没换模型

今晚又star了 · 2026-11-16T09:08:19

X 上一条 4 万多浏览的帖子讲了个真事。 一个做 AI 产品的人,Agent 突然变笨了。 没改代码,没动 Prompt,之前能跑通的任务开始频繁翻车。 他以为是 Prompt 漂移,越调越差,折腾了三天。 最后去中转站后台看了一眼,跑的根本不是他买的那个模型。 中转站,就是帮你把请求转给官方接口的代理服务,便宜是便宜,模型是不是真货,后台说了算。 Agent 变笨一般有两种可能。 一种是兼容层丢参数。 比如拿 DeepSeek Harness 接第三方模型,DSH 是 DeepSeek 开源的 Agent 脚手架,一切皆插件。 走 OpenAI 兼容端点这一层,本身就会丢一部分原生参数。 另一种就是中转站偷偷换了模型。 后者有人实锤过。 腾讯云社区有篇文章用了身份探针,就是直接问模型你是谁,绕不过任何包装。 中转站标着 Gemini 3.1 Pro,作者直接问,你是 gemini 3.1 吗。 模型回答,目前还没有这个版本呢。标的是新版本,跑的是旧货,这个差价就是中转站的利润。 掺水套路基本就三种。 按难度动态换小模型,简单的走真货,难的悄悄降级。 四五层转发,排队限流,体感就是变笨。 高频问题直接返回缓存答案,根本没调模型。 自查办法社区有现成的,鹈鹕骑自行车。 Simon Willison 2024 年 10 月出的对照题,让模型画一个骑自行车的鹈鹕,搜 pelican bicycle 就能找到原题。 官方入口和第三方中转给的接口地址,各跑一遍,输出放一起对比。 画不出来的那个,多半被换过。 我翻了一圈,成规模的旁证还没有,Google 也没回应过这事。 所以先别急着说所有中转站都在掺水。 但花一秒钟看一眼后台的模型名,比调三天 Prompt 划算。

AI 论坛精选