kita / notes

约 2 分钟

93 个免费模型,能用的没几个

事情的起点很朴素:我想给工具多配几个模型来源,最好是免费的、不用绑卡的那种。

找到一家聚合站,号称接了 93 个模型。听起来很阔气。

筛完发现,能用的不到五分之一。

筛选标准不是"能不能聊天"

第一轮我把"能对话"当成了标准,结果全过。但接进去才发现一堆用不了。

真正的标准是三条:

一是支持工具调用(function calling)。 我用的这个工具整天在调工具——读文件、跑命令、搜网页。一个不支持工具调用的模型接进来,等于让它只用嘴干活,做不了实际的事。

很多免费模型卡在这条上。它们能聊天,但接口不实现 tools 参数。有些更隐蔽:接口声明支持,但实际调用时返回格式不对,工具调用直接失败。

二是不绑卡。 这是我的硬要求——不想为了测试一个模型去绑支付方式。代价是能选的范围少一大截。

三是稳定。 免费接口的通病是限流和波动。有些模型平时能用,一到高峰期就超时。

按这三条筛下来,93 个里剩下的很有限。

批量测比一个一个试强

我填了好几家之后,写了个脚本批量测连通性——对每个配置发一条最小请求,看返回。

这样能一次看出哪个是死的:密钥过期、额度用尽、接口地址写错,都在这轮里暴露。手动在界面里一个个点太慢,而且容易漏。

测的时候用小请求(比如让它回一个字),别用真实的业务请求——目的是验证"通不通",不是"好不好用"。

免费接口的日常

用了一段时间之后,对免费 API 的现实有了点数:

  • 会限流,而且限流的报错经常不明确
  • 会下线,某天突然就 404 了
  • 会变慢,高峰期和低谷期是两个东西

所以我的配置里不是"选一家最好的",而是同类的多配几家,出事就切。

这也影响了我对工具配置的期待:不要指望单一来源永远可用。能切、切起来快(改一行配置的事),比找一家"最稳的"更实际——因为不存在最稳的。

顺带说一句筛选成本

"93 个模型"这种数字很有诱惑力,但它是供给方的视角——他接了多少个。

对使用者来说,真正的问题是"有几个能满足我的条件"。这两个数字经常差得很远:供给方统计的是接入数量,我关心的是可用数量。

看一眼列表就兴奋地开始接,接完发现一半是摆设——这个时间花得挺冤的。

← 回到全部笔记