能用的免费白嫖的 ai llm 越来越少

@happybabys 习惯了白嫖，突然上 200 刀，顶不住

https://gist.github.com/lovemyliwu/150f4eba0819e56c320080c72f9f584d

@SmiteChow 这些渠道都是试过了，可用性很低

@crocoBaby litellm 作为网关主要功能就是保证可用性（轮询策略，fallback 策略，主动 rp/tp 管理）的，我一般是发现 agent 长时间卡在重试就去网关检测各个模型的健康，然后用脚本批量把 rate limite 的模型删了，一天用下来删到最后就是 workbuddy 打底了😀

免费就是需要多费点功夫，没办法。通过合理的抽象，这点功夫并没给我带来额外的困扰。

@SmiteChow 我指的可用性是 llm 的实用性,不是指服务的可用性