分享一个自托管的 Qwen 3.8 27B API

๏_ʟᴜᴍɪɴᴏ_⇗_ˣᵖ · 2026-09-15T10:08:00+08:00

自己搭了一个 Qwen 3.8 27B，给大家免费试试Endpoint: https://about-grades-concentrations-zone.trycloudflare.com/v1API Key: sk-23778823e64bd310884071f643e50306Model: qwen3.8-27bContext: 131072没有 RPM 限制，不过最多同时处理 16 个请求，超过的会排队。所以人多的时候可能会有点慢，毕竟硬件就这么多，暂时也没办法再提速了 ^-^目前不支持图片，只能用文本。有需要的可以试试～

1412

๏_ʟᴜᴍɪɴᴏ_⇗_ˣᵖ2026-09-15
37757
自己搭了一个 Qwen 3.8 27B，给大家免费试试
Endpoint: https://about-grades-concentrations-zone.trycloudflare.com/v1
API Key: sk-23778823e64bd310884071f643e50306
Model: qwen3.8-27b
Context: 131072
没有 RPM 限制，不过最多同时处理 16 个请求，超过的会排队。
所以人多的时候可能会有点慢，毕竟硬件就这么多，暂时也没办法再提速了 ^-^
目前不支持图片，只能用文本。
有需要的可以试试～
主楼
poppyit2026-09-15
15091
我来试试，看看佬的实力
#1
杨渣渣2026-09-15
32979
我也来试试，看看佬的实力
#2
๏_ʟᴜᴍɪɴᴏ_⇗_ˣᵖ2026-09-15
37757
还能用几个小时，过期了我再更新。
有空的话也帮忙反馈一下速度怎么样～
#3
3003n2026-09-15
21905
佬用的什么配置搭的
#4
guozhuang2026-09-15
29731
感谢大佬的无私奉献，蹬一蹬试试^-^^-^
#5
mengzhichaolove2026-09-15
10337
那我来测测佬的实力，感谢了！
#6
fengchris2026-09-15
6928
感谢佬友分享
这个模型效果有时候真的惊人就是速度慢
#7
poppyit2026-09-15
15091
速度挺好的，但是我估计提升上下文应要腰斩，但是我觉得实际能有50token每秒就很快了，然后ttft我觉得挺快的
#8
huoyuhai2026-09-15
26802
我也来试试，看看佬的实力。
#9
Magisk3172026-09-15
19024
zcode报错，但是没地方配置reasoning这个字段啊 ^-^```
ZCode 报错信息
报错摘要
Unexpected reasoning effort high. Supported types are xhigh (default), medium, and low.
TraceID: 35bde725-13f8-4533-a45b-f6958b3cc0e8
报错详情
Turn execution failed
provider=qwen-alibaba-model-studio-cn provider_code=400 model=qwen3.8-27b request=9ab52481-1127-48e1-b8b2-cdb0be0a68df reason=invalid_request status=400 retryable=false
#10
TrampPoet2026-09-15
37758
速度还可以啊，不过没想到实际工作场景
#11
๏_ʟᴜᴍɪɴᴏ_⇗_ˣᵖ2026-09-15
37757
2× H100，GCP 的 a3-highgpu-2g，TP=2，BF16。
手里有点快过期的 GCP credits，正好拿来跑一下。
#12

发表回复

登录后回复