lao1 me
AI服务器日常推广公告
搜索
菜单
主题回帖收藏
  • happyface
    AI时代活成了人形agent
    这不是巧了吗,自从我做了一次分享之后,类似的活都交给了我,我也不好意思说让他们问ai
    happyface2026-09-01AI8Denial3938
    AI
  • yeyucca
    qwen 3.8 27B 5090单卡,256k上下文,promp fill 2.5-3k/s, decode 峰值可以在130+tks/s,均值在90tks/s热
    我是用的``` 满血 mlx_lm.server --model ~/models/Qwen3.8-27B --allowed-origins "*" --port 8080 ```和``` 量化 llama-server -m ~/models/Qwen3.8-27B-GGUF/Qwen3.8-27B-UD-IQ2_XXS.gguf --alias Qwen3.8-27B --port 8080
    yeyucca2026-08-18AI10asfasfasq
    AI
  • yeyucca
    qwen 3.8 27B 5090单卡,256k上下文,promp fill 2.5-3k/s, decode 峰值可以在130+tks/s,均值在90tks/s热
    佬,我这边这个模型回复很慢,您知道咋优化吗 ![图片](https://cdn3.ldstatic.com/optimized/4X/b/5/a/b5aa0b3b83d8e2f913fc1c4d4ba8c1aa66eec546_2_690x489.png) ![图片](https://cdn3.ldstatic.com/optimized/4X/1/c/b/1cbbadc3547c10c65e3f
    yeyucca2026-08-18AI10asfasfasq
    AI
  • 一颗小小熊哟
    谁能来帮我评价一下我的 ChatGPT 镜像站
    先关注插眼,期待开源,l站因你更精彩
    一颗小小熊哟2026-08-17AI8GGgo
    AI
  • cmkbviurg
    Qwen3.8-27B-UD-Q8_K_XL.gguf 部署测试(AMD gfx1100)
    看着还不错呢,实际使用效果如何呀
    cmkbviurg2026-08-15AI2Zxkws
    AI
Zxkws
Zxkws
Lv1 · lao1 0
TA的主题TA的回帖我的称号TA的收藏
提示