对普通笔电即可带动的mini多模态模型（默认前提为量化版本）前端能力的斗蛐蛐测试

LianHe9510 · 2026-10-06T22:02:00+08:00

本人电脑配置如下偶然听得网上说有bonsai做的新的27b（基于qwen3.8 27b）三值极端量化模型可本地部署，速度也很快，即便只有12GB显存也可爽玩，于是拉来和我以往玩过的几个模型做了两轮的前端图一乐测试，本来没抱有多大希望（感觉实在是量化的太狠了），不过最终结果反而有点意外我挑了三个选手来和bonsai2做对比，分别是Qwen3.6-35B-A3B Q4_K_M，Ornith-1.5-35B-A3B IQ4_XS，Ornith-1.5-9B Q6_K，运行配置统一为 131K 上下文（除了bonsai是nvfp4的QV量化，其余都是Q8Q4混合QV量化），温度 0.4，复读惩罚系数1.08，最大思考程度，交给了Antigravity里的Gemini帮我做自动化测试和分析，一共就两个测试题目，一个是经典的鹈鹕骑车测试，另外是一个3d的小房子配一个樱花树。稍后补下鹈鹕的斗蛐蛐结果

211

LianHe95102026-10-06
22901
本人电脑配置如下
偶然听得网上说有bonsai做的新的27b（基于qwen3.8 27b）三值极端量化模型可本地部署，速度也很快，即便只有12GB显存也可爽玩，于是拉来和我以往玩过的几个模型做了两轮的前端图一乐测试，本来没抱有多大希望（感觉实在是量化的太狠了），不过最终结果反而有点意外
我挑了三个选手来和bonsai2做对比，分别是Qwen3.6-35B-A3B Q4_K_M，Ornith-1.5-35B-A3B IQ4_XS，Ornith-1.5-9B Q6_K，运行配置统一为 131K 上下文（除了bonsai是nvfp4的QV量化，其余都是Q8Q4混合QV量化），温度 0.4，复读惩罚系数1.08，最大思考程度，交给了Antigravity里的Gemini帮我做自动化测试和分析，一共就两个测试题目，一个是经典的鹈鹕骑车测试，另外是一个3d的小房子配一个樱花树。稍后补下鹈鹕的斗蛐蛐结果
主楼
LianHe95102026-10-06
22901
鹈鹕测试的结果已出，详情见下
总表
#1
LianHe95102026-10-06
22901
Qwen3.6的情况，其实我反而觉得是里边最好的，等会看其他几个就知道为什么我这么说了（
三帧截图
#2
LianHe95102026-10-06
22901
Orinth1.5的结果，其实这个脚还算可以，但这个翅膀给我看笑了，个人给低分，不过自行车的结构是这几个里画的最好的
三帧截图
#3
LianHe95102026-10-06
22901
9b的结果，hhh其实有点为难它了，轮子直接没了（那个我不觉得是轮子吧）
依旧三帧截图，腿扭动的很离谱
#4
LianHe95102026-10-06
22901
果然不出所料喵
#5
LianHe95102026-10-06
22901
提一嘴，所有模型均在Pi（就是那个极简agent）下做测试
#6
wuhenzha2026-10-06
11131
普通笔电12G显存么 ^-^
那我8G的游戏本算什么
#7
LianHe95102026-10-06
22901
重要的来了，这是bonsai的结果
其实我感觉很丑呀，也不知道哈基米怎么就觉得好看的，这个结构全压在一起了，个人觉得排第三还差不多，当然它结构考虑的还算细致（多？
三帧截图，动作确实是最好的
#8
LianHe95102026-10-06
22901
其实在25年年中那会5070ti笔电也就8000来块，姑且算大众笔电吧，虽然现在已经涨价很离谱^-^（
#9
LianHe95102026-10-06
22901
小房子和樱花树测试的结果情况如下
#10
LianHe95102026-10-06
22901
首先是qwen,这个墙和窗户怎么滚木了啊？樱花树不错，昼夜写的也还行吧，对夕阳下的处理差评
白天
夕阳
夜晚
#11

发表回复

登录后回复