- 基围虾2026-10-04
国模与O/A的差距某种程度上是与ANY站的可用程度成反比的（玩笑之举）。有没有佬you深耕 强化学习后训练的，可以给解释下为何在SFT和cot的推理思维链时代，蒸馏没有作为国模追上O/A的主要手段。而在强化学习做后训练后，蒸馏这个词就被提及的这么频繁呢？ 难道国内的基模团队不能自己从头搭建强化学习后训练 么？ 国内的豆包好像就完全脱离 了这条路，但感觉还是没什么动静的样子 。 还是说大量的优质的数据都掌握在A\ O\ 这类公司的手里
主楼 - jinyu302026-10-04
- 漱漱みこ2026-10-04
- refalogy2026-10-04
oa的爬虫有什么报道或者案例吗？我没太听说过
- ba_lao2026-10-04
可以给解释下为何在 SFT 和 cot 的推理思维链时代，蒸馏没有作为国模追上 O/A 的主要手段。而在强化学习做后训练后，蒸馏这个词就被提及的这么频繁呢？
就用我自己的实际上的训练而言。
蒸馏不使用在sft上面的。
反倒是用在RL上面的。
因为SFT对模型是没有用处的，只有RL是有用处
- 路人甲2026-10-04
只有a没有o 已经把o除名了 模型垃圾要死 还慢
- refalogy2026-10-04
先说数据的问题，业界好像一般认为互联网上的公开数据已经用得差不多了（不过国模应该还没用完），真正高质量的数据需要自己造，比如让模型操作什么软件、写什么程序，这些任务得自己设计
蒸馏可以获得的一是从强模型处拿到正确且高质量的答案，二是思维链，用来教弱模型如何思考，比如什么时候该反思，什么时候多尝试。这比人类专家标注数据节省很多成本
还有软一点的蒸馏，比如做reward model