• 极个别同志

    Recursive 昨天(10/21)发布了首个模型 Flint,主打在自己电脑上跑的编程模型,Apache 2.0 协议。

    图片

    - 规格:40B 总参、2.5B 激活的 MoE,从零训练,用时不到 4 个月

    - 怎么做的:架构搜索、量化、kernel 优化等环节都由他们的自动化 AI 研究系统 Eureka Machine 深度参与

    - 速度:M4 Pro MacBook Pro 上 125+ tok/s,64GB RTX Spark 上 150+ tok/s

    - 跑分:SWE-bench Verified 74.2、Terminal-Bench 2.1 54.9,50B 以下的 MoE 里领先,但和同尺寸的 dense 模型(如 Qwen 3.8)比还差一截

    - 上下文:最高 512k,建议控制在 256k 以内

    - 使用:Ollama、LM Studio、llama.cpp、vLLM 等都已支持,opencode 和 pi 上可以免费试

    博客:Introducing Flint - Recursive

    HF:RecursiveSI/flint · Hugging Face

    原推:X 上的 Richard Socher:“Introducing Flint, @Recursive_SI’s first model: a fast local coding model built with our automated research system, the Eureka Machine. • Best-in-class fast local coding • Up to 2x faster than comparable models: 125+ tokens/sec on a MacBook Pro, 150+ on RTX Spark • Built from… / X

    主楼
  • 嬴麻

    感觉用处不大,本地部署一般搞那种 uncensored。

    这种小模型拿来编程会很难受

    #1
  • OctoberSama

    开放权重了uncensored版本一般就快了吧

    #2

发表回复

登录后回复