- AI
- AI聊天可以,coding就别想了哈哈哈哈,我今天用opencode+5080(16GB)+64GB来试了试qwen3.8 27B,非常慢(只有0.5-0.3tokens/s),根本不具备任何工程上的使用意义 ^-^
- AIcoding分完善想法和实际工作两个大部分。尽可能节约花费的要点就是让重型模型来填充你的思路(例如gpt的terra和sol),把整体工程架构完善(这个过程甚至可以使用模型厂商自己的免费聊天来帮你做前期规划)。这之后把技术文档翻译成可以使用的代码和修改一些bug,调优就是轻型模型的事了(例如gpt的luna,哪个便宜用哪个)。站内也有大佬的公益站,可以去那里拿一些免费额度。总结一下就是:让正确的模
- AI我自己就很喜欢本地部署模型那种螺蛳壳里做道场的感觉,但是本地小语言模型有一个很巨大的问题:部署的硬件成本对个人很高,对企业来说又不如直接购买api划算。 而且就算解决了硬件成本,调试依旧很费功夫。每个人有不同的硬件配置,需要按照实际的工况来计划内存和显存的使用。种种限制导致了小模型的应用面非常窄,愿意为之付出时间精力的开发者就更少了。 但是我个人对小模型的前景相当看好。我认为简单的任务就应该交给本