开源 RNN 语言模型，兼具 Transformer 级性能与并行训练，100% attention-free
RWKV 是 Linux Foundation AI 项目，官网自述「an RNN with great LLM performance and parallelizable like a Transformer」，100% attention-free，具备 linear time、 constant space（no kv-cache）、infinite ctxlen 等特性。当前主打 RWKV-7 "Goose" reasoning models，权重托管于 Hugging Face（含 GGUF 与 Ollama 版本），提供 7B/13B 在线 Demo，训练仓库 RWKV-LM 在 GitHub 已获 14.7k star。周边项目含 全平台客户端 RWKV App（Android/iOS/PC/Mac/Linux）、桌面 GUI RWKV-Runner、 微调库 RWKV-PEFT（官方称「9GB VRAM can finetune 7B」）与高效推理 Albatross。 官网已发布 RWKV-8 ROSA（Rapid Online Suffix Automaton）机制讲解，称其为 「neurosymbolic infinite-range lossless information propagator to replace attention」；面向 LLM 研究者与开发者，全站开源免费。
暂无相关文章。
