awesome-llm
github.com/xiaomingx/awesome-llm ↗Awesome-LLM: a curated list of Large Language Model.🔥 大型语言模型（LLM）已经席卷了 全球，不再局限于 NLP 或 AI 社区。这里整理了一些关于大型语言模型，特别是与 ChatGPT 相关的研究论文，涵盖了 LLM 训练框架、部署工具、课程与教程，以及所有公开的 LLM 检查点和 API。
Use this list with your AI agent
Add the Context Awesome MCP server to Claude, Cursor, or any MCP client, then ask:
"Show me 推理网关 (inference gateways) resources from awesome-llm"
Installation instructions →What's inside
LLM教程与课程 (2025版)
- Andrej Karpathy's LLM101n
Karpathy 大神的最新课程，教你从零构建一个 Storyteller AI。
- DeepLearning.AI Short Courses
包含 RAG、Agent、Fine-tuning 等大量免费短课程。
- Generative AI with LLMs (Coursera)
AWS 和 DeepLearning.AI 联合推出的实战课程。
LLM训练框架
- Axolotl
配置化微调工具，支持绝大多数主流开源模型。
- ColossalAI
面向大模型时代的统一并行训练系统，支持异构内存管理，显著降低显存开销。
- DeepSpeed
依然是超大规模集群预训练的基石。
- Firefly
全能型训练框架，支持预训练、SFT、DPO，适配 Qwen/Llama 等主流模型。
- Llama-Factory
提供 WebUI 的微调框架，对中文用户非常友好。
- Unsloth
LLM 部署与推理 (Deployment & Inference)
- BentoML推理网关 (Inference Gateways)
将模型打包为生产级微服务的统一框架。
- Inference Gateway推理网关 (Inference Gateways)
企业级 AI 网关，统一管理 OpenAI/Ollama/Anthropic 等接口，支持 MCP 协议。
- LightLLM推理引擎 (Inference Engines)
纯 Python/Triton 实现的轻量级推理框架，易于修改和扩展。
- LiteLLM推理网关 (Inference Gateways)
- llama.cpp推理引擎 (Inference Engines)
边缘计算神器。纯 C++ 实现，针对 Apple Silicon 和 CPU 极致优化。
- llm-d推理网关 (Inference Gateways)
Kubernetes 原生的分布式推理栈，集成了 vLLM 和网关。
强化学习与机器人 (RL & Robotics)
- CleanRL强化学习 (Reinforcement Learning)
单文件实现的 RL 算法库 (PPO/DQN)，代码极其简洁，适合入门与魔改。
- Easy-RL强化学习 (Reinforcement Learning)
经典的强化学习中文教程（蘑菇书），配套完善的代码实践。
- MuJoCo具身智能 (Robotics/Embodied AI)
DeepMind 开源的高精度物理引擎，RL 机器人研究的标准环境。
- OpenManipulator具身智能 (Robotics/Embodied AI)
基于 ROS 的开源机械臂平台，支持完整的仿真到实物迁移。
- RLlib (Ray)强化学习 (Reinforcement Learning)
工业级分布式 RL 训练框架，支持大规模多智能体环境。
- RoboNet具身智能 (Robotics/Embodied AI)
大规模机器人交互数据集，用于泛化策略学习。
LLM 编程助手 (AI Coding Assistants)
多模态嵌入 (Multimodal Embeddings)
LLM应用与智能体 (Agent)
Showing a sample of 73 resources. View the full list on GitHub →