|
|
00083627f7
|
docs: 添加项目 README 文档
内容:
- 项目背景: LLM 路由的必要性，灵感来源 tx402.ai
- 核心方法: NVIDIA 多头分类器 8 维度分析 + 综合评分公式
- 技术架构: FastAPI + NVIDIA Classifier + LiteLLM 分层架构
- Apple Silicon 优化: MPS + FP16 加速说明
- 实现效果: 路由准确性表格、成本优化数据（16次调用$0.011）
- 路由延迟: M4 Pro 稳态 60-90ms，占 LLM 调用 < 2%
- 快速开始: 安装/配置/启动完整指南
- API 使用: Python OpenAI SDK 示例和响应格式说明
- 项目结构和后续计划
|
2026-04-19 01:06:55 +08:00 |
|
