ollmo

Open LLM Orchestrator · 开源大模型编排器

数据不出门，用自己的知识库，打造专属 AI 生产力工具。

生产级 RAG 平台，提供混合检索、多租户隔离与流式对话能力。 后端基于 Go + Fiber ，前端基于 Next.js App Router + shadcn/ui 。

为什么做 ollmo

市面上的 AI 应用编排平台：工作流、节点、插件，几十个概念、上百项配置。想让 AI 帮个忙，得先花好几天学会一套复杂的系统。AI 本该让事情变简单，结果却背道而驰。

ollmo 把一切收敛成三步：上传文档、提出问题、拿到带出处的答案。一条命令部署，十分钟上手。

• 简单 — 只做一件事并做到极致：把你的文档变成能问答的助手。
• 易用 — 十分钟上手，不需要先学会一套比业务还复杂的系统。
• 克制 — 不堆概念、不加多余配置，复杂留在系统内部，简单留给你。

核心特性

• 混合检索 — 基于 Milvus 2.5+ 的稠密 + 稀疏向量检索，支持知识库级 Rerank 配置。
• 多租户 — MySQL 、Milvus 、MinIO 全链路逻辑隔离，所有表携带 tenant_id。
• 文档流水线 — 上传（拖拽、粘贴、多文件）→ 解析（ MinerU / 本地解析器）→ 分块 → 向量化 → 索引，全程异步（ Asynq + Redis ）。
• 流式对话 — SSE 实时流式输出，带来源引用； Agent 开场白带来拟人化问候。
• 自动记忆 — 长对话在后台自动生成摘要（异步 LLM 任务），摘要注入后续会话，实现跨对话上下文延续，支持站点级开关。
• Agent 画布 — 可视化编排 Agent 流水线（ React Flow ）：意图分类 → 检索 → 条件分支 → LLM → 直接回复。支持知识库级系统提示词、温度、top_k 、Rerank 开关、开场白与 LLM 选择。
• 数据处理流水线画布 — 可视化入库 DAG （ React Flow ）：来源 → 解析器 → 分块器 → 向量化 → 存储，可配置解析选项、分块策略与批大小。
• GraphRAG — 入库时 LLM 抽取实体与关系，查询时实体匹配增强检索上下文。
• 模型可配置 — 租户级管理 LLM / Embedding / Rerank 模型，知识库可单独指定。选择优先级：知识库配置 → 租户默认 → config.yaml 。
• 团队与权限 — 邀请制成员管理（所有者 / 管理员 / 成员），每用户每日消息配额，知识库级成员权限（查看者 / 编辑者 / 所有者）。
• 管理控制台 — 超级管理员用户管理、团队管理（计划与配额：免费版 / 专业版 / 企业版）、系统设置（注册开关、自动记忆）、数据分析看板、审计日志。
• 外部 API — API Key 鉴权的编程式访问（检索、知识库管理、流式对话）。
• 国际化 — 中英文界面，前后端消息契约，URL 不含语言标识。

技术栈

层	选型
后端	Go 1.26+ / Fiber / GORM
前端	Next.js 15 (App Router) / React / shadcn-ui
数据库	MySQL 8.0 (utf8mb4) — 元数据
向量库	Milvus 2.5+ — 稠密 + 稀疏混合检索
对象存储	MinIO （ S3 兼容）— 原始文档、解析产物、缩略图
任务队列	Asynq + Redis — 解析、向量化、索引重建、自动摘要
文档解析	MinerU （容器化，可选 GPU ）+ 本地解析器
认证	本地账号（邮箱 + 密码 + JWT ）

项目地址：

https://github.com/ollmo-go/ollmo

https://gitee.com/ollmo-go/ollmo

官网地址：

https://ollmo.com/

欢迎大家点赞，感谢大家。