如何构建新一代快应用平台--agent应用平台
用自然语言构建企业级 Agent 应用
大模型能力突飞猛进,但真正落到企业业务里,大多数团队却卡在同一个难题上:没有算法团队,业务同学不会调模型,Token 成本和权限也没人管。AI 灵枢正是为破解这一困局而生——作为新一代企业智能体编排平台,它支持接入企业内部数据源与知识库,无需 AI 工程师,也无需新增团队,业务人员只需用自然语言描述需求,AI 便会自动生成完整的 Agent 应用即时使用,省去复杂的研发流程;同时提供私有化部署方案,确保数据安全可控。
关键词:#AI #Agent编排 #RAG #私有化部署 #企业AI转型
产品说明:
当企业想落地 AI 时,缺的不是模型,而是一套"编排系统":聊聊 AI 灵枢的架构设计
AI 灵枢主视觉

写在前面
过去两年,大模型的能力突飞猛进,但真正要把 AI 落到企业业务里,大多数团队卡在三个地方:不会建(没有算法团队)、不会用(业务同学不懂怎么调模型)、不会管(谁来统计 Token 成本、谁来管控权限)。
我们做的 AI 灵枢(ailinshu.com),定位很直接——企业级 AI 智能体编排平台,一句话标语叫"万智互联,一枢统编"。它要解决的,就是让企业"零代码接入 AI、快速落地业务场景",并且支持完全私有化部署。
这篇文章从工程视角,把它的核心能力、技术栈和部署方案拆开讲清楚。
---
一、整体架构:6 个微服务 + 统一前端
平台后端是 Go + Gin 实现的微服务架构,按职责拆成 5 个服务,前端用 Next.js 16 + React 19 统一入口,通过 rewrites 代理到各后端:
|
服务 |
职责 |
|
Auth Service |
认证(JWT 双 Token + RSA 加密)、用户/角色/权限/租户管理 |
|
Agent Service |
Agent、拓扑编排、统计执行、调度 Worker、模型配置、AI 检索 |
|
Execution Service |
调度管理(CronScheduler)、执行记录、通知通道/规则 |
|
Knowledge Service |
知识库、文档上传/分块/向量化、向量检索 |
|
Skill Service |
技能 、分类/类型管理、链接注册、调用记录 |
|
前端(Next.js) |
统一入口,代理各后端服务 |
配套基础设施:
- PostgreSQL
- Redis
- Milvus
- MinIO
多 Agent 协作架构

---
二、核心能力一:可视化 Agent 编排
这是平台的构建核心。Agent 编排器提供可视化拖拽式 DAG(有向无环图)拓扑编辑器,支持 10 种节点类型:
|
节点 |
说明 |
|
Supervisor |
全局协调者,流程控制与子任务分配 |
|
ReAct |
推理-行动循环,动态决策下一步 |
|
DAG |
按预定义流程顺序执行 |
|
Parallel |
并行执行多个子任务后汇总 |
|
HITL |
人工审批,暂停等待人工确认 |
|
RAG |
知识库检索增强 |
|
WebSearch |
联网搜索 |
|
MCP |
连接外部 MCP Server 工具 |
|
Condition |
条件分支 |
|
Loop |
循环执行 |
此外还有通知节点与数据库查询节点两类辅助节点,可对接 PostgreSQL / MySQL 执行 SQL。
编排完成后,每个应用关联一个系统提示词,支持自动生成 / AI 优化 / 手动编写三种方式。
智能体编排引擎拓扑

---
三、核心能力二:AI 工厂,自然语言到拓扑
更低门槛的入口是 AI 工厂。用户用自然语言描述业务目标即可,例如:
"统计每天订单数据,按类别分组,生成趋势图表,并推送到管理群"
平台会做关键词分析(订单/统计 → 数据库查询节点,推送/通知 → 通知节点),再用 LLM 编译生成差异化拓扑;LLM 失败时降级为规则编译。预览确认后即可生成可运行的 Agent。
---
四、核心能力三:知识库与 RAG 链路
知识库模块提供企业文档全生命周期管理:创建 → 上传 → 分块 → 向量化 → 检索。
- 支持 PDF / Word / TXT / Markdown
- 上传后自动:解析 → 语义分块 → Embedding 向量化 → 写入 Milvus
- Embedding 模型支持 OpenAI / DashScope / 自定义,Collection 维度自适应
- 异步处理架构:立即返回文档 ID → 后台最多 5 并发处理 → 前端轮询进度
检索时,查询文本经 Embedding 生成向量,Milvus 相似度检索返回 top_k 分块,并标注来源文档与相关度分数。
---
五、核心能力四:三源智能检索
首页仪表盘的全局 AI 检索,融合三种数据来源生成综合报告:
- 企业知识库(RAG):向量检索相关文档片段
- 网络资料(Web Search):联网搜索公开信息
- AI 深度分析:大模型汇总多源资料,生成结构化报告并标注引用来源
三源融合智能检索

---
六、调度、执行与成本管控
调度管理支持三种触发方式:
- Cron 定时:如 `0 9 *` 每天 9:00
- Webhook:`POST /api/v1/webhook/trigger/{token}` 外部触发
- 手动:页面点击触发
执行监控对每次执行保留完整快照(指标、图表、AI 分析),历史可回看。通知通道覆盖企业微信 / 钉钉 / 邮件 / Webhook,消息含关键指标摘要、AI 结论与"查看详情"链接。
成本分析模块做 Token 计量与预算告警:按应用、按模型统计消耗,月度预算达到 80% 触发告警。
调度执行架构大致是:Execution Service 的 CronScheduler 每分钟扫描到期 schedule 并建执行记录,Agent Service 的 Worker 每 2 秒扫描待执行任务,跑 SQL + LLM 分析(30–120s),写快照并回写状态,最后推送通知。
---
七、私有化部署:数据不出企业边界
这是 AI 灵枢的重点能力。支持三种部署形态:
- 物理机部署:企业内部物理服务器,完全离线
- 私有云部署:VMware / OpenStack
- 容器化部署:Docker / Kubernetes
安全上做了四重防护:
- 数据传输加密(SSL/TLS + RSA-2048)
- 数据脱敏展示(敏感字段自动脱敏)
- 操作审计日志(全链路可追溯)
- 细粒度访问控制(API 级 + 按钮级)
还有几个工程亮点:2 核 4GB 即可运行、云端 SaaS 与私有化同库同构(44 张表)可 pg_dump 迁移、只要模型端点可达即可运行、不强制依赖外网。
私有化部署全景


---
八、上手成本与效果
官方给出的上手路径:30 分钟首个 Agent 上线,30 天内实现可量化 ROI。
典型企业(100 人团队)效果估算:
|
指标 |
使用前 |
使用后 |
|
知识检索耗时 |
30 分钟/次 |
3 秒/次(600×) |
|
客户响应时间 |
4 小时 |
15 秒 |
|
报告生成周期 |
3 天 |
10 分钟 |
|
人工处理成本 |
¥50 万/年 |
¥8 万/年 |
|
年节省工时 |
— |
2400 小时 |
3 年 ROI 约 520%,投资回收期约 3 个月(总投入 ¥130 万 → 总收益 ¥463 万)。
效率提升对比


结语
AI 灵枢不是又一个聊天框,而是一套把"模型能力"组装成"可运行业务应用"的编排系统,同时把权限、成本、调度、私有化这些企业真正在意的事都管了起来。
- 官网:ailinshu.com
- 定位:企业级 AI 智能体编排平台
- 核心卖点:零代码构建 · 多模型接入 · SaaS + 私有化部署
如果你也在做企业 AI 落地,欢迎在评论区聊聊你们踩过的坑。
平台能力全景

更多推荐




所有评论(0)