用自然语言构建企业级 Agent 应用

大模型能力突飞猛进,但真正落到企业业务里,大多数团队却卡在同一个难题上:没有算法团队,业务同学不会调模型,Token 成本和权限也没人管。AI 灵枢正是为破解这一困局而生——作为新一代企业智能体编排平台,它支持接入企业内部数据源与知识库,无需 AI 工程师,也无需新增团队,业务人员只需用自然语言描述需求,AI 便会自动生成完整的 Agent 应用即时使用,省去复杂的研发流程;同时提供私有化部署方案,确保数据安全可控。

关键词:#AI #Agent编排 #RAG #私有化部署 #企业AI转型

产品说明

当企业想落地 AI 时,缺的不是模型,而是一套"编排系统":聊聊 AI 灵枢的架构设计

AI 灵枢主视觉

写在前面

过去两年,大模型的能力突飞猛进,但真正要把 AI 落到企业业务里,大多数团队卡在三个地方:不会建(没有算法团队)、不会用(业务同学不懂怎么调模型)、不会管(谁来统计 Token 成本、谁来管控权限)。

我们做的 AI 灵枢(ailinshu.com,定位很直接——企业级 AI 智能体编排平台,一句话标语叫"万智互联,一枢统编"。它要解决的,就是让企业"零代码接入 AI、快速落地业务场景",并且支持完全私有化部署

这篇文章从工程视角,把它的核心能力、技术栈和部署方案拆开讲清楚。

---

一、整体架构:6 个微服务 + 统一前端

平台后端是 Go + Gin 实现的微服务架构,按职责拆成 5 个服务,前端用 Next.js 16 + React 19 统一入口,通过 rewrites 代理到各后端:

服务

职责

Auth Service

认证(JWT 双 Token + RSA 加密)、用户/角色/权限/租户管理

Agent Service

Agent、拓扑编排、统计执行、调度 Worker、模型配置、AI 检索

Execution Service

调度管理(CronScheduler)、执行记录、通知通道/规则

Knowledge Service

知识库、文档上传/分块/向量化、向量检索

Skill Service

技能 、分类/类型管理、链接注册、调用记录

前端(Next.js)

统一入口,代理各后端服务

配套基础设施:

  • PostgreSQL
  • Redis
  • Milvus
  • MinIO

多 Agent 协作架构

---

二、核心能力一:可视化 Agent 编排

这是平台的构建核心。Agent 编排器提供可视化拖拽式 DAG(有向无环图)拓扑编辑器,支持 10 种节点类型

节点

说明

Supervisor

全局协调者,流程控制与子任务分配

ReAct

推理-行动循环,动态决策下一步

DAG

按预定义流程顺序执行

Parallel

并行执行多个子任务后汇总

HITL

人工审批,暂停等待人工确认

RAG

知识库检索增强

WebSearch

联网搜索

MCP

连接外部 MCP Server 工具

Condition

条件分支

Loop

循环执行

此外还有通知节点数据库查询节点两类辅助节点,可对接 PostgreSQL / MySQL 执行 SQL。

编排完成后,每个应用关联一个系统提示词,支持自动生成 / AI 优化 / 手动编写三种方式。

智能体编排引擎拓扑

---

三、核心能力二:AI 工厂,自然语言到拓扑

更低门槛的入口是 AI 工厂。用户用自然语言描述业务目标即可,例如:

"统计每天订单数据,按类别分组,生成趋势图表,并推送到管理群"

平台会做关键词分析(订单/统计 → 数据库查询节点,推送/通知 → 通知节点),再用 LLM 编译生成差异化拓扑;LLM 失败时降级为规则编译。预览确认后即可生成可运行的 Agent。

---

四、核心能力三:知识库与 RAG 链路

知识库模块提供企业文档全生命周期管理:创建 → 上传 → 分块 → 向量化 → 检索

  • 支持 PDF / Word / TXT / Markdown
  • 上传后自动:解析 → 语义分块 → Embedding 向量化 → 写入 Milvus
  • Embedding 模型支持 OpenAI / DashScope / 自定义,Collection 维度自适应
  • 异步处理架构:立即返回文档 ID → 后台最多 5 并发处理 → 前端轮询进度

检索时,查询文本经 Embedding 生成向量,Milvus 相似度检索返回 top_k 分块,并标注来源文档与相关度分数。

---

五、核心能力四:三源智能检索

首页仪表盘的全局 AI 检索,融合三种数据来源生成综合报告:

  1. 企业知识库(RAG):向量检索相关文档片段
  2. 网络资料(Web Search):联网搜索公开信息
  3. AI 深度分析:大模型汇总多源资料,生成结构化报告并标注引用来源

三源融合智能检索

---

六、调度、执行与成本管控

调度管理支持三种触发方式:

  • Cron 定时:如 `0 9 *` 每天 9:00
  • Webhook:`POST /api/v1/webhook/trigger/{token}` 外部触发
  • 手动:页面点击触发

执行监控对每次执行保留完整快照(指标、图表、AI 分析),历史可回看。通知通道覆盖企业微信 / 钉钉 / 邮件 / Webhook,消息含关键指标摘要、AI 结论与"查看详情"链接。

成本分析模块做 Token 计量与预算告警:按应用、按模型统计消耗,月度预算达到 80% 触发告警。

调度执行架构大致是:Execution Service 的 CronScheduler 每分钟扫描到期 schedule 并建执行记录,Agent Service 的 Worker 每 2 秒扫描待执行任务,跑 SQL + LLM 分析(30–120s),写快照并回写状态,最后推送通知。

---

七、私有化部署:数据不出企业边界

这是 AI 灵枢的重点能力。支持三种部署形态:

  • 物理机部署:企业内部物理服务器,完全离线
  • 私有云部署:VMware / OpenStack
  • 容器化部署:Docker / Kubernetes

安全上做了四重防护

  • 数据传输加密(SSL/TLS + RSA-2048)
  • 数据脱敏展示(敏感字段自动脱敏)
  • 操作审计日志(全链路可追溯)
  • 细粒度访问控制(API 级 + 按钮级)

还有几个工程亮点:2 核 4GB 即可运行、云端 SaaS 与私有化同库同构(44 张表)可 pg_dump 迁移、只要模型端点可达即可运行、不强制依赖外网。

私有化部署全景

---

八、上手成本与效果

官方给出的上手路径:30 分钟首个 Agent 上线,30 天内实现可量化 ROI。

典型企业(100 人团队)效果估算:

指标

使用前

使用后

知识检索耗时

30 分钟/次

3 秒/次(600×)

客户响应时间

4 小时

15 秒

报告生成周期

3 天

10 分钟

人工处理成本

¥50 万/年

¥8 万/年

年节省工时

2400 小时

3 年 ROI 约 520%,投资回收期约 3 个月(总投入 ¥130 万 → 总收益 ¥463 万)。

效率提升对比

结语

AI 灵枢不是又一个聊天框,而是一套把"模型能力"组装成"可运行业务应用"的编排系统,同时把权限、成本、调度、私有化这些企业真正在意的事都管了起来。

  • 官网:ailinshu.com
  • 定位:企业级 AI 智能体编排平台
  • 核心卖点:零代码构建 · 多模型接入 · SaaS + 私有化部署

如果你也在做企业 AI 落地,欢迎在评论区聊聊你们踩过的坑。

平台能力全景

Logo

一站式 AI 云服务平台

更多推荐