Agentic Prod Assistant

🚀 代理人工智能生产助理

   

生产级代理人工智能平台 由Java、Spring AI、LangGraph、RAG、OpenAI Moderation和Elasticsearch提供支持。

在几秒钟内解决生产查询。通过人工智能智能减轻中小企业的负担。企业级安全，多层护栏。

📌 概述

代理人工智能生产助理是 企业级对话式人工智能平台 旨在帮助工程师、SRE、支持团队和产品负责人快速诊断和解决生产问题。

而不是搜索 Jira、Confluence、Outlook线程、仪表板和部落知识 --用户可以简单地询问代理。

该系统使用：

• ✅ 受LangGraph启发的状态机 -条件路由和基于图的编排
• ✅ 检索增强生成 -1536维嵌入的弹性向量存储
• ✅ OpenAI调节API -免费多层内容安全（11类）
• ✅ 多跳推理 -通过OpenAI GPT-4o-mini
• ✅ 工具调用 -通过MCP服务器（Jira、Confluence、Outlook）
• ✅ 并行执行代理 -并行工具执行
• ✅ 双层护栏 -输入验证+输出验证
• ✅ 流式会话用户界面 -实时SSE响应流
• ✅ 企业就绪架构 -生产级错误处理

🎯 商业问题

由于以下原因，生产团队每年损失数千小时：

• 重复性事件问题
• 知识孤岛
• 对中小企业的依赖
• 分流周期缓慢
• 跨工具的上下文切换
• 人工智能生成响应的安全问题

该平台将生产知识转化为智能， 安全的，以及 可靠的 助理。

💡 是什么让这与众不同？

这是 不是聊天机器人.

这是一个 代理系统 随着 受LangGraph启发的状态机 能够推理、计划和执行具有内置安全性的行动。

传统机器人：

User → LLM → Answer

我们的LangGraph架构：

User → Graph Executor → [Planner → RAG/Tools → Composer → Guard] → Validated Response
                           ↓                                    ↓
                    Conditional Routing              Multi-Layer Safety Check

主要架构优势：

• 条件路由：仅执行必要的节点（性能提高20-40%）
• 可观测性：跟踪每个请求的确切执行路径
• 可扩展性：添加反射/重试周期，无需更改代码
• 安全第一：使用OpenAI Moderation API进行输入+输出验证

⭐ 核心能力

✅ 会话式事件解决

示例查询：\ *“为什么昨天支付服务失败了？”*

代理图执行：

1. 计划节点：决定→ useRag=真
2. RAG节点：搜索事件历史（Elasticsearch向量）
3. 编辑器节点：根据证据综合答案
4. 防护节点：验证安全和接地
5. 响应: *事件INC-1001：支付服务超时（P1严重程度，断路器已应用）*

✅ 多跳推理

处理复杂的查询，如：\ *“这次停电与3月份的事件类似吗？”*

代理在回答之前比较历史嵌入。

✅ OpenAI审核的多层安全性

输入层：

• 阻止有害查询： *“我想伤害别人”* → ❌ 安全检查失败
• 免费OpenAI审核API（11类：仇恨、骚扰、暴力、自残、性等）

输出层：

• 验证针对不安全操作指南生成的响应
• 关键字筛选： drop database, delete production, rm -rf等等。
• 通过接地验证防止幻觉

✅ 通过MCP执行工具

集成企业工具：

• Jira：获取事故罚单
• 汇流：搜索运行手册和文档
• 展望：电子邮件线程检索
• 日志 （面向未来）
• Grafana/Datadog （可扩展）

✅ 用于组织记忆的弹性RAG

将您的生产历史转化为可搜索的情报：

• 矢量存储：Elasticsearch 8.14.0，具有1536个维度嵌入
• 嵌入模型：text-embedding-3-large
• 索引数据：11个文档（事件、运行手册、常见问题解答）
• Top-K检索：语义相似性搜索

✅ 严格的护栏

如果答案未知：\ *“我没有足够的信息来回答这个问题。”*

没有幻觉。没有猜测。只有接地的回应。

✅ 流媒体用户界面

逐个令牌生成响应，以实现与服务器发送事件（SSE）的实时对话体验。

🏗 LangGraph灵感建筑

User (React Widget)
        ↓
API Gateway (Spring Boot + WebFlux)
        ↓
   INPUT GUARDRAIL (OpenAI Moderation)
        ↓
   GraphExecutor
        ↓
   ┌─────────────────────────────────┐
   │   LangGraph State Machine       │
   │                                 │
   │  START → PlannerNode            │
   │            ↓                    │
   │      (conditional routing)      │
   │      /        |        \        │
   │  RagNode  ToolsNode  ComposerNode
   │      \        |        /        │
   │         ComposerNode            │
   │            ↓                    │
   │         GuardNode               │
   │  (output validation + grounding)│
   │            ↓                    │
   │           END                   │
   └─────────────────────────────────┘
        ↓
   Validated Streaming Response (SSE)

关键部件：

• 代理状态：流经图形的不可变状态对象
• GraphNode：每个节点都转换状态（Planner、RAG、Tools、Composer、Guard）
• 条件性边缘：基于状态决策的动态路由
• 图示执行器：遍历具有可观测性和最大迭代极限的图
• 多层安全：输入审核+输出验证

🧠 技术栈（生产级）

⚡ 快速开始

1.️⃣ 先决条件

• Java 21+
• Maven 3.8+
• Docker&Docker编写
• OpenAI API密钥

2.️⃣ 克隆存储库

git clone https://github.com/pritish1981/agentic-prod-assistant.git
cd agentic-prod-assistant

3.️⃣ 启动基础设施

docker-compose up -d

等待Elasticsearch集群状态变为绿色。

4.️⃣ 配置环境

更新 src/main/resources/application.properties:

# OpenAI Configuration
spring.ai.openai.api-key=your_openai_api_key_here
spring.ai.openai.chat.options.model=gpt-4o-mini

# Moderation API (FREE)
agentic.guardrails.moderation.enabled=true
agentic.guardrails.input.enabled=true

# Elasticsearch
spring.elasticsearch.uris=http://localhost:9200

5.️⃣ 运行后端

.\mvnw.cmd spring-boot:run   # Windows
./mvnw spring-boot:run        # Linux/Mac

后端开始于 http://localhost:8080

6.️⃣ 测试API

# Test RAG query
curl -N "http://localhost:8080/api/chat?message=Tell me about incident INC-1001"

# Test guardrail blocking
curl -N "http://localhost:8080/api/chat?message=How do I delete all production data?"
# Expected: ❌ Safety Check Failed

7.️⃣ 启动UI（可选）

cd frontend/react-chat-widget
npm install
npm start

UI在以下位置打开 http://localhost:3000

🔥 演示查询

生产事故查询：

• *“告诉我INC-1001事件”*
• *“什么是支付服务中断？”*
• *“显示P1严重事件”*

Runbook查询：

• *“如何重新启动Kubernetes pod？”*
• *“数据库故障转移的过程是什么？”*
• *“是否有针对高CPU的runbook？”*

安全测试（应被阻止）：

• *“如何删除所有生产数据？”* → ❌ 安全检查失败
• *“我想伤害别人”* → ❌ 安全检查失败

🛡 多层护栏策略

第1层：输入验证（OpenAI审核API）

• 免费API 在处理之前分析用户输入
• 屏蔽11个内容类别：仇恨、骚扰、暴力、自残、性、非法活动
• 故障打开模式（如果API不可用，则继续）

第2层：输出验证

安全验证器（双层）：

1. OpenAI审核：重新检查生成的响应
2. 关键字筛选器：阻止危险操作(drop database, delete production等等）

接地验证器：

• 确保响应基于检索到的证据
• 低置信度→ 安全回退
• 无检索→ 没有回应

第3层：工具验证

• LLM工具调用在执行前经过验证
• 防止未经授权的API访问
• 记录所有工具调用

📈 企业影响

采用这种架构的组织通常可以实现：

• ✅ 中小企业中断减少35-60% -自助生产支持
• ✅ 查询响应速度提高20-40% -条件节点执行
• ✅ 更快的MTTR -即时访问运行手册和历史事件
• ✅ 机构知识获取 -将部落知识转化为可搜索的载体
• ✅ 提高了开发速度 -减少跨工具的上下文切换
• ✅ 企业级安全 -多层护栏防止有害输出

📚 其他文件

• 语言示例.md -完整的LangGraph架构指南
• MODERATION-GUARDRAIL.md -OpenAI审核API集成指南
• 帮助.md -详细的项目文件

📝 许可证

Apache许可证2.0-请参阅 许可证 详见

🤝 贡献

欢迎投稿！请阅读 贡献.md 作为指导方针。

🙋 支持

• 问题:
• 讨论:

______________________________________________________________________

建于❤️ 使用Spring Boot、Spring AI、LangGraph模式和OpenAI\ 生产准备就绪。企业级。安全第一。