Realm9人工智能代理系统
用于智能地形基础设施管理和Kubernetes可观察性的多层AI代理架构
   
概述
Realm9 AI Agent系统是一个综合实现，结合了三个关键组件：
- AI地形代码编辑器 -使用BYOK（自带钥匙）的LLM驱动的基础设施即代码对话界面
- 模型上下文协议（MCP）服务器 -拥有45多种基础设施管理工具的标准化工具提供商
- Kubernetes观察性代理 -使用OTLP收集器进行自部署集群监控
该架构支持自然语言基础设施管理，同时维护安全性、可审计性和GitOps工作流。
自带钥匙（BYOK）
Realm9支持 带上自己的钥匙 模型，允许您使用来自首选LLM提供商的您自己的API密钥。这确保了：
- 数据主权 -您的基础设施对话将保留在LLM帐户中
- 成本控制 -您可以直接管理和优化您的法学硕士支出
- 供应商选择 -根据您的需求在提供商之间切换
- 合规 -满足数据驻留和隐私要求
支持的LLM提供商:
- OpenAI（GPT-4o、GPT-4o-mini、GPT-5）
- 人本主义（克劳德4.5十四行诗，克劳德4.1作品，克劳德4.5俳句）
- Azure OpenAI（所有OpenAI模型均通过Azure）
- 谷歌顶点AI（双子座型号）-即将于2025年第一季度推出
- AWS Bedrock（Claude、Llama型号）-即将于2025年第一季度推出
系统架构
┌────────────────────────────────────────────────────────────┐
│ Realm9 Platform UI │
│ ┌──────────────┬──────────────┬─────────────────────────┐│
│ │ Terraform │ Agent │ Observability ││
│ │ Editor │ Chat │ Dashboard ││
│ └──────────────┴──────────────┴─────────────────────────┘│
├────────────────────────────────────────────────────────────┤
│ Agent Server │
│ ┌──────────────────────────────────────────────────────┐ │
│ │ LLM Integration + Tool Call Processing │ │
│ │ - Conversation management (Redis-backed) │ │
│ │ - Iterative tool execution │ │
│ │ - Frontend/backend tool separation │ │
│ └──────────────────────────────────────────────────────┘ │
├────────────────────────────────────────────────────────────┤
│ MCP Server (Model Context Protocol) │
│ ┌─────────────┬────────────────┬─────────────────────┐ │
│ │ Database │ File System │ Terraform Exec │ │
│ │ Queries │ Management │ & Monitoring │ │
│ │ (45+ standardized tools) │ │
│ └─────────────┴────────────────┴─────────────────────┘ │
├────────────────────────────────────────────────────────────┤
│ Redis State Layer (TTL-managed) │
│ - Unified editor state (files, UI) │
│ - Chat history │
│ - Agent sessions │
│ - Tool call queues │
├────────────────────────────────────────────────────────────┤
│ PostgreSQL Database │
│ - Agent registrations (Kubernetes clusters) │
│ - Observability services & deployments │
│ - Terraform projects, workspaces, runs │
├────────────────────────────────────────────────────────────┤
│ Kubernetes Cluster (User's) │
│ ┌──────────────────────────────────────────────────────┐ │
│ │ realm9-agent (Helm deployed) │ │
│ │ - Config polling │ │
│ │ - OTLP collector deployment │ │
│ │ - Heartbeat reporting │ │
│ └──────────────────────────────────────────────────────┘ │
└────────────────────────────────────────────────────────────┘组件1：AI地形代码编辑器
它做什么
AI Terraform代码编辑器提供了一个对话界面，用于将基础设施作为代码进行管理。工程师可以用自然语言描述他们想要构建的东西，AI代理生成、修改和执行Terraform代码。
主要特点
自然语言到地形
- 工程师用简明的英语描述基础设施要求
- AI代理读取现有项目文件并了解当前状态
- 根据最佳实践生成地形配置
- 使用验证更新编辑器中的文件
- 解释更改并提供指导
智能代码理解
- 解析现有的Terraform以了解当前的基础设施
- 添加新资源时保留现有资源
- 遵循Terraform最佳实践
- 更改前进行验证
GitOps集成
- 所有更改同步到Git存储库
- 提交AI生成的消息
- 分行管理支持
- 拉取请求工作流就绪
建筑
代理系统使用多层架构：
- 代理服务器：管理LLM对话和工具编排
- 工具执行：将后端工具（即时执行）与前端工具（循环中的用户）分开
- 状态管理：基于Redis的临时状态，具有自动TTL清理功能
- 安全：具有组织范围访问的多租户隔离
组件2：模型上下文协议（MCP）服务器
它做什么
MCP服务器为AI代理访问基础设施管理工具提供了一个标准化的接口。它实现了 模型上下文协议 规范，允许代理在不知道实现细节的情况下发现和调用工具。
为什么选择MCP？
工具抽象:
- 代理不需要直接访问数据库或系统
- 无需更改代理代码即可升级工具
- 所有工具的一致界面
- 易于添加新功能
标准化:
- MCP是人工智能工具访问的新兴标准
- 适用于任何LLM提供商（OpenAI、Anthropic、Azure OpenAI等）
- 可跨代理框架移植
- 实现LLM提供商之间的轻松切换
工具类别
MCP服务器提供多个类别的45多种工具：
- 数据库查询工具：项目详细信息、工作区信息、云凭据
- 文件管理工具：地形文件操作、Git状态、文件树导航
- 执行和监控工具：地形规划/应用、运行日志、健康检查
- 基础设施工具：验证、部署、Git操作
安全模型
- 代理无法绕过工具接口直接访问系统
- 所有查询均按组织过滤，以实现多租户隔离
- Redis TTL自动清理防止数据泄漏
- 无法跨项目或跨组织访问
组件3:Kubernetes可观察性代理
它做什么
Kubernetes Observability Agent是一个在用户集群内运行的自部署监控系统。一旦通过Helm安装，它就会自动为每个可观测性服务部署OpenTetry收集器，将日志/指标/跟踪转发给RO9可观测性，并报告健康状态。
代理生命周期
- 用户在Realm9 UI中创建可观察性服务
- 系统使用API密钥生成安装命令
- 用户在其集群中运行Helm命令
- 代理启动并使用API密钥进行身份验证
- 代理轮询配置更新
- 代理根据需要部署OTLP收集器
- 采集器将遥测数据转发给RO9
- 代理发送带有部署状态的心跳
- UI显示实时状态和健康状况
安全特性
API密钥安全:
- 加密随机生成
- SHA-256哈希存储（从不明文）
- 仅HTTPS传输
- 创建时一次性显示
- 通过UI支持旋转
网络安全:
- 代理只进行出站呼叫（不需要入站防火墙规则）
- 无需Webhook或入站连接
- 跨NAT、防火墙和气隙环境工作
技术栈
| 层 | 技术 | 目的 |
|---|---|---|
| 人工智能模型（BYOK） | OpenAI、Anthropic、Azure OpenAI | 使用API密钥进行智能和推理 |
| 工具协议 | 模型上下文协议（MCP） | 标准化工具接口 |
| 代理运行时 | Express.js（Node.js） | 用于代理逻辑的HTTP服务器 |
| MCP服务器 | Express.js+StreamableHTTP | 工具提供者 |
| 状态管理 | Redis（ioredis） | 会话、聊天、编辑器状态 |
| 数据库 | PostgreSQL+Prisma | 代理注册表、项目、服务 |
| 容器运行时 | Docker | 代理和收集器映像 |
| 编排 | Kubernetes | 作业执行、代理部署 |
| 包管理器 | Helm 3 | Kubernetes部署 |
| 版本控制 | GitHub/GitLab API | Git集成 |
| 可观测性 | OpenTetry（OTLP） | 日志、指标、跟踪收集 |
关键架构模式
模式1：通过MCP进行工具抽象
- 代理在运行时从MCP服务器发现工具
- 工具对代理来说是黑匣子（没有实现知识）
- 无需修改代理代码即可轻松添加新工具
- 标准化的错误处理和结果格式化
模式2：前端/后端工具分离
- 后端工具：立即执行，返回数据
- 前端工具：暂停代理，请求UI执行，带结果恢复
- 启用人在循环工作流程
- 在长时间操作期间保持响应式UI
模式3：以Redis为中心的短暂状态
- Redis中的所有会话状态（非数据库）
- 基于TTL的自动清理（无需手动清理）
- 快速访问（亚毫秒延迟）
- 水平扩展（Redis集群）
模式4：基于轮询的代理通信
- 代理仅进行OUTBOUND调用（无入站防火墙规则）
- 后端从不调用代理（没有webhook复杂性）
- 简单部署（无负载均衡器、入口、证书）
- 适用于NAT、防火墙、气隙环境
模式5：多租户隔离
- 所有代理注册均适用于组织
- 在所有查询中按组织筛选的服务
- 安全地对API密钥进行哈希和比较
- 不可能发生跨组织数据泄漏
益处
平台工程团队
- 降低复杂性：环境管理、地形和可观察性的单一平台
- 更快的登机：自然语言界面降低了进入门槛
- 成本节约：带上你自己的LLM钥匙，只为你使用的东西付费
- 数据控制：所有基础设施对话都保留在您的LLM帐户中
对于组织
- 合规就绪：BYOK模型符合数据驻留要求
- 供应商灵活性：在不更改平台的情况下在LLM提供商之间切换
- 安全第一：多租户隔离、加密密钥、审计日志
- 可扩展性：经验证的体系结构可处理企业工作负载
安全考虑
API密钥管理
- 加密随机生成
- SHA-256在数据库中散列（从不明文）
- 仅HTTPS传输
- 创建时一次性显示
- 通过UI支持旋转
数据保护
- 按组织筛选的所有代理配置
- Redis TTL自动清理防止丢弃数据
- Redis中没有敏感数据（密钥、凭据）
- 静态数据库加密（取决于提供程序）
网络安全
- 客服只打外线电话
- 没有到用户群集的入站连接
- API端点需要身份验证
- 所有公共端点的速率限制
路线图
当前版本（v1.0）
- \[x\] 支持多LLM的AI Terraform代码编辑器（BYOK）
- \[x\] OpenAI（GPT-4o、GPT-4o-mini、GPT-5）
- \[x\] 人本主义（克劳德4.5十四行诗，克劳德4.1作品，克劳德4.5俳句）
- \[x\] Azure OpenAI（所有OpenAI模型均通过Azure）
- \[x\] 配备45多种工具的MCP服务器
- \[x\] Kubernetes代理部署
- \[x\] OTLP收集器自动部署
- \[x\] 心跳和健康监测
- \[x\] 基于Redis的会话管理
2025年第一季度
- \[\]谷歌顶点AI（双子座模型）
- \[\]AWS Bedrock（Claude、Llama型号）
- \[\]高级地形规划分析
- \[\]多区域代理支持
- \[\]普罗米修斯指标导出
- \[\]自定义收集器配置
2025年第二季度
- \[\]Azure AKS本机支持
- \[\]GCP GKE原生支持
- \[\]代理自动更新机制
- \[\]用于代理工具的高级RBAC
- \[\]成本优化建议
入门指南
有关部署Realm9的更多信息，请访问：
联系
对于企业部署、自定义集成或技术支持：
- 网站: https://realm9.app
- 电子邮件: sales@realm9.app
许可证
版权所有©2025 Realm9。保留所有权利。
______________________________________________________________________
Realm9人工智能代理系统 - *智能基础设施管理*
部分 Realm9平台