安全MCP审计员:可验证的AI基础设施🛡️
概述
该项目为LLM代理设计了一个高性能的安全和审计层,使用 模型上下文协议(MCP)它通过提供一个可验证的“事实检查”层来实时监控工具调用,从而解决了人工智能幻觉和逻辑破坏的关键挑战。
🚀 核心项目:事实核查审计员
该存储库具有一个专门的基于Python的验证引擎,可以拦截人工智能生成的数据,并根据当地的地面实况规范进行验证。
关键技术成果
- 逻辑破坏检测: 已实现a 100%检测率 LLM编排期间的预算差异和风险水平升级。
- 高性能验证: 优化审计工作流程,以执行检查 \<100ms延迟,在不损害用户体验的情况下确保安全。
- 法医可追溯性: 实现了持久、不可变的日志记录架构(
audit_history.log)用于事件后审查和系统可观察性。
🛠️ MCP基础设施和设置
该系统利用安全文件系统MCP服务器,使Claude能够在严格的沙盒环境下与本地目录进行交互。
📂 项目结构
src/:Python核心逻辑,包括FactCheckAuditor和FileScanner.logs/:可验证的审计报告和取证历史日志。config/:源规范和项目地面实况数据。
