Trust Gated MCP

信任门控MCP：网络物理系统的安全LLM集成

一种中间件架构，在安全关键环境中运行的LLM代理上实施数据质量驱动的自治策略。

   

______________________________________________________________________

概述

此存储库显示 信任网关MCP，一种新的中间件层，可以在网络物理系统（CPS）中安全部署大型语言模型（LLM）。而不是试图限制LLM的内容 *原因*，系统控制它是什么 *允许采取行动* --基于实时传感器数据质量。

核心观点： 建立在不可靠的传感器数据上的逻辑正确的LLM决策仍然是一个危险的决策。 Trust Gated MCP在执行之前拦截每一个提议的操作，并评估底层数据是否证明了该级别的自主性。

该系统在模拟上进行了验证 *钝顶节旋藻* （螺旋藻）生物反应器——一种具有代表性的、安全关键的CPS，不正确的控制措施可能导致完全的培养物崩溃。

______________________________________________________________________

关键结果

LLM在92%以上的步骤中提出了积极的行动。没有发生任何不安全的处决。14.29%的覆盖率证实了干预措施是有针对性的，而不是过于保守。

______________________________________________________________________

问题陈述

将LLM集成到网络物理系统的控制回路中引入了一种不同于模型幻觉或提示灵敏度的故障模式： 物理层面的垃圾进，垃圾出.

工业和生物系统中常见的传感器故障包括：

• 突然的尖峰 --传感器返回一个或多个读数的不可能值
• 逐渐漂移 --校准退化缓慢（例如pH电极老化）
• 丢失/过时的数据 --连续时间步内传感器断开
• 时间戳异常 --时钟不同步或读数混乱
• 物理不一致 --单独看似合理但相互矛盾的传感器值（例如，在次优温度下的高生长速率）

标准MCP在将数据转发给LLM之前没有提供评估数据质量的机制。这项工作填补了这一空白。

______________________________________________________________________

建筑

┌─────────────────────────────────────────────────────────────┐
│                        TRUST GATE                           │
│                                                             │
│  ┌──────────────┐    ┌──────────────────────────────────┐  │
│  │ Trust Engine │    │         Strict Policy            │  │
│  │              │    │                                  │  │
│  │ Z-Score      │───▶│  trust ≥ 0.8 → FULL_AUTONOMY    │  │
│  │ CUSUM        │    │  trust ≥ 0.6 → SAFE_ONLY         │  │
│  │ Watchdog     │    │  trust ≥ 0.4 → SUGGEST_ONLY      │  │
│  │ Timestamp    │    │  trust   3.0

2.漂移检测（CUSUM）

累积总和控制图检测到缓慢的系统性变化（例如电极老化）。

S⁺ₙ = max(0, S⁺ₙ₋₁ + (xₙ - μ) - K)
S⁻ₙ = max(0, S⁻ₙ₋₁ - (xₙ - μ) - K)
flag: drift_suspected  if S⁺ or S⁻ > H (H=5.0, K=0.5)

3.基于物理的一致性检查

应用领域知识来检测相互不一致的传感器组合。

if temp < 28°C  →  growth_rate cannot exceed 0.8 (A. platensis physiology)
flag: inconsistent_signals

4.数据质量检查

• 看门狗：标志 stale_data 连续两次以上的读数缺失后
• 时间戳：标志 timestamp_anomaly 论时钟失同步

信任评分计算

score = 1.0
score -= 1.0  if timestamp_anomaly      # Complete block
score -= 0.5  if range_violation
score -= 0.6  if stale_data
score -= 0.2  if drift_suspected
score -= 0.3  if inconsistent_signals
score = clamp(score, 0.0, 1.0)

______________________________________________________________________

自治政策

______________________________________________________________________

MCP通信协议

Trust Gate和LLM代理通过MCP交换结构化JSON有效载荷。

第一步——信任之门→ LLM（上下文有效负载）：

{
  "schema_version": "v1",
  "day": 3,
  "sensor_context": {
    "ph":     {"value": 10.12, "is_missing": false},
    "temp":   {"value": 32.1,  "is_missing": false},
    "ec":     {"value": 1.8,   "is_missing": false},
    "growth": {"value": 0.85,  "is_missing": false}
  },
  "trust_context": {
    "score": 0.50,
    "mode":  "SUGGEST_ONLY",
    "flags": ["range_violation"]
  }
}

第二步——法学硕士→ 信任门（拟议行动）：

{
  "schema_version": "v1",
  "tool_name": "execute_action",
  "arguments": {
    "action": "ACT_UNRESTRICTED",
    "rationale": "pH elevated but within recoverable range, applying optimization."
  }
}

第3步——信任门响应（最终决定）：

{
  "compliance": false,
  "proposed_action": "ACT_UNRESTRICTED",
  "final_action": "HOLD",
  "override": true,
  "reason": "Action not permitted in SUGGEST_ONLY mode"
}

______________________________________________________________________

实验评估

在7天的栽培周期内模拟了8种故障情景。

场景S7 最具说明性的例子是：持续的漂移在几天内将信任度降低到0.5，将LLM限制在整个降级期间的被动操作——即使LLM一直在提出优化。 5次覆盖，零次不安全执行。

方案S6 演示了精度：信任降至0.0，但记录了0覆盖，因为代理自主地提出了已经在BLOCK模式允许范围内的通知操作。

______________________________________________________________________

项目结构

TrustGatedMCP_V2/
│
├── experiments/
│   ├── core/
│   │   └── types.py              # Pydantic schemas: SensorReading, TrustAssessment,
│   │                             #   AgentProposal, FinalDecision, Scenario
│   │
│   ├── trust_engine/
│   │   └── core.py               # Z-Score, CUSUM, Watchdog, Timestamp, Physics detectors
│   │
│   ├── policy/
│   │   ├── reference.py          # Deterministic oracle (ground truth for conformance testing)
│   │   └── actions.py            # ActionType / AutonomyMode enums
│   │
│   ├── scenarios/
│   │   ├── generator.py          # Programmatic fault injection with seeded noise
│   │   └── sensors.py            # Sensor baseline definitions
│   │
│   ├── llm_agent/
│   │   └── agent.py              # Dual-mode: Mock (deterministic) + Ollama (Llama 3.1 8B)
│   │
│   ├── mcp_server.py             # Trust Gate: state update, resource serving, action gating
│   │
│   └── results/
│       └── analyze.py            # Metrics, PNG visualization, LaTeX table export
│
├── V3/                           # Refactored modular version with config-driven design
│   ├── core/                     # Interfaces, types, config, logging
│   ├── trust_engine/             # Pluggable detectors
│   ├── policy/                   # Strict policy enforcement
│   ├── mcp_host/                 # MCP server implementation
│   ├── clients/                  # LLM agent client
│   ├── simulation/               # Scenario generator
│   ├── evaluation/               # Metrics and visualization
│   └── main.py                   # Entry point
│
├── docs/
│   ├── system_architecture.md
│   ├── walkthrough.md
│   └── scenario_analysis_report.md
│
├── run_experiments.py            # Main experiment runner
├── init_project.py               # Project scaffold initializer
└── environment.yaml              # Conda environment specification

______________________________________________________________________

技术栈

______________________________________________________________________

快速启动

1.创造环境

conda env create -f environment.yaml
conda activate trust-gated-mcp

2.（可选）配置本地LLM

# For GGUF models via llama-cpp-python:
$env:LLAMA_MODEL_PATH="C:\Path\To\Your\Model.gguf"

# For Ollama (recommended):
ollama pull llama3.1:8b

如果两者都没有配置，则代理将在中运行 模拟模式 --用于快速可重复测试的基于规则的确定性代理。

3.运行实验

python init_project.py      # scaffold output directories
python run_experiments.py   # run all 8 scenarios

日志被写入 experiments/logs/experiment_log.csv.

4.分析结果

python experiments/results/analyze.py

输出：

• experiments/results/metrics.txt --通过率、覆盖率、一致性
• experiments/results/trust_scores.png --每个场景的信任轨迹图
• experiments/results/summary_table.tex --LaTeX就绪结果表

______________________________________________________________________

设计原则

关注点分离。 该系统从不试图评估LLM的推理是否正确——这项任务需要特定领域的预言。它只评估可以客观衡量的东西：推理所依据的数据的质量。

固有安全。 当传感器数据下降时，系统会自动变得更加保守。LLM不需要检测其输入是否不可靠——Trust Gate会透明地处理这一点。

透明度。 每次覆盖都会生成一个结构化的审计记录：哪个传感器触发了标记，检测到了什么异常类型，以及为什么阻止了拟议的操作。

MCP兼容性。 该架构不会修改模型上下文协议。它在执行之前添加了一个执行层，与任何符合MCP的LLM客户端完全兼容。

可配置性。 异常阈值、惩罚权重和自治层边界被参数化。通过配置，而不是代码更改，可以适应更严格的传感器公差或不同的安全要求。

______________________________________________________________________

理论背景

信任引擎借鉴了三个既定的工作机构：

• 统计过程控制Z-score离群值检测（3σ规则）和CUSUM漂移检测是在制造和工业监控中得到验证的经典SPC技术。
• 理论指导数据科学（TGDS）物理一致性检查遵循将科学领域知识嵌入数据驱动系统的范式，以强制执行物理合理性约束。
• 人工智能代理的安全中间件该架构在越来越多的关于护栏、宪法人工智能和人在环系统的文献中有所定位，但在数据层而不是模型输出层运行。

______________________________________________________________________

局限性和未来工作

• 基线（传感器均值和标准差）目前是预定义的。生产部署需要一个自适应基线校准阶段或在线学习。
• 物理一致性检查涵盖了一种关系（生长与温度）。一个完整的生物反应器模型将包含多传感器相互作用物理学。
• 单调策略没有覆盖机制。计划中的扩展增加了一个具有完整审计跟踪的人在环旁路。
• 评估是在模拟环境中进行的。真实的传感器噪声可能会产生比注入的异常模式更复杂的故障特征。

计划延期：

• 通过在线统计学习实现自适应基线
• 多传感器融合用于冗余感知信任计算
• 使用Arduino传感器和边缘部署的LLM进行物联网测试台部署
• 集成到更广泛的多智能体自进化系统框架中

______________________________________________________________________

引用

如果你在研究中使用这项工作，请引用：

@misc{trustgatedmcp2025,
  title   = {Trust-Gated MCP: Safe LLM Integration for Cyber-Physical Systems
             via Sensor Data Quality Assessment},
  year    = {2025},
  note    = {GitHub repository: https://github.com/vagelisNerantzis/Trust-Gated-MCP}
}

______________________________________________________________________

许可证

MIT许可证。看 许可证 了解详情。