Hive Mind

蜂巢思维

具有语义RAG、持续学习和网络威胁防御的分布式人工智能记忆系统

](VERSION)    

一个自我改进的人工智能后端，可以在会话之间持久化上下文，用语义RAG丰富LLM提示，并根据自身的交互不断微调本地模型。权力 Talos AI Suricata 用于自主网络威胁防御。完全本地，零云依赖。

Architecture

______________________________________________________________________

它的作用

• 持久内存 跨终端重启，通过Redis集群跨机器共享
• 语义RAG 自动将相关上下文注入到每个LLM提示符中
• 持续学习 该管道收集交互，通过QLoRA进行微调，导出到GGUF，并将模型热交换到生产中
• 网络威胁防御 --权力 Talos AI Suricata 用于自主IDS警报分析和防火墙阻止
• 双重访问模式 通过MCP协议（Claude Code）和HTTP API（任何客户端）
• 主动检索跟踪 具有命中率监测和差距分析功能
• 多节点架构 --aurora上的GPU推理、alderlake上的服务、NAS上的存储

______________________________________________________________________

建筑

数据流

User Query
  -> MCP Server or HTTP API
    -> Semantic RAG (embed query, cosine sim against facts)
      -> Inject matching facts into system prompt
        -> HiveCoder / Qwen3-14B (:8090)
          -> Response returned
            -> Interaction logged to learning queue

Learning Queue (Redis Stream)
  -> Continuous Learning Daemon (every 5 min)
    -> Quality filter
      -> QLoRA fine-tune -> GGUF export -> Hot swap HiveCoder

Suricata Alerts (via Talos AI Suricata)
  -> OPNsense syslog -> eve_receiver (alderlake:5140)
    -> Redis -> ai_suricata daemon
      -> HiveCoder analysis -> 4-tier auto-block -> OPNsense API

MCP工具

______________________________________________________________________

演出

1. 注入 在发送到llama服务器之前，将事实匹配到系统提示中
2. 轨道 检索质量（命中率、漏检、弱匹配）

______________________________________________________________________

硬件

______________________________________________________________________

项目结构

hive-mind/
  mcp-server/
    server.py              # MCP server (stdio, 13 tools)
    http_server.py         # HTTP API (:8090) with RAG injection
  learning-pipeline/
    scripts/
      continuous_learning.py   # Training daemon (QLoRA, GPU orchestration)
      train_lora.py            # LoRA/QLoRA fine-tuning
      automated_training.sh    # Daily 2 AM training (systemd timer)
      export_model.py          # GGUF export
    models/                    # Model registry + exports
  scripts/
    deploy-redis-cluster.sh    # Redis cluster setup
    start-hivecoder.sh         # HiveCoder launcher
    backup-to-nas.sh           # Daily model backup with rotation
  config.yaml                  # Redis, inference, embedding config
  diagram_hivemind.py          # Architecture diagram generator (Pillow)
  hivemind_architecture.png    # Architecture diagram

______________________________________________________________________

如何比较

______________________________________________________________________

文档

______________________________________________________________________

许可证

麻省理工学院

______________________________________________________________________

基于Fedora Atomic（Kinoite 43）构建，采用ROCm 7.12和PyTorch 2.10

返回顶部