边缘搁浅特工🏭
AWS重新:发明2024会议DEV301 | *边缘AI代理:离线构建,云端扩展*
使用以下工具构建完全离线运行的生成式AI代理 Strands代理SDK使用Ollama部署轻量级本地模型,用于远程制造、现场操作和数据主权场景,然后在连接可用时无缝扩展到Amazon Bedrock上的Claude。
里面是什么
📓 Jupyter笔记本(strands_edge_demos.ipynb)
逐步演示Strands SDK的核心功能:
| 演示 | 功能 | 描述 |
|---|---|---|
| 1 | 工具装饰器 | 自定义物联网设备控制 @tool 功能 |
| 2 | 结构化输出 | 使用Pydantic模型提取SCADA/MES数据 |
| 3 | 会话管理 | 边缘设备的持久对话 |
| 4 | MCP集成 | 用于离线操作的本地SQLite数据库 |
🏭 边缘运营商代理(e2e-demo/)
功能齐全的Streamlit应用程序演示了一个生产就绪的边缘代理:
- 物联网控制:读取传感器,通过自然语言控制执行器
- 遥测数据库:通过MCP协议存储SQLite
- 模型切换:切换本地(Ollama)↔ 运行时的云(基岩)
- 流媒体响应:UI中的实时响应流
- 会话保持:对话在重启后仍能继续
cd e2e-demo && streamlit run streamlit_app.py快速开始
先决条件
- Python 3.10+
- 奥拉玛 安装
设置
# 1. Install Ollama and pull model
ollama pull hoangquan456/qwen3-nothink:4b
ollama serve
# 2. Install dependencies
pip install 'strands-agents[ollama]' strands-agents-tools pydantic mcp hypothesis streamlit
pip install uv # Required for MCP SQLite server
# 3. Run the notebook demos
jupyter notebook strands_edge_demos.ipynb
# Or run the full Streamlit app
cd e2e-demo && pip install -e . && streamlit run streamlit_app.py建筑
┌─────────────────────────────────────────────────────────────┐
│ Edge Operator Agent │
├─────────────────────────────────────────────────────────────┤
│ Streamlit UI (streaming responses) │
├─────────────────────────────────────────────────────────────┤
│ Strands Agent │
│ ├── Model Router (Ollama ↔ Bedrock) │
│ ├── Session Manager (FileSessionManager) │
│ └── Tools: │
│ ├── IoT Tools (sensors, actuators) │
│ ├── Database Tools (SQLite via MCP) │
│ └── SCADA Extraction (Pydantic structured output) │
└─────────────────────────────────────────────────────────────┘资源
扬声器
- 安娜 库尼亚
- 大卫维多利亚
______________________________________________________________________
*在AWS re:Invent 2024上展示*
