目录
1. 技术栈 1. 项目结构 1. LLM 1. 运行应用程序 1. 示例提示
项目
这个项目是Spring AI的一个小演示。\ 它提供了一个MCP服务器,供您的本地LLM使用。\ 此应用程序提供的工具包括:
- DateTimeTools:
- 获取当前时间 - 获取当前日期 - 获取当前年份 - 获取当前工作日
graph LR
;
A(LLM) --> B(MCP-Server)
B --> C(DateTimeTools)基本上,这个应用程序是LLM获取所有实时数据的聚合层。
技术栈
- Java 21.0.8
- Maven 3.9.11
- 弹簧靴3.5.7
- 春季AI 1.1.0
- Docker Compose(应该也适用于Podman,仅适用于数据库)
- LM工作室0.3.31
项目结构
除了标准的Spring Boot Maven结构,我们还有一些额外的文件夹:
- docker:包含docker-compose.yml文件,用于在本地启动应用程序和数据库
LLM
要使用这个项目,你需要运行一个有工具支持的LLM,并可能启用思维;否则,它就行不通了 我。\ 我建议使用 LM工作室 随着 openai/gpt-oss-20b 或 qwen/qwen3-4b-thinking-2507 作为模型。\ openai/gpt-oss-20b 必须设置为16k上下文才能正确加载,但速度非常快。\ qwen/qwen3-4b-thinking-2507 速度快,内存占用小。\ 要确保您可以看到每个设置,请打开开发人员模式。
LM Studio中的MCP服务器配置
右侧下方 Program, Install 和 Edit mcp.json 您可以在此处将此应用程序添加为服务器:
{
"mcpServers": {
"showcase-lite": {
"url": "http://localhost:58090/mcp"
}
}
}这应该足以开始。 一旦启动应用程序,这些工具就应该可用。
LM Studio服务器配置
要允许应用程序连接到LM Studio进行应用程序前端的聊天,您需要导航到 Developer 在左侧菜单中。\ 现在,您可以切换服务器,它应该在下可用 http://localhost:1234. 如果您想在整个网络中使用LM Studio服务器,可以切换 serve on local network 在服务器中 设置。\ 请注意,此服务器不安全,只能在本地和受信任的网络中使用。
运行应用程序
示例提示
以下提示的有效答案应反映您当前的本地时间,因此没有偏移或时区。
What is the current time?关于我的系统,供参考
(没有吹牛,只是为了让你知道这些东西在你的系统上是如何运行的) 我正在使用以下系统:
- Linux Mint 22.2
- AMD Ryzen 7 9700X
- 64GB RAM,但本项目使用量不大
- XFX 9070 XT 16GB
演出
|提示|当前时间是什么时候?
| 一个工具调用 | |
|---|---|
| qwen/qwen3-4b-thinking-2507 | ~2秒 |
| ibm/granite-4小时 | 约1秒 |
| openai/gpt-oss-20b(上下文缩减为16k) | 约1秒 |
| microsoft/phi-4-reasoning-plus | 推理中没有终止/无休止循环 |
| 米斯特拉伊/地方法院-小-2509 | ~25秒 |
| qwen/qwen3-14b | ~50秒 |
问题
- 工具、资源和提示之间没有区别
- 无测试/无有用测试
- 性能是手动测量的
灵感/文件
-
