MCP Web Chat
功能介绍
- 可以调用MCP进行WebChat，解决了MCP Server长期连接可能中断的问题
- 可以创建包括通用方法的MCP Server
- 可以创建包装业务api的MCP Server
环境构建
创建python虚拟环境：
conda create -n mcp python=3.12
conda activate mcp
pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
错误情况处理
如果提示numpy需要特定版本才行，最新版本安装报错 pip install numpy==1.26.0 -i https://pypi.tuna.tsinghua.edu.cn/simple
应用相关说明
env配置
需要配置大模型apikey
需要配置高德地图mcp server的key（高德官网申请即可，有免费调用量可用）
主程序
端口：10001
模拟业务api
端口：10002
运行：python mcp_server/test_api.py
MCP Server
- common mcp server
端口：9001
运行：python mcp_server/common_server.py
- business mcp server
端口：9002
运行：python mcp_server/business_server.py
应用运行顺序
先test_api，再business mcp server，common mcp server
最后运行主程序
启动脚本
激活虚拟环境
conda activate mcp
Linux服务器后台方式自动运行
nohup python app.py > output.log 2>&1 &
jobs -l # 查看后台任务（仅当前终端有效）
查看进程ID
ps aux | grep app.py # 查看进程ID（PID）
结束进程
kill -9
查询日志
tail -f output.log
ip冲突检查
lsof -i :15001 kill -9 pid
关于MCP Client的问题
过程
如果直接在每次api请求的时候启动MCP Client，那么MCP Client会在请求结束的时候中断报错 所以，我在调用完，直接就关闭了MCP Client
但是，当我api接口调整为流式输出的时候，这样也不行了
于是，改为是程序启动的时候，启动MCP Client，但是如果隔一段时间，MCP Client就中断了，没法调用 于是，加了心跳检测，定时ping，但还是会有问题，可以ping但是调用还是不行 于是，给Fastapi本身也加了心跳检测
还是不行，于是调整为定期重启MCP Client，依然会有问题，会导致后续重启不来
或者都写到定时重启的task中？---- 也不行
现在可以使用的是：每次只是启动，不关闭之前的 --- 问题就是心跳越来越多
再试试，不启动也不关闭？
再一个利用uvicorn的reload，定时修改文件，触发程序重启 --- xx，会产生其他问题，而且生产也不推荐
解决
使用百度的appbuilder mcp client，人家内部已经封装好，可以很方便的实现client的调用
报错一直是关于cancelscope的，于是在调用之前创建task_group，把sse_client的调用给包起来，避免向外传导
相关代码见：mcp_cll/mcp_host.py initialize方法
关于MCP生命周期的问题
-
每次对话生成MCP Client 存在过于频繁连接的问题
-
程序初始化生成MCP Client 如果MCP很多，存在资源浪费的情况，一直不用但是需要一开始加载，而且后续还需要更新呢 存在长时间连接连接失效的问题，还需要定时刷新
-
一次会话生成MCP Client，可能更为合适？ 可以根据需要，启动需要的MCP Client 也会存在一直不用，MCP失效端口的问题 还得考虑出问题后重启
最新情况
host 全局唯一维护mcp client连接 另外由于有些client可能有雨server端控制，一段时间不用会断开，因此使用心跳定时ping
mcp_chat 专职chat，并通过host获取与调用mcp tool
后续需要一个client池子？按需加载，没有则加载，有则直接使用。 目前暂未处理，连接失败重连的情况
社区交流互动
欢迎关注公众号，交流、获取更多信息
