MCP 在生产级别 Chatbot 中的安全机制
本文是 T 系列的第 04 篇,主要介绍 MCP 在生产级别 Chatbot 中的安全机制。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
本文是 T 系列的第 04 篇,主要介绍 MCP 在生产级别 Chatbot 中的安全机制。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
FastMCP: 3.4.4
FastMCP 的状态不是靠"把上一步结果塞回参数"来维持的,而是服务端按会话持有 state。
先创建一个的 MCP Server 并启动:
| |
--no-banner 终端不显示 banner--transport streamable-http HTTP 长连接双向流式、自动携带 SessionID,完整支持 Session State 会话持久化获取 MCP Server 工具信息的方式有两种:
本文是 T 系列的第 03 篇,主要介绍 MCP 如何实现持久化记忆。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
尽管 LLM 在处理和生成文本方面非常强大,但它们本质上是无状态的。每次 API 调用都被视为一个全新的独立请求,无法保留之前交互的任何记忆。要使 Chatbot 或虚拟助手真正有用,它必须具备记忆能力,能够记住用户的姓名、偏好或多轮对话的上下文。传统方法试图通过将整个聊天历史打包进 LLM 的提示中来解决这一问题,但这种方法效率低、成本高且容易出错。本文探讨了一种更稳健且可扩展的解决方案:利用模型上下文协议(MCP)将记忆实现为外部、可管理的工具。这种方法使 Agent 即使保持无状态,而有状态的工具则提供持久的记忆功能。
本文是 T 系列的第 02 篇,主要介绍 Chatbot UI 如何基于 MCP 构建可查询的 Chatbot。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
本文是 T 系列的第 01 篇,主要介绍 Chatbot UI 如何与 MCP Server 进行通信。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
Chatbot 的用户界面(UI)正从简单的文本显示演变为一个动态客户端,能够与复杂的后端系统进行通信,而该后端通常由模型上下文协议(MCP)Agent 驱动。本文探讨了基于工具的聊天界面架构,重点分析前端与后端之间的通信流程。我们将逐步介绍用户请求的路由、调用外部工具以及实时流式响应的全过程。目标是清晰理解支持这些复杂交互的协议和设计模式,从而超越基础的请求-响应模型,构建出更稳健、可扩展且更易用的系统。
本文是 T 系列的第 00 篇,主要介绍下一代 Chatbot:MCP 扩展对话。
T 系列为技术文章翻译系列,加以本人的一些拙见,如有雷同,实属正常,如有不同,欢迎交流。
放在以前,单个这个标题,我一般就直接关闭了。因为我会想:
“7 天开发一个系统,哪怕二次开发、CURD 也要半个月吧,做出来也是个没用的系统。”
现在,对上述的观点,我保留一半,能不能用要在后续的开发中持续验证。
最近一直在捣鼓 AI 工具,想着说给我的开发工作提供强有力的帮助,但在使用的过程中,token 成本太高是我急需解决的一个问题。
这让我想起了 Ollama,网上也查了相关资料,Claude Code 通过配置是可以和本地的大模型进行通信的,所以有了这篇文章。
昨天在本地搭建了 Agent 协作平台 Multica,并且我目前也在开发一款生信可视化桌面应用 BioScope,正好可以试试 Multica,看看实际效果。
经同事介绍,了解到 Multica 平台,故希望在本地部署并对接已知大模型,看看具体的效果,并希望在未来的工作中能派上用场。
本地化部署的教程详见 https://github.com/multica-ai/multica/blob/main/SELF_HOSTING.md ,在部署中的过程,我也会详细介绍其中的一些具体工作。