Spring AI

面试官：如何实现大模型的连续对话？

所有的大模型本身是不进行信息存储的，也不提供连续对话功能，所以想要实现连续对话功能需要开发者自己写代码才能实现。那怎么才能实现大模型的连续对话功能呢？大模型连续对话功能不同的框架实现也是不同的，以行业使用最多的 Java AI 框架 Spring AI 和 Spring AI Alibaba 为例，给大家演示一下它们连续对话是如何实现的。

7/21/2025 7:19:00 AM

磊哥

Spring AI Alibaba 是基于 Spring AI 构建的，专门针对阿里云生态（如通义千问、OSS 等）进行深度适配和功能增强。 Spring AI Alibaba 提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。主要功能Spring AI Alibaba 提供的主要功能如下：开发复杂 AI 应用的高阶抽象 Fluent API — ChatClient。

6/13/2025 6:20:02 PM

磊哥

Spring AI + MCP + DeepSeek-R1-7B + SSE 全流程实战指南

本教程将带你从 0 到 1 实现一个完整的 AI 流式问答应用，整合以下组件：Spring Boot Spring AI 构建服务框架MCP（Model Connector Plugin）用于统一管理本地/云端大模型DeepSeek-R1-7B 国产高性能大模型（OpenAI API 兼容）SSE（Server-Sent Events）实现前后端实时流式响应Ollama（可选）更便捷地部署 DeepSeek-R1-7B 模型并提供 OpenAI 接口支持模型部署方式推荐：Ollama 运行 DeepSeek-R1-7B安装 Ollama访问：（以 DeepSeek 为例）复制也可以加载其它模型，如 llama3, qwen:chat, yi:34b, phi3, mistral 等。启动 Ollama复制Ollama 会自动监听 OpenAI 风格接口（http://localhost:11434/v1/chat/completions），兼容 stream: true。 Spring Boot 接入 SSE 流式输出服务添加依赖（pom.xml）复制WebClient 配置类复制请求体结构封装复制DeepSeek-R1-7B 接口封装（支持 stream: true）复制控制器对外暴露 SSE 接口复制前端 JS 接入 SSE 实现流式展示复制总结通过以上步骤，我们成功实现了：Ollama 部署并运行 DeepSeek-R1-7B 本地大模型Spring Boot 封装 OpenAI 接口 stream: true实现后端 SSE 推流前端实时 Token 渲染支持国产开源模型的类 ChatGPT 对话功能

5/16/2025 7:50:58 AM

编程疏影

聊聊SpringAI流式输出的底层实现？

在 Spring AI 中，流式输出（Streaming Output）是一种逐步返回 AI 模型生成结果的技术，允许服务器将响应内容分批次实时传输给客户端，而不是等待全部内容生成完毕后再一次性返回。这种机制能显著提升用户体验，尤其适用于大模型响应较慢的场景（如生成长文本或复杂推理结果）。技术实现在 Spring AI 中流式输出的实现有以下两种方式：通过 ChatModel 实现流式输出。

4/24/2025 12:00:00 AM

磊哥

基于 Spring AI + MCP + DeepSeek-R1-7B 构建企业级智能 Agent 工具调用系统

在大模型 Agent 发展浪潮下，如何通过模型驱动外部工具调用（Tool Calling）已成为构建智能业务系统的关键能力。本文将手把手带你通过 Spring AI MCP（Model Context Protocol） DeepSeek-R1-7B 打造一个可落地的企业级智能 Agent。项目背景与架构设计技术选型Spring AISpring 官方推出的 AI 接入框架，支持 LangChain、MCP、RAG 等能力；MCP（Model Context Protocol）模型与工具之间通信的协议桥梁；DeepSeek-R1-7B国产高性能开源大模型，已支持 Chat Completion、Tool Calling 接口；Ragflow用作 RAG 架构引擎（可选）；系统功能用户向模型提问模型判断是否调用工具（如数据库查询）MCP 注册的工具服务完成任务模型生成最终响应环境准备安装依赖复制本地部署 DeepSeek-R1-7B 模型推荐使用 vLLM 启动 DeepSeek-R1-7B 模型服务：复制构建 Spring AI MCP 工具服务示例业务：产品信息查询复制注册 MCP 工具复制模型端配置（Ragflow 示例）在 ragflow.config.yaml 中配置模型地址及 MCP 工具启用：复制前端调用（可选）复制测试效果用户输入：复制输出结果：复制模型会自动触发 query-product 工具，无需用户指定，展示 Agent 工具能力。

4/21/2025 4:22:00 AM

编程疏影