AI在线 AI在线

Spring AI

聊聊SpringAI流式输出的底层实现？

聊聊SpringAI流式输出的底层实现？
在 Spring AI 中，流式输出（Streaming Output）是一种逐步返回 AI 模型生成结果的技术，允许服务器将响应内容分批次实时传输给客户端，而不是等待全部内容生成完毕后再一次性返回。 这种机制能显著提升用户体验，尤其适用于大模型响应较慢的场景（如生成长文本或复杂推理结果）。 技术实现在 Spring AI 中流式输出的实现有以下两种方式：通过 ChatModel 实现流式输出。
4/24/2025 12:00:00 AM
磊哥
基于 Spring AI + MCP + DeepSeek-R1-7B 构建企业级智能 Agent 工具调用系统

基于 Spring AI + MCP + DeepSeek-R1-7B 构建企业级智能 Agent 工具调用系统
在大模型 Agent 发展浪潮下，如何通过模型驱动外部工具调用（Tool Calling）已成为构建智能业务系统的关键能力。 本文将手把手带你通过 Spring AI MCP（Model Context Protocol） DeepSeek-R1-7B 打造一个可落地的企业级智能 Agent。 项目背景与架构设计技术选型Spring AISpring 官方推出的 AI 接入框架，支持 LangChain、MCP、RAG 等能力；MCP（Model Context Protocol）模型与工具之间通信的协议桥梁；DeepSeek-R1-7B国产高性能开源大模型，已支持 Chat Completion、Tool Calling 接口；Ragflow用作 RAG 架构引擎（可选）；系统功能用户向模型提问模型判断是否调用工具（如数据库查询）MCP 注册的工具服务完成任务模型生成最终响应环境准备安装依赖复制本地部署 DeepSeek-R1-7B 模型推荐使用 vLLM 启动 DeepSeek-R1-7B 模型服务：复制构建 Spring AI MCP 工具服务示例业务：产品信息查询复制注册 MCP 工具复制模型端配置（Ragflow 示例）在 ragflow.config.yaml 中配置模型地址及 MCP 工具启用：复制前端调用（可选）复制测试效果用户输入：复制输出结果：复制模型会自动触发 query-product 工具，无需用户指定，展示 Agent 工具能力。
4/21/2025 4:22:00 AM
编程疏影
Spring AI 再更新：如何借助全局参数实现智能数据库操作与个性化待办管理

Spring AI 再更新：如何借助全局参数实现智能数据库操作与个性化待办管理
引言好的，今天我们继续聊一下Spring AI的相关内容。 在10月的时候，我使用Spring AI搭建了一个简易版的个人助理系统，整体来说效果还是非常不错的。 通过这次尝试，我对业务系统与AI结合的探索有了更为明确的理解和实践。
12/5/2024 10:56:46 AM
努力的小雨
  • 1