Spring AI Alibabab
Spring AI:Spring 生态的 Java AI 开发框架,提供统一 API 接入大模型、向量数据库等 AI 基础设施。
Ollama:本地大模型运行引擎,大模型时代的 Docker,支持快速体验部署大模型。
Spring AI Alibaba:Spring AI 增强,集成 DashScope 模型平台,快速构建大模型应用。Elasticsearch:向量数据库,存储文本向量化数据,支撑语义检索。
RAG过程
- 数据加载与清洗:从外部知识库加载数据,向量化后存储到 Elasticsearch。
- 模型调用优化:通过检索增强技术(RAG),为大模型提供上下文信息。
- 交互服务搭建:构建 REST API,实现应用与用户的高效交互。
文本向量化
在 Spring AI 和 Spring AI Alibaba 中,几乎可以将任意数据源作为知识库来源。此例中使用 PDF 作为知识库文档。
Spring AI Alibaba 提供了 40+ 的 document-reader 和 parser 插件。用来将数据加载到 RAG 应用中。
文档
Loading...