Spring AI:Spring 生态的 Java AI 开发框架,提供统一 API 接入大模型、向量数据库等 AI 基础设施。 Ollama:本地大模型运行引擎,大模型时代的 Docker,支持快速体验部署大模型。 Spring AI Alibaba:Spring AI 增强,集成 DashScope 模型平台,快速构建大模型应用。Elasticsearch:向量数据库,存储文本向量化数据,支撑语义检索。
在 Spring AI 和 Spring AI Alibaba 中,几乎可以将任意数据源作为知识库来源。此例中使用 PDF 作为知识库文档。
Spring AI Alibaba 提供了 40+ 的 document-reader 和 parser 插件。用来将数据加载到 RAG 应用中。