簡介

Integration Problem

Spring AI 專案旨在簡化整合人工智慧功能的應用程式的開發,同時避免不必要的複雜性。

該專案借鑑了 LangChain 和 LlamaIndex 等著名的 Python 專案的靈感,但 Spring AI 並非這些專案的直接移植。該專案創立的初衷是堅信下一波生成式 AI 應用程式將不僅限於 Python 開發者,而將普及到多種程式語言。

Spring AI 解決了 AI 整合的基本挑戰:將您的企業資料和 API 與 AI 模型連線起來
Interactive

Spring AI 提供了作為開發 AI 應用程式基礎的抽象。這些抽象具有多種實現,支援透過最少的程式碼更改輕鬆地進行元件替換。

Spring AI 提供以下功能:

  • 跨 AI 提供商的聊天、文字到影像和嵌入模型的行動式 API 支援。支援同步和流式 API 選項。同時提供對模型特定功能的訪問。

  • 支援所有主要AI 模型提供商,例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支援的模型型別包括:

  • 結構化輸出 - 將 AI 模型輸出對映到 POJO。

  • 支援所有主要的向量資料庫提供商,例如 Apache Cassandra、Azure Cosmos DB、Azure Vector Search、Chroma、Elasticsearch、GemFire、MariaDB、Milvus、MongoDB Atlas、Neo4j、OpenSearch、Oracle、PostgreSQL/PGVector、Pinecone、Qdrant、Redis、SAP Hana、Typesense 和 Weaviate。

  • 跨向量儲存提供商的行動式 API,包括新穎的類 SQL 元資料過濾器 API。

  • 工具/函式呼叫 - 允許模型請求執行客戶端工具和函式,從而按需訪問必要的即時資訊並採取行動。

  • 可觀測性 - 提供對 AI 相關操作的洞察。

  • 用於資料工程的文件攝取ETL 框架

  • AI 模型評估 - 有助於評估生成內容並防止幻覺響應的實用程式。

  • Spring Boot 自動配置和用於 AI 模型和向量儲存的啟動器。

  • ChatClient API - 用於與 AI 聊天模型通訊的流暢 API,與 WebClient 和 RestClient API 類似。

  • Advisors API - 封裝了常見的生成式 AI 模式,轉換髮送給和來自大型語言模型 (LLM) 的資料,並提供了跨各種模型和用例的可移植性。

  • 支援聊天對話記憶檢索增強生成 (RAG)

此功能集允許您實現常見的用例,例如“針對您的文件進行問答”或“與您的文件聊天”。

概念部分提供了 AI 概念及其在 Spring AI 中的表示的高階概述。

入門部分展示瞭如何建立您的第一個 AI 應用程式。後續部分將以程式碼為中心的方法深入探討每個元件和常見用例。

© . This site is unofficial and not affiliated with VMware.