Solon AI

Solon AI ，是一套大语言模型的 Java 通用开发工具包（是 Solon 的二级项目）。特点：

• 一套接口支持不同提供者、不同大模型调用（通过方言适配）
• 支持 Function Call
• 支持 RAG
• 支持 AI-Flow（与 Solon Flow 配合）
• 支持同步接口与流式接口
• 支持会话记忆
• 支持聊天生成模型（ChatModel） 、图片生成模型（ImageModel） 、多态模型等
• 支持嵌入模型（EmbeddingModel） 、排序模型（RankingModel）
• 支持 Java 8 到 Java 24
• 支持 Spring、jFinal、Vert.x 等 Solon 以外的框架
• 等......更多内容，参考官网介绍

通过 Hello world 了解下：

添加应用配置

solon.ai.chat:
  demo:
    apiUrl: "http://127.0.0.1:11434/api/chat" # 使用完整地址（而不是 api_base）
    provider: "ollama" # 使用 ollama 服务时，需要配置 provider
    model: "llama3.2" # 或 deepseek-r1:7b 

效果测试

@Configuration
public class DemoConfig {
    @Bean
    public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) {
        return ChatModel.of(config).build();
    }

    @Bean
    public void test(ChatModel chatModel) throws IOException {
        //一次性返回
        ChatResponse resp = chatModel.prompt("hello").call();

        //打印消息
        System.out.println(resp.getMessage());
    }
}

最近更新了什么？

• 新增 solon-ai-repo-chroma 插件
• 优化 solon-ai-repo-tcvectordb 插件相似度处理
• 优化 solon-ai-repo-elasticsearch 插件相似度处理

项目仓库地址？

• gitee：https://gitee.com/opensolon/solon-ai
• gitcode: https://gitcode.com/opensolon/solon-ai
• github：https://github.com/opensolon/solon-ai

官网？

• https://solon.noear.org/article/learn-solon-ai