开发 AI 类应用、知识库有什么框架推荐或建议吗?

176 天前
 mmdsun
最近在调研 Java/Kotlin 语言开发 AI 应用类的框架,主要是个人/企业私有知识库、RAG 方向,
最近也跑了不少的 demo 目前选择这两个应用框架。

——请问 JVM 系(主要是 Java/Kotlin 语言)这类 AI 框架还有什么推荐的或者建议吗?或者开源项目参考的吗?谢谢。

spring ai 系:
spring-ai-alibaba:
https://github.com/springaialibaba/spring-ai-alibaba-examples
spring-ai:
https://github.com/spring-projects/spring-ai-examples

优点:和 spring boot 项目集成方便、例子比较清晰。
缺点:spring ai 还是 pre 版本。


langchain:
https://github.com/langchain4j/langchain4j
优点:支持功能比较多、langchain 生态圈资源多。
缺点:langchain 没有 Java 语言的、但有 langchain4j ,不过目前也是 beta 版本示例文档清晰度一般。
3793 次点击
所在节点    Java
11 条回复
why1001
176 天前
我之前调研也是这些框架,最后放弃了选择魔改 ragflow 、dify 这些现成的 AI 应用,java 在文件内容提取到向量这块感觉比 python 还是麻烦很多。
比如 pdf 提取图片,按段落提取文本并且返回段落的坐标这些 java 好像都没有。
masterArcher
176 天前
java 、go 、python 、nodejs 都行

主要看如何应用,简单的 nodejs 、python 全栈都行
或者 java 核心服务 go 处理 http
jarry777
176 天前
Spring AI 计划五月份 GA ,可以先学起来。

https://github.com/spring-projects/spring-ai/milestone/4
42joker
176 天前
你的做法是,直接提供一个知识库给使用者上传,关联到对应的 AI 来读取知识库吗
72
176 天前
这一块还得是 python ,会简单方便很多
mmdsun
176 天前
@42joker 我想,设计的时候,多抽象一个“应用”的概念。每个使用者可以创建多个知识库,知识库可以关联应用,在应用可以配置不同的 AI 模型, 再底层,向量数据库会有创建人的 id 来区分是不同的用户,避免 RAG 查询过程中查到了别人的数据。
42joker
176 天前
@mmdsun 明白,挺好的一个概念,最近我再思考另外一个方向,哈有机会可以交流一下
dabingbing
175 天前
我用 PHP 也不妨碍做 RAG
annilq
175 天前
简单应用的话,node 用 nextjs 搭配 vercel AI 或者 langchainjs 也还可以,全栈会比跑前后台应用简单一些
testliyu
174 天前
直接 coze 或者 dify
CodeCaster
160 天前
我们团队搞了高代码的 AI 编程框架( https://github.com/ModelEngine-Group/fit-framework )和低代码的 AI 框架( https://github.com/ModelEngine-Group/app-platform ),才开源没有多久,欢迎尝试,然后也弄了一个简单的官网( http://modelengine-ai.net/),里面有下载部署安装指南。

希望能帮忙 Star 一下,感谢~

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1123682

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX