Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[错误]: Ollama 无法使用本地嵌入模型创建知识库 #630

Closed
Juwei-ZHU opened this issue Jan 3, 2025 · 14 comments
Closed

[错误]: Ollama 无法使用本地嵌入模型创建知识库 #630

Juwei-ZHU opened this issue Jan 3, 2025 · 14 comments
Assignees
Labels
bug Something isn't working

Comments

@Juwei-ZHU
Copy link

平台

Windows

版本

0.9.3

错误描述

使用Ollama中的本地嵌入模型时,设置好后,在添加知识库界面点击“确认”按钮,没有反应。

重现步骤

1.转到“知识库”
2.点击“添加”
3.输入“名称”
4.选择“ollama中的嵌入模型”
5.点击“确定”
6.长时间没有反应

预期行为

创建好知识库

相关日志输出

No response

附加信息

No response

@Juwei-ZHU Juwei-ZHU added the bug Something isn't working label Jan 3, 2025
@kangfenmao
Copy link
Collaborator

Ollama 是不是卡住了,电脑性能如何。另外更换一下 Ollama 本地嵌入模型试试。

这些信息可以帮助我排查问题

@ForstJean
Copy link

你用的什么嵌入模型,我这边也试一下,看看是什么问题?

@kangfenmao kangfenmao changed the title [错误]: [错误]: Ollama 无法使用本地嵌入模型创建知识库 Jan 3, 2025
@abedormancy
Copy link

我使用的的本地这个模型(https://ollama.com/library/bge-m3:latest)。 也是一直卡住,卡了20来分钟我就停了

@ForstJean
Copy link

我使用的的本地这个模型(https://ollama.com/library/bge-m3:latest)。 也是一直卡住,卡了20来分钟我就停了

链接挂了
不过要是确实是在ollama仓库下的bge-m3模型,我这边一秒钟知识库就加载好了呀

@PeiZheLi
Copy link

PeiZheLi commented Jan 5, 2025

i meet the same problem
ollama is able to chat , but fails to embed

@n1majne3
Copy link

n1majne3 commented Jan 6, 2025

I have the same issue; all embedding models from Ollama get stuck, but Siliconflow works.

@kangfenmao
Copy link
Collaborator

我要根据大家的反馈去检查修复一下

@Juwei-ZHU
Copy link
Author

Ollama 是不是卡住了,电脑性能如何。另外更换一下 Ollama 本地嵌入模型试试。

这些信息可以帮助我排查问题

Ollama没有卡住,可以在Cherry Studio里使用Ollama模型对话。
应该不是电脑性能的问题,我在CPU为4颗Xeon Platinum 8360H,内存1T,显卡为A40的服务器上测试也是一样。
Ollama版本为0.5.4,Cherry Studio版本为0.9.4,使用granite-embedding和quentinz/bge-large-zh-v1.5时,同样存在这个问题。
对了,这个问题是在windows版本上发生的,不知道其他版本的情况。

@kangfenmao
Copy link
Collaborator

kangfenmao commented Jan 6, 2025

image

image

@kangfenmao
Copy link
Collaborator

kangfenmao commented Jan 6, 2025

在创建的时候使用 Ctrl + Shift + I 快捷键看看有没有网络请求成功,可能和 Ollama 服务有关系

image

@PeiZheLi
Copy link

PeiZheLi commented Jan 6, 2025

windows平台 i5-12400F 3060
chat 可用
Snipaste_2025-01-06_15-30-36
embed不可用,一直转圈
Snipaste_2025-01-06_15-30-30
网络响应无问题
Snipaste_2025-01-06_15-30-22
image
image

@kangfenmao
Copy link
Collaborator

kangfenmao commented Jan 6, 2025

能否再截图看一下 console 中的错误 @PeiZheLi

@kangfenmao
Copy link
Collaborator

感谢大家提供错误信息,我已经知道如何解决这个问题了。

现在的解决办法:Ollama 设置里面填写一个 API 密钥,内容随便写

@kangfenmao
Copy link
Collaborator

I have the same issue; all embedding models from Ollama get stuck, but Siliconflow works.

Temporary solution: configure an api key in Ollama service provider

ruiwarn pushed a commit to ruiwarn/cherry-studio that referenced this issue Jan 14, 2025
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
bug Something isn't working
Projects
None yet
Development

No branches or pull requests

6 participants