使用Defy进行本地知识库搭建
安装Docker
先安装Docker容器,去官网下载对应版本安装即可
https://www.docker.com/
下载完成后无脑下一步即可,注意使用Docker需要电脑开启Hyper-V虚拟支持,以win11为例,步骤如下:
按windows键,搜索“可选功能”,划到下面选择更多windows功能
找到Hyper-V勾选起来,重启电脑即可(Docker安装完也得重启,可以一起整)。
安装完Docker后,可能会提示你需要升级下WSL,即在命令行中输入:
wsl --update
这个下载过程可能会很慢,所以最好自己去安装离线包,秒下完,离线包Github地址如下:
https://github.com/microsoft/WSL/releases
安装完成后,登录即可。
英文不好的话,善用微信的截图翻译,Docker官方目前没有简中可用。
安装Dify
Dify项目Github地址:
https://github.com/langgenius/dify
进去后下载ZIP并放入指定目录下:
在dify-main文件夹下,找到docker文件夹,将.env.example文件重命名为.env,并用记事本打开这个文件,在文件最下面,增加以下两行配置,并保存:
#启用自定义模型
CUSTOM_MODEL_ENABLED=ture
#指定Ollama的API地址(根据部署环境调整IP)
OLLAMA_API_BASE_URL=host.docker.internal:11434
完成后,在docker目录下空白处,右键-在终端中打开,并输入以下内容,安装项目所需的依赖:
docker compose up -d
安装完成后,自动运行,在浏览器输入下列网址(2选1即可,理论上127.0.0.1是可以访问的,但是我的不知道为啥进不去,暂时不纠结了),即可开启dify安装配置流程:
http://localhost/install
http://127.0.0.1/install
创建完成后,在个人设置里面,选择模型供应商,绑定模型即可。
基础URL就输入上面,记事本里面增加的
http://host.docker.internal:11434
配置完成后刷新下网页,在系统模型设置里面,把配置的模型勾选上即可。
安装文本嵌入模型:bge-m3
打开命令行,输入bge-m3(ollama社区直接拉取即可),安装嵌入模型:
bge-m3
安装完成后,在Dify网页里面,设置添加模型,选择Text Embedding模型,基础URL还是和刚才一样,保存后刷新一下网页:
http://host.docker.internal:11434
本文是原创文章,采用 CC BY-NC-ND 4.0 协议,完整转载请注明来自 三九
评论
匿名评论
隐私政策
你无需删除空行,直接评论以获取最佳展示效果