Anything LLM使用--免费搭建自己的知识库，穷鬼天堂[特殊字符]

前言官方文档明确写了anything LLM是完全免费的太适合我这种白嫖党了而且可以使用开源模型更爽了。上篇文章简要的介绍了anything LLM但是没有介绍实操这篇文章就是介绍一下anything LLM怎么使用。anything LLM介绍-CSDN博客创建知识库安装教程这里就不赘述了因为我也记不清了(*Φ皿Φ*)。我记得它是可以安装到D盘的。不过你搜索教程时可能会看到需要先安装Ollama的步骤。我个人觉得单独安装Ollama会更好但如果你觉得麻烦也可以不单独装因为anything LLM在安装过程中会询问你是否下载模型到本地好像在这个过程中会顺带帮你安装Ollama我当时就没有单独装Ollama。不过这个Ollama并不会写入环境变量所以无法在任何位置直接调用它。如果希望在任何地方都能调用Ollama就需要手动把它添加到环境变量中但前提是你得先找到Ollama被安装在哪里所以还是单独安装Ollama吧。当然如果你不想在本地运行模型也可以不安装下面会介绍如何配置远程API。配置本地模型如果你像我一样直接无脑装了话通过以下路径可以看到你安装的模型然后这里也可以切换如果切换的话会下载你选择的模型到本地。或者你可以从Hugging Face – The AI community building the future.上找自己想要的模型可以看到这个页面有一个引入按钮支持使用你偏好的模型。配置远程API如果说电脑配置不够空间不够也可以配置远程API。直接点击这个可以看到提供了很多选项然后选择你的大模型提供商填写API Key和模型就行。如果是使用的中转站或者是公司统一搭建的中转接口滑到最后一个填写API Key和URL就行不过这个中转接口必须满足openai规定的格式不然你接上了也报错退回到聊天页面发送一句对话如果能正确回答就是配置好了。上传文档形成知识库1、创建工作区2、点击工作区旁边的设置按钮3、点击代理配置你可以在这里选择当前工作区agent注意是anything LLM内置的agent使用的模型5、点击工作区的上传图标打开上传对话框6、选择你想要上传的知识文件7、上传成功会在7区域出现选择你想要移动到当前工作区的文件8、移动到工作区9、移动之后会出现在右侧10、点击保存并嵌入打开工作区的设置打开向量数据库查看是否生成了向量这需要一定的时间如果生成了向量恭喜。测试首先需要设置聊天模式为查询然后在对话的时候就会从知识库中找对应知识。下面这个温度也可以设置一下如果你懂的话我不懂所以我没有设置哈哈哈哈然后开启一个thread对话查看回答最后是否有标注来源如果有来源就说明知识库设置成功了待探索1、视频音频转录在这个路径下可以对音频和视频进行转录如果你安装anything LLM的时候安装了会议助理直接用就行不然得自己下载让豆包来就行哈哈哈哈哈不过这个转录模型只支持英文我打算自己下载一个可以转录中文的模型成功了再出文章哈哈哈哈哈其实官方文档当中写了可以自己配置转录模型但是不知道为啥我这里没有那个选项我在这里贴一下链接吧如果有成功的麻烦分享一下咯。AnythingLLM Default Transcription Model ~ AnythingLLM2、打开设置可以看到anything LLM还支持设置很多种模型。