开发笔记
未读
开发了一个小工具:Ollama2OpenAI
有些时候我们发现一个应用只支持使用Ollama作为AI的提供者,但是自己的服务器性能不足以本地部署Ollama,却又找不到公共的Ollama实例;想直接填入OpenAI的BaseURL发现不兼容。或者是想测试自己开发的项目的Ollama支持是否可用。这时候可能就用得上我这个小工具了: 它的作用就是将
运维笔记
未读
记一次本地离线部署MaxKB
前言 第一次完全离线部署一个东西,遇到很多以前从来没遇到的问题。离线部署难度真的比在线部署难度大好多😖但是经过一段时间的尝试最后还是成功了。 部署LLM MaxKB作为一个LLM RAG的工具,在部署它之前肯定是要先部署一个运行LLM的工具。这里部署了较为常用的Ollama。为了更方便和高效地调用