官網(wǎng)
https://ollama.com/

開源地址
https://github.com/ollama/ollama

特點(diǎn)
啟動(dòng)并運(yùn)行大型語(yǔ)言模型。 運(yùn)行 Llama 3、Phi 3、Mistral、Gemma 和其他模型。自定義并創(chuàng)建自己的。

支持本地知識(shí)庫(kù)

使用說明
下載安裝ollama
下載地址：
https://ollama.com/download

用ollama下載模型
例如：

ollama pull llama3
開始使用
例如：

ollama run llama3

搭配

您應(yīng)該至少有8 GB的RAM用于運(yùn)行7B模型，16 GB用于運(yùn)行13B模型，32 GB用于運(yùn)行33B模型。

普通的家用電腦上也可以運(yùn)行本地大模型了。

搭配網(wǎng)頁(yè)或桌面客戶端，可以想訪問“豆包”、“chatgpt”一樣使用自己電腦上的大模型。

Open WebUI
Enchanted (macOS native)
Hollama
Lollms-Webui
LibreChat
Bionic GPT
HTML UI
Saddle
Chatbot UI
Chatbot UI v2
Typescript UI
Minimalistic React UI for Ollama Models
Ollamac
big-AGI
Cheshire Cat assistant framework
Amica
chatd
Ollama-SwiftUI
Dify.AI
MindMac
NextJS Web Interface for Ollama
Msty
Chatbox
WinForm Ollama Copilot
NextChat with Get Started Doc
Alpaca WebUI
OllamaGUI
OpenAOE
Odin Runes
LLM-X (Progressive Web App)
AnythingLLM (Docker + MacOs/Windows/Linux native app)
Ollama Basic Chat: Uses HyperDiv Reactive UI
Ollama-chats RPG
QA-Pilot (Chat with Code Repository)
ChatOllama (Open Source Chatbot based on Ollama with Knowledge Bases)
CRAG Ollama Chat (Simple Web Search with Corrective RAG)
RAGFlow (Open-source Retrieval-Augmented Generation engine based on deep document understanding)
StreamDeploy (LLM Application Scaffold)
chat (chat web app for teams)
Lobe Chat with Integrating Doc
Ollama RAG Chatbot (Local Chat with multiple PDFs using Ollama and RAG)
BrainSoup (Flexible native client with RAG & multi-agent automation)
macai (macOS client for Ollama, ChatGPT, and other compatible API back-ends)