Ollama+Open WebUI+deepseek-r1 搭建本地大模型，免费用上性能比肩的 OpenAI o1

在大语言模型蓬勃发展的今天，强大的模型能力成为众多技术爱好者和从业者梦寐以求的助力，可使用成本却让不少人望而却步。别担心，今天就为大家带来一个超具性价比的方案：通过 Ollama、Open WebUI 以及 deepseek-r1 搭建本地大模型，无需花费一分钱，就能拥有媲美 OpenAI o1 性能的大模型服务。

Python编程杰哥

3412人浏览 · 2025-02-05 19:58:08

Python编程杰哥 · 2025-02-05 19:58:08 发布

在大语言模型蓬勃发展的今天，强大的模型能力成为众多技术爱好者和从业者梦寐以求的助力，可使用成本却让不少人望而却步。

别担心，今天就为大家带来一个超具性价比的方案：通过 Ollama、Open WebUI 以及 deepseek-r1 搭建本地大模型，无需花费一分钱，就能拥有媲美 OpenAI o1 性能的大模型服务。

一、本地大语言模型搭建的核心工具 ——Ollama

Ollama 堪称搭建本地大模型的关键利器。搭建工作开始前，先完成 Ollama 的安装。其安装流程并不繁琐，只需按照详细的指引按部就班操作，即可顺利完成。

安装完成后，为了给后续搭建工作筑牢根基，建议先安装一些小模型进行验证和测试。这就好比建造高楼大厦，只有夯实基础，才能确保后续的每一步都稳健推进。通过小模型测试，能提前排查出潜在问题，避免在搭建核心模型时遭遇阻碍，大大提升搭建效率。

ollama run llama3.2

二、验证大模型运行状态的方法

REST API

Ollama 一经启动，便会自动运行一个执行和管理模型的 API，这一 API 为我们与模型的交互提供了极为便捷的通道。

回答 API：当你有问题想要询问模型时，使用curl http://localhost:11434/api/generate -d ‘{ “model”: “llama3”, “prompt”:“Why is the sky blue?” }’ 这条命令，就能向名为 llama3 的模型抛出 “天空为什么是蓝色的” 这一问题，模型会凭借其庞大的知识储备，给出专业且全面的回答。
聊天 API：倘若你希望开启与模型的对话交流，让交互更具自然感，聊天 API 就是你的最佳选择。例如，使用curl http://localhost:11434/api/chat -d ‘{ “model”: “llama3”, “messages”: [ { “role”: “user”, “content”: “why is the sky blue?” } ] }’ ，你就可以像与朋友聊天一样，与模型展开轻松对话。

除了上述基础用法，我们还能依据自身需求，对响应格式进行灵活指定，或者选用流式响应。比如使用流式 API curl http://localhost:11434/api/generate -d ‘{ “model”: “glm4”, “prompt”: “天空是什么颜色?” }’ ，模型会实时逐步返回回答内容，让你感受到如同实时聊天般的高效与流畅；而非流式 API 则会在模型处理完毕后，一次性返回完整结果，对应命令为curl http://localhost:11434/api/generate -d ‘{ “model”: “glm4”, “prompt”: “天空是什么颜色?”, “stream”: false }’ 。若你想深入探究更多高级用法，Ollama API 文档将是你的学习资料。

Python API

对于广大 Python 开发者而言，Ollama 提供的 Python API 无疑是一个重大利好消息，它极大地简化了 Python 程序与 Ollama 的集成过程。集成的第一步，是安装依赖库，使用pip install ollama 命令即可轻松完成。

聊天功能：下面这段简洁的 Python 代码，便能实现与模型的聊天交互：

import ollama  
response = ollama.chat(model='llama3', messages=[  
    {  
        'role': 'user',  
        'content': 'Why is the sky blue?',  
    },  
])  
print(response['message']['content'])

运行上述代码，你就能向 llama3 模型提出 “天空为什么是蓝色的” 问题，并获取模型的回答。

使用流式 API：若你追求实时获取模型的回答内容，体验即时交流的畅快，流式 API 便是不二之选，代码如下：

import ollama  
stream = ollama.chat(  
    model='llama3',  
    messages=[{'role': 'user', 'content': 'Why is the sky blue?'}],  
    stream=True,  
)  
for chunk in stream:  
    print(chunk['message']['content'], end='', flush=True)

通过这段代码，模型的回答会以逐块的形式实时输出，让你时刻紧跟模型的思维节奏。

此外，CLI 提供的各类指令，在 Python 中都有对应的 API 实现。无论是创建模型、生成文本，还是列出模型、显示模型信息，亦或是拉取模型、拷贝模型、删除模型等操作，在 Python 环境中都能轻松搞定。例如创建模型：

modelfile='''  
FROM llama3  
SYSTEM You are mario from super mario bros.  
'''  
ollama.create(model='example', modelfile=modelfile)

这段代码能够基于 llama3，创建一个具有特定设定的全新模型，满足你多样化的需求。

三、利用第三方客户端 Open WebUI 实现便捷展示与使用

Open WebUI 是一款功能强大、可扩展性高且用户体验极佳的自托管 AI 平台，其亮点在于能够完全离线运行。它广泛支持各种 LLM 运行器，无论是 Ollama，还是 OpenAI 兼容的 API，它都能适配，并且内置的 RAG 推理引擎，更是大幅提升了其 AI 部署能力，使其成为一款不可多得的 AI 部署解决方案。

如果 Ollama 安装在你的本地计算机上，只需使用以下命令，即可轻松启动 Open WebUI：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

倘若 Ollama 位于其他服务器上，你只需将 OLLAMA_BASE_URL 替换为服务器的 URL，再使用这条命令：

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

借助 Open WebUI，你可以更加直观、便捷地使用本地大模型，充分领略其强大功能带来的无限可能。

通过以上一系列步骤，我们就成功搭建起了基于 Ollama+Open WebUI+deepseek-r1 的本地大模型。不仅实现了免费使用，而且在性能上足以与 OpenAI o1 相媲美。

最后看你本地的硬件支持多大的级别。

同理还是执行类似命令即可：

ollama run deepseek-r1:7b

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述