背景简介
使用 Ollama 部署 DeepSeek-R1:7B 并进行简单的问题交互。
前置信息
- Ollama 安装 【官方参考】
- Ollama - Mac Mini M4安装
详细信息
第一步： 启动 Ollama
ollama serve
Couldn't find '/Users/user/.ollama/id_ed25519'. Generating new private key.
Your new public key is:
ssh-ed25519 AAAAC3NzaC1lZDI1NTE5AAAAIMnIeBGPbwIBGnQUzdFz3eVxFOYUVFfRV7bYohFWDsiY
time=2025-11-26T21:43:41.245+08:00 level=INFO source=routes.go:1544 msg="server config" env="map[HTTPS_PROXY: HTTP_PROXY: NO_PROXY: OLLAMA_CONTEXT_LENGTH:4096 OLLAMA_DEBUG:INFO OLLAMA_FLASH_ATTENTION:false OLLAMA_GPU_OVERHEAD:0 OLLAMA_HOST:http://127.0.0.1:11434 OLLAMA_KEEP_ALIVE:5m0s OLLAMA_KV_CACHE_TYPE: OLLAMA_LLM_LIBRARY: OLLAMA_LOAD_TIMEOUT:5m0s OLLAMA_MAX_LOADED_MODELS:0 OLLAMA_MAX_QUEUE:512 OLLAMA_MODELS:/Users/user/.ollama/models OLLAMA_MULTIUSER_CACHE:false OLLAMA_NEW_ENGINE:false OLLAMA_NOHISTORY:false OLLAMA_NOPRUNE:false OLLAMA_NUM_PARALLEL:1 OLLAMA_ORIGINS:[http://localhost https://localhost http://localhost:* https://localhost:* http://127.0.0.1 https://127.0.0.1 http://127.0.0.1:* https://127.0.0.1:* http://0.0.0.0 https://0.0.0.0 http://0.0.0.0:* https://0.0.0.0:* app://* file://* tauri://* vscode-webview://* vscode-file://*] OLLAMA_REMOTES:[ollama.com] OLLAMA_SCHED_SPREAD:false http_proxy: https_proxy: no_proxy:]"
time=2025-11-26T21:43:41.246+08:00 level=INFO source=images.go:522 msg="total blobs: 0"
time=2025-11-26T21:43:41.246+08:00 level=INFO source=images.go:529 msg="total unused blobs removed: 0"
time=2025-11-26T21:43:41.246+08:00 level=INFO source=routes.go:1597 msg="Listening on 127.0.0.1:11434 (version 0.13.0)"
time=2025-11-26T21:43:41.247+08:00 level=INFO source=runner.go:67 msg="discovering available GPUs..."
time=2025-11-26T21:43:41.248+08:00 level=INFO source=server.go:392 msg="starting runner" cmd="/opt/homebrew/Cellar/ollama/0.13.0/bin/ollama runner --ollama-engine --port 52848"
time=2025-11-26T21:43:46.189+08:00 level=INFO source=types.go:42 msg="inference compute" id=0 filter_id=0 library=Metal compute=0.0 name=Metal description="Apple M4" libdirs="" driver=0.0 pci_id="" type=discrete total="11.8 GiB" available="11.8 GiB"
time=2025-11-26T21:43:46.189+08:00 level=INFO source=routes.go:1638 msg="entering low vram mode" "total vram"="11.8 GiB" threshold="20.0 GiB"
[GIN] 2025/11/26 - 21:44:20 | 200 | 220.125µs | 127.0.0.1 | GET "/api/version"
[GIN] 2025/11/26 - 21:45:00 | 200 | 22.875µs | 127.0.0.1 | HEAD "/"
[GIN] 2025/11/26 - 21:45:13 | 200 | 25.458µs | 127.0.0.1 | HEAD "/"
[GIN] 2025/11/26 - 21:46:00 | 200 | 37.583µs | 127.0.0.1 | HEAD "/"
[GIN] 2025/11/26 - 21:46:00 | 200 | 601.583µs | 127.0.0.1 | GET "/api/tags"
[GIN] 2025/11/26 - 21:52:47 | 200 | 31.167µs | 127.0.0.1 | HEAD "/"
[GIN] 2025/11/26 - 21:52:47 | 200 | 159.375µs | 127.0.0.1 | GET "/api/tags"
第二步： 下载和启动模型
ollama run DeepSeek-R1:7B
pulling manifest
pulling 96c415656d37: 100% ▕██████████████████▏ 4.7 GB
pulling c5ad996bda6e: 100% ▕██████████████████▏ 556 B
pulling 6e4c38e1172f: 100% ▕██████████████████▏ 1.1 KB
pulling f4d24e9138dd: 100% ▕██████████████████▏ 148 B
pulling 40fb844194b2: 100% ▕██████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
>>> end a message (/? for help)
第三步： 提问
>>> 你是什么模型？
您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。有关模型和产品的详细内容请参考官方文档。
>>> 你能编写和执行Python代码吗？
Thinking...
嗯，用户问的是我能不能写和运行Python代码。我之前已经介绍过自己是基于深度求索公司的模型，并且提到要参考官方文档。现在用户这个提问看起来很直接，想知道我的能力范围。
首先，我要确认用户的需求是什么。他们可能对AI助手的能力感到好奇，或者是在测试我的功能是否可以处理编程任务。我需要确保回答准确，同时不超出我的能力范围。
接着，我会考虑是否有相关的限制。比如，我不能运行外部脚本或访问互联网资源，这些都需要注意。另外，虽然我对大多数编程问题有帮助，但有些高级问题可能超出了我的知识范围，这时候应该适当提示用户。
然后，我会决定如何回答这个问题。直接回应“是的”比较简洁明了，并说明我可以编写和执行Python代码，同时提醒一些限制条件，比如不涉及外部资源访问或复杂的任务超出能力范围。这样既满足用户的需求，又保持了回答的准确性。
最后，我要确保语气友好且专业，让用户感觉被理解和支持。避免使用过于技术化的术语，让用户容易理解。
...done thinking.
是的！我可以编写和执行Python代码。您有任何具体的代码问题或需要帮助的地方吗
以上便是本文的全部内容，感谢您的阅读，如遇到任何问题，欢迎在评论区留言讨论。