119K star！无需GPU轻松本地部署多款大模型，DeepSeek支持！这个开源神器绝了

ollama run llama3  # 只需这行命令就能启动70亿参数的Llama3模型

import requests

response = requests.post(
    "http://localhost:11434/api/generate",
    json={
        "model": "deepseek-r1",
        "prompt": "用Python实现快速排序"
    }
)

ollama list       # 查看已安装模型
ollama pull qwen  # 下载新模型
ollama rm gemma3  # 删除旧模型

// 基于Electron构建桌面应用
const response = await ollama.generate({
  model: 'mistral',
  prompt: '帮我写封英文会议邀请函'
});

# 文献翻译并保留格式
from ollama import Client
client = Client()
translated = client.translate(
    document="paper.pdf",
    target_lang="zh",
    keep_layout=True
)

ollama run llava  # 启动视觉语言模型

# 创建天气预报Agent
from crewai import Agent

meteorologist = Agent(
    role='气象专家',
    goal='生成精准天气预报',
    backstory='资深气象分析师',
    tools=[ollama_tool],
    verbose=True
)

# Mac/Linux
brew install ollama

# Windows
下载安装包双击运行

ollama run deepseek-r1
>>> 你好，有什么可以帮助您？

import ollama

response = ollama.chat(
    model='llama3',
    messages=[{'role': 'user', 'content': '用Rust实现二叉树'}]
)
print(response['message']['content'])