在本地硬件上免费运行 Deepseek R1
Deepseek R1 是一个令人惊叹、强大、快速且小巧的 LLM AI 模型,您可以完全免费且离线地下载并在自己的 PC 上运行。本文涵盖了从本地托管模型到功能强大的类似 ChatGPT 的 Web 界面的所有内容。
Deepseek R1 介绍
Deepseek R1 是一个全新的、更便宜的训练模型,可以在性能较低的硬件上运行得更快等。这是 AI 和 LLM 技术的一大进步。就像其他 LLM 和 AI 一样,您可以完全免费且离线地将它们下载并在自己的 PC 上运行。
安装 Ollama
要使 Deepseek R1 在您的系统上运行,您需要下载一个可以加载此模型并实际使用它的程序。Ollama 实际上是一个允许您加载模型并直接与其对话或使用其他程序连接的程序。您可以在下方的描述中找到下载 Ollama 的链接。只需选择下载,然后选择 Windows、Mac 或 Linux,并下载对应的操作系统版本。
下载和安装 Deepseek R1 模型
安装完 Ollama 后,您需要下载 Deepseek R1 模型。您可以在下方链接中找到模型下载命令。您有多个选项可供选择,包括 Deepseek R1 1.5b、7B、8B、14b、32b 和 70b。这些都是模型的精简版本,基本上可以在较低的 RAM 和 vram 系统上运行。
运行 Deepseek R1
要运行 Deepseek R1,您需要将复制的命令粘贴到终端、命令提示符或 PowerShell 窗口中。当您执行此操作时,它将连接并开始下载实际模型。模型的大小随着列表的深入而显著增加。无论怎样,下载完成后,它会进行验证,不久之后,您就可以与模型进行对话。
与 Deepseek R1 对话
您可以使用终端、命令提示符或 PowerShell 窗口与 Deepseek R1 进行对话。您可以向它提问,它会回应。您也可以使用 web.chat genetically modified organismai.app 这样的 Web 界面与 Deepseek R1 进行对话。这比终端窗口更美观。
使用 Ollama 的 GUI
有多个 GUI 选项可用,包括 web.chatboxai.app。您可以通过访问 chatboxai.app 并下载它来下载用户界面。有数千种不同的图形用户界面可以与 Ollama 一起使用。
启用 Ollama API
要启用 Ollama API,您需要退出 Ollama,然后点击开始并搜索环境变量。您需要设置两个选项:OLLAMA_HOST 和 OLLAMA_ORIGINS。您可以在 Ollama 文档中找到这些选项的值。
选择 Deepseek R1 模型
启用 Ollama API 后,您可以选择要使用的 Deepseek R1 模型。您可以从可用模型列表中选择,包括 1.5b、7B、8B、14b、32b 和 70b。
结论
在本地硬件上免费运行 Deepseek R1 是体验 AI 功能的一种很好的方式,无需支付昂贵的硬件费用或订阅费用。有了 Ollama 和 Deepseek R1 模型,您可以与强大的 AI 模型进行对话并获得高质量的回答。无论是开发者、研究人员,还是对 AI 感兴趣的人,Deepseek R1 都绝对值得尝试。
注意:时间戳为 45239 秒、9736 秒、5942 秒、70248 秒和 847759 秒的图片不可用。
此外,本文未包含时间戳为 45239 秒、9736 秒、5942 秒、70248 秒和 847759 秒的图片,因为它们为空。
但是,文本中提到的 70248 秒处的图片为“[在 702.48 秒处] 我们选择 320 亿参数的模型”,但实际上使用的是时间戳为 148 秒的图片。
320 亿参数模型的正确图片不可用。
如果您想添加 320 亿参数模型的图片,可以使用以下 Markdown 语法:
这是图片的说明
将 "image_url" 替换为实际图片的 URL。