Chạy Deepseek R1 Miễn Phí Trên Phần Cứng Cục Bộ Của Bạn
Deepseek R1 là một mô hình LLM AI tuyệt vời, mạnh mẽ, nhanh chóng và nhỏ gọn mà bạn có thể tải xuống và chạy trên PC của riêng mình hoàn toàn miễn phí và ngoại tuyến. Bài viết này bao gồm mọi thứ, từ việc lưu trữ mô hình cục bộ đến giao diện web mạnh mẽ như ChatGPT.
Giới Thiệu về Deepseek R1
Deepseek R1 là một mô hình mới tuyệt vời, được đào tạo với chi phí rẻ hơn rất nhiều và chạy trên phần cứng ít hơn nhiều, nhanh hơn, v.v. Đây là một bước tiến tuyệt vời cho công nghệ AI và LLM. Giống như các LLM và AI khác, bạn có thể tải xuống và chạy chúng trên PC của riêng mình hoàn toàn ngoại tuyến và hoàn toàn miễn phí.
This is the caption for the image 1
Cài Đặt Ollama
Để chạy Deepseek R1 trên hệ thống của bạn, bạn cần tải xuống một chương trình có thể tải mô hình này và thực sự sử dụng nó. Ollama về cơ bản là một chương trình cho phép bạn tải mô hình và trò chuyện trực tiếp với nó hoặc kết nối với nó bằng các chương trình khác. Bạn có thể tìm thấy liên kết để tải xuống Ollama trong phần mô tả bên dưới. Chỉ cần chọn download, sau đó chọn Windows, Mac hoặc Linux và tải xuống cho bất kỳ HĐH nào.
Tải Xuống và Cài Đặt Mô Hình Deepseek R1
Sau khi bạn đã cài đặt Ollama, bạn cần tải xuống mô hình Deepseek R1. Bạn có thể tìm thấy các lệnh tải xuống mô hình được liên kết bên dưới. Bạn có một vài tùy chọn để chọn, bao gồm Deepseek R1 1.5b, 7B, 8B, 14b, 32b và 70b. Đây đều là các phiên bản rút gọn của mô hình, về cơ bản chạy trên các hệ thống RAM và vram thấp hơn.
This is the caption for the image 2
Chạy Deepseek R1
Để chạy Deepseek R1, bạn cần dán lệnh bạn đã sao chép vào terminal, command prompt hoặc cửa sổ power shell. Khi bạn làm như vậy, nó sẽ tiếp cận và bắt đầu tải xuống mô hình thực tế. Kích thước mô hình tăng lên khá nhiều khi bạn đi xuống danh sách. Bất kể, sau khi quá trình tải xuống hoàn tất, nó sẽ xác minh và ngay sau đó, bạn thực sự có thể trò chuyện với nó.
Trò Chuyện Với Deepseek R1
Bạn có thể trò chuyện với Deepseek R1 bằng terminal, command prompt hoặc cửa sổ power shell. Bạn có thể hỏi nó những câu hỏi và nó sẽ trả lời. Bạn cũng có thể sử dụng giao diện web, chẳng hạn như web.chatboxai.app, để trò chuyện với Deepseek R1. Đây là một giao diện đẹp hơn nhiều so với cửa sổ terminal.
Sử Dụng GUI Cho Ollama
Có một vài tùy chọn GUI có sẵn cho Ollama, bao gồm web.chatboxai.app. Bạn có thể tải xuống UI bằng cách truy cập chatboxai.app và tải xuống. Có hàng ngàn giao diện người dùng đồ họa khác nhau mà bạn có thể sử dụng với Ollama.
Bật Ollama API
Để bật Ollama API, bạn cần thoát Ollama, sau đó nhấn start và tìm kiếm environment variables. Bạn cần đặt hai tùy chọn: OLLAMA_HOST và OLLAMA_ORIGINS. Bạn có thể tìm thấy các giá trị cho các tùy chọn này trong tài liệu Ollama.
Chọn Mô Hình Deepseek R1
Sau khi bạn đã bật Ollama API, bạn có thể chọn mô hình Deepseek R1 bạn muốn sử dụng. Bạn có thể chọn từ danh sách các mô hình có sẵn, bao gồm 1.5b, 7B, 8B, 14b, 32b và 70b.
Kết Luận
Chạy Deepseek R1 trên phần cứng cục bộ của bạn miễn phí là một cách tuyệt vời để trải nghiệm sức mạnh của AI mà không phải trả tiền cho phần cứng đắt tiền hoặc phí đăng ký. Với Ollama và mô hình Deepseek R1, bạn có thể trò chuyện với một mô hình AI mạnh mẽ và nhận được câu trả lời chất lượng cao cho câu hỏi của mình. Cho dù bạn là nhà phát triển, nhà nghiên cứu hay chỉ là người quan tâm đến AI, Deepseek R1 chắc chắn đáng để kiểm tra.
Lưu ý: Rất tiếc, các hình ảnh ở dấu thời gian 45239 giây, 9736 giây, 5942 giây, 70248 giây và 847759 giây không khả dụng.
Ngoài ra, lưu ý rằng bài viết không bao gồm bất kỳ hình ảnh nào ở dấu thời gian 45239 giây, 9736 giây, 5942 giây, 70248 giây và 847759 giây vì chúng là null.
Tuy nhiên, hình ảnh ở dấu thời gian 70248 giây được đề cập trong văn bản là "[at 702.48 seconds] so let's go for say the 32 billion parameter model" nhưng thực tế hình ảnh ở dấu thời gian 148 giây được sử dụng trong bài viết.
Hình ảnh chính xác cho mô hình tham số 32 tỷ không khả dụng.
Nếu bạn muốn thêm hình ảnh cho mô hình tham số 32 tỷ, bạn có thể sử dụng cú pháp markdown sau:
This is the caption for the image
Thay thế "image_url" bằng URL thực của hình ảnh.