Global Soul Limited liyi@gs-smt.com 86-755-27962186
Khi DeepSeek tiếp tục được ưa chuộng, mọi người không hài lòng với việc sử dụng DeepSeek trên web và APP, và cố gắng nội địa hóa DeepSeek. Nội địa hóa liên quan đến việc cài đặt các mô hình AI lớn của DeepSeek trên máy tính cục bộ, không dựa vào mạng hoặc dịch vụ đám mây. Các phóng viên đã tìm kiếm trên các trang web video và phát hiện ra rằng nhiều người dùng đã tải lên các hướng dẫn về cách triển khai DeepSeek lên máy tính cục bộ và nhiều video đã được xem hơn 1 triệu lần.
Thông qua việc tìm kiếm "triển khai DeepSeek cục bộ" trên nền tảng thương mại điện tử, phóng viên nhận thấy rằng nhiều cửa hàng đã mở dịch vụ triển khai DeepSeek cục bộ và đơn giá của các dịch vụ này dao động từ vài đô la đến hàng chục đô la, và một số dịch vụ này gần đây đã được 1.000 người mua.
Một người đam mê AI đã thử triển khai cho biết với các phóng viên rằng tốc độ phản hồi của phía mạng chậm và khi lưu lượng truy cập quá lớn, thường có thông báo "máy chủ đang bận, vui lòng thử lại sau". Để có trải nghiệm tốt hơn, anh đã cố gắng sử dụng DeepSeek để triển khai cục bộ. Được biết, việc triển khai cục bộ không cần phải nắm vững kiến thức lập trình chuyên sâu, thông qua hướng dẫn từng bước, bạn có thể triển khai thành công.
Zhang Yi, nhà phân tích trưởng tại IIMedia Consulting, nói với các phóng viên: "Triển khai cục bộ hỗ trợ các cá nhân thực hiện một số sửa đổi tùy chỉnh cho DeepSeek theo nhu cầu của họ, đây cũng là một trong những động lực." Zhang Yi cho biết thêm rằng dữ liệu cá nhân trong triển khai cục bộ không đi đến đám mây, điều này có thể đáp ứng nhu cầu về quyền riêng tư.
DeepSeek đã xuất bản các mô hình với số lượng tham số khác nhau, từ nhỏ nhất là 1 tỷ tham số đến lớn nhất là 671 tỷ tham số và tham số càng lớn thì tài nguyên tính toán càng lớn. Do tài nguyên tính toán của các thiết bị như máy tính cá nhân và điện thoại di động bị hạn chế, mô hình DeepSeek 671 tỷ tham số thường không thể được triển khai cục bộ. "Một máy tính xách tay điển hình chỉ có thể triển khai phiên bản một tỷ tham số, nhưng một PC có GPU tốt hoặc bộ nhớ cao (ví dụ: 32GB) có thể chạy phiên bản DeepSeek 7 tỷ tham số." Những người đam mê công nghệ AI cho biết với các phóng viên.
Về hiệu quả của việc triển khai cục bộ, phiên bản tham số càng nhỏ thì chất lượng câu trả lời của mô hình lớn càng tệ. "Tôi đã thử phiên bản 7 tỷ tham số của DeepSeek được triển khai cục bộ và nó chạy trơn tru, nhưng chất lượng câu trả lời kém hơn nhiều so với phiên bản đám mây và hiệu quả của phiên bản tham số nhỏ hơn còn tệ hơn." Những người đam mê AI trên cho biết.
Dưới sự nóng lên của việc triển khai DeepSeek cục bộ, các PC AI đặc biệt thêm NPU vào PC dự kiến sẽ chứng kiến sự tăng trưởng doanh số. Được biết, Huawei, Lenovo và các thương hiệu máy tính khác đã ra mắt PC AI, PC mới này được trang bị bộ xử lý tính toán mô hình AI lớn được triển khai cục bộ chuyên dụng, các chip bộ xử lý này được cung cấp bởi Intel, AMD, Qualcomm và các nhà máy chip khác.
Các PC AI này có thể được triển khai cục bộ và chạy trơn tru hàng chục tỷ tham số của mô hình AI lớn, chẳng hạn như CES 2025 này, AMD đã ra mắt bộ xử lý dòng Ryzen AI max, cho biết máy tính có thể chạy 70 tỷ tham số của mô hình AI lớn. Tuy nhiên, PC AI được trang bị chip bộ xử lý này rất đắt tiền và được biết giá của một cuốn sách trò chơi Asus là gần 15.000 nhân dân tệ. Ngoài ra, một số người đã đặt câu hỏi rằng việc chi nhiều tiền để mua PC AI, thực hiện triển khai cục bộ các mô hình AI lớn và đạt được các chức năng chồng chéo cao với các mô hình AI lớn trên đám mây, PC AI chỉ là một mánh lới quảng cáo của các nhà sản xuất.
Ngoài các cá nhân mở triển khai DeepSeek cục bộ, các doanh nghiệp cũng đang bắt đầu thử. Vào ngày làm việc đầu tiên của năm con Rắn, Wang Jiahui, người sáng lập Timwei Ao, đã phát hành một vòng kết nối bạn bè trên wechat: "Kinh nghiệm triển khai máy tính cục bộ mô hình lớn DeepSeek thành công, nhập cơ sở dữ liệu an toàn kiến thức mỏ than để hỏi và trả lời, bước tiếp theo là kết hợp nó với các hoạt động trong lĩnh vực công nghiệp."
Timviao là một công ty cung cấp các giải pháp quản lý công nghiệp cho ngành khai thác mỏ, ngành dầu khí và các ngành khác, sử dụng kính AR và phần mềm AI để cung cấp khả năng quan sát và hướng dẫn theo thời gian thực cho việc bảo trì, kiểm tra chất lượng và khắc phục sự cố của nhân viên hiện trường công nghiệp. Wang Jiahui nói với các phóng viên rằng chỉ có Tongyi Qian hỏi mô hình AI lớn để tạo ra một cơ sở kiến thức cục bộ hỏi và trả lời, theo quan điểm về khả năng suy luận tốt hơn của DeepSeek, anh đang xem xét DeepSeek và sự tích hợp sâu sắc trong kinh doanh.
"Trên cơ sở DeepSeek, chúng tôi tinh chỉnh các thông số cụ thể hoặc phát triển thứ cấp chúng để phù hợp với các hệ thống CNTT và triển khai các chức năng mới dựa trên nhu cầu và dữ liệu của các tình huống công nghiệp cụ thể." "Mục tiêu của chúng tôi là triển khai DeepSeek cục bộ và tương tác với camera trong lĩnh vực này để xác định tốt hơn các hoạt động nguy hiểm tại chỗ và thực hiện các chức năng như phát hiện nguy hiểm tiềm ẩn và kiểm tra chất lượng sản phẩm," Wang nói với các phóng viên.
Ông tin rằng việc khách hàng công nghiệp có áp dụng triển khai tại chỗ hay không chủ yếu phụ thuộc vào tính bảo mật của dữ liệu. "Một số doanh nghiệp nhà nước, công ty thiết bị quân sự và y tế thường yêu cầu chúng tôi thực hiện các giải pháp triển khai cục bộ vì họ có yêu cầu cao về bảo mật dữ liệu." Ông nói thêm: "Các tình huống không bí mật có thể sử dụng các giải pháp truy cập đám mây, mặc dù sẽ có sự chậm trễ trong hoạt động, nhưng tác động là nhỏ và giá giải pháp thấp hơn."
Đối với việc triển khai tại chỗ, những khách hàng này yêu cầu các máy chủ được trang bị 4 hoặc 8 card GPU để triển khai các dịch vụ suy luận cục bộ DeepSeek. "Khách hàng của tôi thường chọn card đồ họa tiêu dùng của Nvidia để cấu hình máy chủ của họ, chẳng hạn như 4090, để có giá trị tốt hơn cho số tiền bỏ ra." "Nếu khách hàng có yêu cầu cấu hình trong nước, chúng tôi sẽ mua card đồ họa GPU trong nước đắt tiền hơn," Wang nói.
Ngoài ngành công nghiệp, ngày càng có nhiều doanh nghiệp bắt đầu triển khai DeepSeek cục bộ. Sinolink Securities cho biết DeepSeek có thể được áp dụng cho việc truy xuất thông tin, xử lý tài liệu, nghiên cứu ngành, nghiên cứu thị trường và các tình huống khác. Ngoài ra, các doanh nghiệp trong ngành y tế, an ninh mạng và các ngành khác gần đây cũng đã triển khai DeepSeek cục bộ, bao gồm Wanda Information và Qihoo 360.
Zhang Yi nói với các phóng viên rằng khi các doanh nghiệp mở rộng yêu cầu triển khai nội địa hóa, nhu cầu về năng lực tính toán suy luận trong nước sẽ tăng lên và Hoa Kỳ cấm các chip cao cấp, các công ty năng lực tính toán chip trong nước sẽ mở ra những cơ hội lớn hơn.
Giám đốc điều hành Qualcomm Cristiano Amon cho biết DeepSeek-R1 là một bước ngoặt đối với ngành AI, suy luận AI sẽ di chuyển đến phía cuối, AI sẽ trở nên nhỏ hơn, hiệu quả hơn và tùy chỉnh hơn, và các mô hình AI lớn và các ứng dụng AI dựa trên các tình huống cụ thể sẽ xuất hiện. Báo cáo nghiên cứu của China Aviation Securities tin rằng DeepSeek-R1 cho thấy việc triển khai AI đầu cuối sẽ trở nên toàn diện hơn và kỷ nguyên của mọi thứ thông minh sẽ tăng tốc.
Nguồn mở sẽ thu hút nhiều nhà phát triển xây dựng ứng dụng trên DeepSeek. Các card GPU trong nước như Huawei Centeng, Moore Thread, Bishi Technology và Daywise Core đã được điều chỉnh cho DeepSeek; Tencent Cloud, Alibaba Cloud, mobile cloud, Huawei Cloud và các nhà sản xuất đám mây khác cũng đã hoàn thành việc điều chỉnh với DeepSeek. Việc tối ưu hóa thích ứng của năng lực tính toán trong nước dự kiến sẽ làm giảm hơn nữa chi phí của phía suy luận.
Do thói quen thanh toán ứng dụng trong nước chưa hoàn toàn trưởng thành, việc thương mại hóa các ứng dụng AI có thể bị cản trở. Meng Can, người đứng đầu National Finance Computer, tin rằng Hoa Kỳ có cơ sở 10 năm hoặc thậm chí 20 năm để thanh toán ứng dụng, điều này rất hữu ích cho việc thương mại hóa các ứng dụng AI, trong khi thị trường trong nước sẽ chậm lại do thiếu nền tảng như vậy. Tuy nhiên, đất nước đang liên tục bắt kịp và lịch trình dự kiến sẽ giảm xuống còn chưa đến nửa năm.
