DeepSeekの人気が続く中、人々はウェブやアプリでのDeepSeekの使用に満足せず、DeepSeekのローカライズを試みています。ローカライズには、ネットワークやクラウドサービスに依存せずに、DeepSeekの巨大AIモデルをローカルコンピュータにインストールすることが含まれます。記者は動画サイトを検索し、多くのユーザーがDeepSeekをローカルコンピュータに展開する方法に関するチュートリアルをアップロードしており、多くの動画が100万回以上再生されていることを発見しました。
eコマースプラットフォームで「DeepSeekローカル展開」を検索したところ、多くのショップがDeepSeekローカル展開ビジネスを開始しており、これらのサービスの単価は数ドルから数十ドルで、最近1,000人から購入されたサービスもあります。
展開を試したAI愛好家は、記者の取材に対し、ネットワーク側の応答速度が遅く、トラフィックが多すぎると「サーバーがビジー状態です。後でもう一度お試しください」ということがよくあると語りました。より良い体験を得るために、彼はDeepSeekをローカル展開で使用することを試みました。ローカル展開では、深いプログラミング知識を習得する必要はなく、チュートリアルをステップバイステップで実行することで、正常に展開できることが理解されています。
IIMedia Consultingのチーフアナリストである張毅氏は、記者団に対し、「ローカル展開は、個人が自分のニーズに合わせてDeepSeekにいくつかのカスタマイズされた変更を加えることをサポートしており、これも原動力の1つです」と語りました。張毅氏は、ローカル展開における個人データはクラウドに送信されないため、プライバシーのニーズを満たすことができると付け加えました。
DeepSeekは、10億パラメータから6710億パラメータまで、さまざまな数のパラメータを持つモデルを公開しており、パラメータが大きくなるほど、必要な計算リソースも大きくなります。パーソナルコンピュータや携帯電話などのデバイスの計算リソースには限りがあるため、6710億パラメータのDeepSeekモデルをローカルに展開することはできません。「典型的なラップトップでは、10億パラメータバージョンしか展開できませんが、優れたGPUまたは大容量メモリ(32GBなど)を搭載したPCでは、70億パラメータバージョンのDeepSeekを実行できます」とAI技術愛好家は記者団に語りました。
ローカル展開の効果に関しては、パラメータのバージョンが小さいほど、大規模モデルの回答の質は悪くなります。「ローカルに展開された70億パラメータバージョンのDeepSeekを試しましたが、スムーズに実行されましたが、回答の質はクラウドバージョンよりもはるかに悪く、パラメータの小さいバージョンの効果はさらに悪かったです」と上記のAI愛好家は述べています。
DeepSeekのローカル展開の熱狂の中で、PCSにNPUを特別に追加したAI PCSは、販売の伸びを迎えそうです。Huawei、LenovoなどのコンピューターブランドがAI PCを発売していることが理解されており、この新しいPCには、AI大規模モデルのローカル展開の計算プロセッサチップを専門的に処理するものが搭載されており、これらのプロセッサチップはIntel、AMD、Qualcommなどのチップ工場から提供されています。
これらのAI PCSはローカルに展開でき、数十億のパラメータを持つAI大規模モデルをスムーズに実行できます。たとえば、CES 2025では、AMDがRyzen AI maxシリーズプロセッサを発売し、コンピューターが700億パラメータのAI大規模モデルを実行できると発表しました。ただし、プロセッサチップを搭載したAI PCは高価であり、Asusのゲームブックの価格は15,000元近くであることが理解されています。さらに、AI PCを購入するために多額の費用をかけ、AI大規模モデルのローカル展開を実行し、クラウドAI大規模モデルと高度に重複する機能を達成することは、AI PCはメーカーのギミックにすぎないのではないかという疑問の声も上がっています。
個人がDeepSeekローカル展開を開始することに加えて、企業も試み始めています。蛇年の営業初日、Timwei Aoの創設者であるWang Jiahui氏は、Wechatの友人の輪をリリースしました。「DeepSeek大規模モデルのローカルコンピュータ展開の成功、炭鉱知識安全データベースを質問と回答にインポートし、次のステップはそれを産業分野の運用と組み合わせることです。」
Timviaoは、鉱業、石油産業などの産業向けに産業管理ソリューションを提供する企業であり、ARグラスとAIソフトウェアを使用して、産業分野の担当者のメンテナンス、品質検査、トラブルシューティングに関するリアルタイムの観察とガイダンスを提供しています。Wang Jiahui氏は、DeepSeekの優れた推論能力を考慮して、Tongyi QianにAI大規模モデルにローカル知識ベースの質問と回答を作成してもらい、DeepSeekとビジネスの深い統合を検討していると記者団に語りました。
「DeepSeekをベースに、特定のパラメータを微調整したり、二次的に開発してITシステムに適合させ、特定の産業シナリオのニーズとデータに基づいて新しい機能を実装します。」「私たちの目標は、DeepSeekをローカルに展開し、現場のカメラと対話して、現場での危険な操作をより適切に特定し、隠れた危険の検出や製品品質検査などの機能を実装することです」とWang氏は記者団に語りました。
彼は、産業顧客がオンプレミス展開を採用するかどうかは、主にデータの機密性にかかっていると考えています。「一部の国有企業、軍事および医療機器会社は、データセキュリティに対する高い要件があるため、ローカル展開ソリューションの実装を私たちに要求することがよくあります。」彼はさらに、「非機密シナリオでは、クラウドアクセスソリューションを使用できます。運用上の遅延はありますが、影響は小さく、ソリューションの価格は安くなります」と付け加えました。
オンプレミス展開の場合、これらの顧客は、DeepSeekローカル推論サービスを実装するために、4カードまたは8カードのGpuを搭載したサーバーを必要とします。「私の顧客は通常、4090など、コストパフォーマンスに優れたNvidiaのコンシューマーグラフィックスカードを選択してサーバーを構成しています。」「顧客に国内構成の要件がある場合は、より高価な国内GPUグラフィックスカードを購入します」とWang氏は述べています。
業界に加えて、ますます多くの企業がDeepSeekをローカルに展開し始めています。Sinolink Securitiesは、DeepSeekが情報検索、ドキュメント処理、業界調査、市場調査などのシナリオに適用できると述べています。さらに、医療業界、ネットワークセキュリティなどの業界の企業も最近、Wanda InformationやQihoo 360など、DeepSeekをローカルに展開しています。
張毅氏は、企業がローカライズされた展開に対する要件を拡大するにつれて、国内の推論計算能力に対する需要が高まり、米国が高性能チップを禁止しているため、国内チップ計算能力企業はより大きな機会を迎えるだろうと記者団に語りました。
QualcommのCEOであるCristiano Amon氏は、DeepSeek-R1はAI業界の転換点であり、AI推論はエンド側に移行し、AIはより小さく、より効率的になり、よりカスタマイズされ、特定のシナリオに基づいたAI大規模モデルとAIアプリケーションが登場すると述べています。China Aviation Securities Researchのレポートは、DeepSeek-R1は、エンドツーエンドのAI展開がより包括的になり、万物インテリジェントの時代が加速することを示していると考えています。
オープンソースは、より多くの開発者がDeepSeekの上にアプリを構築するように誘います。Huawei Centeng、Moore Thread、Bishi Technology、Daywise Coreなどの国内GPUカードはDeepSeekに適応しています。Tencent Cloud、Alibaba Cloud、モバイルクラウド、Huawei CloudなどのクラウドメーカーもDeepSeekとの適応を完了しました。国内の計算能力の適応最適化により、推論側のコストがさらに削減されることが期待されます。
国内のアプリ決済習慣がまだ完全に成熟していないため、AIアプリケーションの商用化が妨げられる可能性があります。National Finance Computerの責任者であるMeng Can氏は、米国にはアプリケーション決済の10年または20年の基盤があり、これはAIアプリケーションの商用化に役立つ一方、国内市場ではそのような基盤がないため、遅くなるだろうと考えています。しかし、国は常に追いついており、スケジュールは半年未満に短縮されると予想されています。