Global Soul Limited liyi@gs-smt.com 86-755-27962186
Poiché DeepSeek continua ad essere popolare, le persone non sono soddisfatte dell'uso di DeepSeek sul web e lato APP, e cercano di localizzare DeepSeek. La localizzazione implica l'installazione dei grandi modelli di intelligenza artificiale di DeepSeek sui computer locali, senza fare affidamento su reti o servizi cloud. I giornalisti hanno cercato sui siti web di video e hanno scoperto che molti utenti hanno caricato tutorial su come implementare DeepSeek sui computer locali, e molti video sono stati visualizzati più di 1 milione di volte.
Cercando "implementazione locale di DeepSeek" sulla piattaforma di e-commerce, il giornalista ha scoperto che molti negozi hanno aperto attività di implementazione locale di DeepSeek, e il prezzo unitario di questi servizi varia da pochi dollari a dozzine di dollari, e alcuni di questi servizi sono stati recentemente acquistati da 1.000 persone.
Un appassionato di intelligenza artificiale che ha provato a implementare ha detto ai giornalisti che la velocità di risposta del lato rete è lenta e, quando il traffico è troppo grande, spesso c'è "il server è occupato, riprova più tardi". Per ottenere un'esperienza migliore, ha provato a utilizzare DeepSeek per l'implementazione locale. È noto che l'implementazione locale non ha bisogno di padroneggiare una profonda conoscenza della programmazione, attraverso il tutorial passo dopo passo, è possibile implementare con successo.
Zhang Yi, analista capo di IIMedia Consulting, ha detto ai giornalisti: "L'implementazione locale supporta gli individui a fare alcune modifiche personalizzate a DeepSeek in base alle loro esigenze, che è anche una delle forze trainanti". Zhang Yi ha aggiunto che i dati personali nell'implementazione locale non vanno nel cloud, il che può soddisfare le esigenze di privacy.
DeepSeek ha pubblicato modelli con un numero variabile di parametri, da un minimo di 1 miliardo di parametri a un massimo di 671 miliardi di parametri, e maggiori sono i parametri, maggiori sono le risorse computazionali richieste. A causa delle limitate risorse di calcolo di dispositivi come computer personali e telefoni cellulari, il modello DeepSeek da 671 miliardi di parametri spesso non può essere implementato localmente. "Un tipico laptop può implementare solo una versione da un miliardo di parametri, ma un PC con una buona GPU o molta memoria (ad esempio 32 GB) può eseguire una versione di DeepSeek da 7 miliardi di parametri." Hanno detto i sostenitori della tecnologia AI ai giornalisti.
In termini di effetto dell'implementazione locale, minore è la versione dei parametri, peggiore è la qualità della risposta del modello di grandi dimensioni. "Ho provato la versione da 7 miliardi di parametri di DeepSeek implementata localmente, e ha funzionato senza problemi, ma la qualità della risposta era molto peggiore rispetto alla versione cloud, e l'effetto della versione con parametri inferiori era ancora peggiore." Hanno detto i suddetti appassionati di AI.
Sotto il calore dell'implementazione locale di DeepSeek, i PC AI che aggiungono specificamente NPU ai PC dovrebbero inaugurare una crescita delle vendite. È noto che Huawei, Lenovo e altri marchi di computer hanno lanciato PC AI, questo nuovo PC è dotato di elaborazione specializzata per l'implementazione locale di chip di processori di calcolo di modelli AI di grandi dimensioni, questi chip di processori sono forniti da Intel, AMD, Qualcomm e altre fabbriche di chip.
Questi PC AI possono essere implementati localmente ed eseguire senza problemi decine di miliardi di parametri del modello AI di grandi dimensioni, come questo CES 2025, AMD ha lanciato i processori della serie Ryzen AI max, dicendo che il computer può eseguire 70 miliardi di parametri del modello AI di grandi dimensioni. Tuttavia, il PC AI dotato del chip del processore è costoso, ed è noto che il prezzo di un notebook Asus per giochi è di quasi 15.000 yuan. Inoltre, alcune persone hanno messo in dubbio che spendere molti soldi per acquistare PC AI, effettuare l'implementazione locale di modelli AI di grandi dimensioni e ottenere funzioni che si sovrappongono notevolmente ai modelli AI di grandi dimensioni cloud, il PC AI è solo un espediente dei produttori.
Oltre agli individui che aprono l'implementazione locale di DeepSeek, anche le aziende stanno iniziando a provare. Il primo giorno lavorativo dell'Anno del Serpente, Wang Jiahui, il fondatore di Timwei Ao, ha pubblicato un cerchio di amici su WeChat: "Esperienza di successo nell'implementazione del modello di grandi dimensioni DeepSeek su computer locale, importazione del database di sicurezza delle conoscenze delle miniere di carbone per domande e risposte, il passo successivo è combinarlo con le operazioni sul campo industriale."
Timviao è un'azienda che fornisce soluzioni di gestione industriale per l'industria mineraria, l'industria petrolifera e altre industrie, utilizzando occhiali AR e software AI per fornire osservazioni e guida in tempo reale per la manutenzione, l'ispezione di qualità e la risoluzione dei problemi del personale sul campo industriale. Wang Jiahui ha detto ai giornalisti che solo Tongyi Qian chiede al modello AI di grandi dimensioni di creare un database di conoscenze locale di domande e risposte, in considerazione della migliore capacità di ragionamento di DeepSeek, sta prendendo in considerazione DeepSeek e una profonda integrazione aziendale.
"Sulla base di DeepSeek, mettiamo a punto parametri specifici o li sviluppiamo secondariamente per adattarli ai sistemi IT e implementare nuove funzioni in base alle esigenze e ai dati di scenari industriali specifici." "Il nostro obiettivo è implementare DeepSeek localmente e interagire con le telecamere sul campo per identificare meglio le operazioni pericolose in loco e implementare funzioni come il rilevamento di pericoli nascosti e l'ispezione della qualità dei prodotti", ha detto Wang ai giornalisti.
Crede che se i clienti industriali adottano l'implementazione on-premise dipenda principalmente dalla riservatezza dei dati. "Alcune aziende statali, militari e di apparecchiature mediche ci chiedono spesso di implementare soluzioni di implementazione locale perché hanno requisiti elevati per la sicurezza dei dati." Ha aggiunto: "Gli scenari non segreti possono utilizzare soluzioni di accesso cloud, sebbene ci saranno ritardi operativi, ma l'impatto è piccolo e il prezzo della soluzione è inferiore."
Per le implementazioni on-premise, questi clienti richiedono server dotati di GPU a 4 o 8 schede per implementare i servizi di inferenza locale di DeepSeek. "I miei clienti generalmente scelgono le schede grafiche consumer di Nvidia per configurare i loro server, come la 4090, per un migliore rapporto qualità-prezzo." "Se i clienti hanno requisiti di configurazione domestica, compreremo schede grafiche GPU domestiche più costose", ha detto Wang.
Oltre all'industria, sempre più aziende stanno iniziando a implementare DeepSeek localmente. Sinolink Securities ha affermato che DeepSeek può essere applicato al recupero di informazioni, all'elaborazione di documenti, alla ricerca industriale, alle ricerche di mercato e ad altri scenari. Inoltre, le aziende del settore medico, della sicurezza della rete e di altri settori hanno recentemente implementato DeepSeek localmente, tra cui Wanda Information e Qihoo 360.
Zhang Yi ha detto ai giornalisti che, poiché le aziende espandono i loro requisiti per l'implementazione localizzata, la domanda di potenza di calcolo di inferenza domestica aumenterà e gli Stati Uniti vietano i chip di fascia alta, le aziende di potenza di calcolo di chip domestici inaugureranno maggiori opportunità.
Il CEO di Qualcomm, Cristiano Amon, ha affermato che DeepSeek-R1 è un punto di svolta per l'industria AI, l'inferenza AI migrerà sul lato finale, l'AI diventerà più piccola, più efficiente e più personalizzata, e appariranno modelli AI di grandi dimensioni e applicazioni AI basate su scenari specifici. Il rapporto di ricerca di China Aviation Securities ritiene che DeepSeek-R1 dimostri che l'implementazione AI end-to-end diventerà più inclusiva e l'era di tutte le cose intelligenti accelererà.
L'open source invoglierà più sviluppatori a creare app basate su DeepSeek. Schede GPU domestiche come Huawei Centeng, Moore Thread, Bishi Technology e Daywise Core sono state adattate a DeepSeek; Tencent Cloud, Alibaba Cloud, mobile cloud, Huawei Cloud e altri produttori di cloud hanno anche completato l'adattamento con DeepSeek. L'ottimizzazione dell'adattamento della potenza di calcolo domestica dovrebbe ridurre ulteriormente il costo del lato inferenza.
Poiché l'abitudine al pagamento delle app domestiche non è ancora pienamente matura, la commercializzazione delle applicazioni AI potrebbe essere ostacolata. Meng Can, capo di National Finance Computer, ritiene che gli Stati Uniti abbiano una base di 10 anni o anche 20 anni per il pagamento delle applicazioni, il che è utile per la commercializzazione delle applicazioni AI, mentre il mercato interno sarà lento a causa della mancanza di tale base. Tuttavia, il paese sta costantemente recuperando e il programma temporale dovrebbe essere ridotto a meno di sei mesi.