CPU eller GPU/NPU: hvad betyder mere, når du vælger en notebook til AI?

Med fremrykningen af inteligência kunstig og lanceringen af AI pc'er af computerproducenter burde emnet være et af de mest omtalte i teknologiens verden i 2024. NPU'er er blevet nøglespillere i behandlingen af ​​AI-arbejdsbelastninger, men har du virkelig brug for en pc udstyret med denne funktion for at udføre AI-aktiviteter?

På opfordring af NVIDIA, testede vi, hvordan en notesbog udstyret med dedikeret videokort udfører AI-opgaver selv uden en processor, der ikke kvalificerer sig til kategorien AI-pc'er. Forstå nedenfor, hvad der er vigtigst for dem, der arbejder med AI til daglig: CPU ou GPU.

Hvad er en AI-pc?

Udtrykket begyndte at blive implementeret af Intel og Microsoft med lanceringen af ​​processorfamilien intel core ultra. I 2023 blev microsoft oplyst, at for en computer at blive klassificeret som AIPC, skal den opfylde tre krav. Er de:

• Hav en nøgle CoPilot for at aktivere inteligência kunstig på dit tastatur;
• Evne til at køre kunstig intelligens CoPilot, til stede i Windows 11;
• Har en processor med NPU dedikeret, der når mindst 40 TOPS (billioner af operationer i sekundet)

A NPU er et dedikeret område af processoren fokuseret på kunstig intelligens aktiviteter. I praksis får processoren endnu en chip, så CPU'en og GPU'en er dedikeret til deres hovedaktiviteter. Disse komponenter kan endda yde støtte til NPU'en, men AI-aktiviteter vil i det væsentlige blive behandlet i NPU'en.

Processorer med denne NPU annonceres også for at have bedre energieffektivitet, der leverer længere batterilevetid, når det er nødvendigt, uden at det er nødvendigt at miste ydeevnen. Dette er den store forskel mellem linjerne Galaxy bog 3 e Book4, lanceret af Samsung.

I maj 2024 blev microsoft skabt sin egen kategori af AI-pc'er, som tager navnet Copilot+ pc, med et højere TOPS-ydekrav til AI-aktiviteter. At blive betragtet som en Copilot+ pc, skal en computer opfylde følgende krav:

• Har mindst 16 GB RAM-hukommelse;
• Har lagerplads på mindst 256 GB via SSD;
• Har en integreret NPU med mindst 40 TOPS af ydeevne;
• Har en nøgle dedikeret til kunstig intelligens CoPilot på tastaturet;
• Der er ingen hak på displayet.

Computere certificeret som Copilot+ pc blev dybest set skabt til at indhente computere MacFordi Apple. En af de første annoncerede modeller var bærbare computere overflade, af de egne microsoft, som har processorer Snapdragon X EliteFordi Qualcomm. Se TOPS-ydeevnen på NPU-processorlinjerne, der blev lanceret i år:

• AMD Ryzen AI 300: op til 50 TOPS af ydeevne;
• Intel Lunar Lake: op til 48 TOP-præstationer;
• Snapdragon X Elite: op til 45 TOPS af ydeevne.

TOPPE er forkortelsen for Trillioner af operationer i sekundet, eller Trillioner operationer pr. sekund. Dette er parameteren til at måle NPU'ens evne til at behandle kunstig intelligens på processorer. Her følger grundreglen: Jo flere TOPS en NPU har, jo større kapacitet vil den have til at køre AI-aktiviteter. 

Men har tidligere notesbøger ikke kunstig intelligens?

Der er noget, som processorproducenter ikke regner med: dedikerede videokort har allerede en TOPS-ydelse langt over, hvad der har været påkrævet til AI-pc'er, hvilket giver mere produktivitet i kunstig intelligens-opgaver for deres brugere selv på computere, der ikke har en NPU.

Men definitionen af microsoft para AI pc'er e Copilot+ pc'er tillader ikke disse computere med høj ydeevne i AI at modtage disse klassifikationer, netop fordi de ikke har en integreret NPU. Og her går vi ind i diskussionen om, at NVIDIA har kommunikeret: computere med kunstig intelligens eksisterede allerede før virksomheder som Samsung, Lenovo, ASUS og det eget microsoft begynde at investere i disse vilkår.

Definitionen, der er beregnet til at skabe en kategori, men ikke at have en NPU, udelukker ikke, at en pc med en kraftig GPU kan bruges i opgaver, der involverer kunstig intelligens. Faktisk vil intet forhindre dig i at køre applikationer med AI-egenskaber på pc'er med dedikerede grafikkort og en ikke-NPU-processor.

AI-pc-markedet er stadig i sine tidlige stadier med ankomsten af ​​de første notebooks med NPU, men processen med at udvikle AI-funktioner og -applikationer tager små skridt, med få ressourcer til rådighed for brugerne generelt.

I vores Galaxy Book4 Pro anmeldelse, en notesbog med en processor Intel Core Ultra 7 og uden en dedikeret GPU nævner vi, at den praktiske brug af NPU'en kunne være mere mærkbar i videoopkaldsfunktioner og energieffektivitet. Det er dog punkter, der også kan ses i notebooks uden NPU, selv dem, der blev lanceret før 2023.

Betydningen af ​​et grafikkort (GPU) for AI

For at forstå dette emne, lad os forstå forskellene mellem CPU e GPU.

De to komponenter tjener til at behandle opgaver på en computer, og den største forskel mellem CPU og GPU er de aktiviteter, de er beregnet til. EN CPU - Hvor Centralenhed — er fokuseret på at udføre de generelle aktiviteter på en computer, såsom at køre selve operativsystemet og alle dets applikationer. Det er almindeligvis defineret som "hjernen" på en computer, og uden den ville det ikke engang fungere: det spænder fra at surfe på nettet til at lave regneark.

A GPU nok til at give den støtte, som CPU'en har brug for, når den tager sig af mere komplekse aktiviteter, og udfører grafiske aktiviteter effektivt. Engelsk akronym for Grafikbehandlingsenhed (og populært kendt som video kort), accelererer GPU'en billedbehandling gennem tusindvis af mindre, mere specialiserede kerner, som arbejder sammen om at levere ydeevne i grafikopgaver.

Mange processorer - især dem, der er rettet mod notebooks - har en Integreret GPU, som er en del af processoren. Denne applikation er velegnet til almindelige pc'er, som ikke kræver mere intensiv grafikbehandling. Men når vi har intensiv billedbehandling, såsom i spil og billed- og videoredigering, er det Dedikeret GPU (Eller Diskret GPU) gør hele forskellen.

GPU'en kan dirigere al sin kraft til specifikke opgaver, såsom spil og endda indholdsgengivelse af høj kvalitet, hvilket øger processorkraften og letter udførelsen af ​​robuste aktiviteter på den computer, den er installeret på, hvilket giver større hastighed og effektivitet i denne type af opgave.

Og hvorfor bruge GPU'en til AI? NVIDIA peger på tre grunde:

• GPU'er anvender parallel behandling;
• GPU-systemer kan skaleres til supercomputing-niveauer;
• AI-softwareudvikling til GPU'er er konsolideret.

Aktiviteter inteligência kunstig kræver et højt niveau af specialiserede beregninger. Ved at samle instruktioner og behandle store mængder data kan dedikeret GPUS accelerere arbejdsbelastninger ud over en CPU's muligheder. Går man dybere, siger NVIDIA selv det At investere i en notebook med et dedikeret kort er mere interessant end at investere i en model med en integreret NPU.

Et eksempel på vigtigheden af ​​dedikerede GPU'er til AI-aktiviteter er ChatGPT: Den berømte bot til oprettelse af indhold, der skriver, løser problemer og endda laver billeder, fungerer baseret på GPU-platforme.

A OpenAI indgik et samarbejde med NVIDIA, så dens store sprogmodel kan bruges af mere end 100 millioner mennesker. Den seneste information er, at GPT-4, nu opdateret af GPT-4o, havde mere end en billion parametre, en metrik for dens matematiske tæthed - et spring fra de mindre end 100 millioner parametre i en populær LLM i 2018, gjort muligt ved hjælp af GPU'er.

Når det er sagt, hvis du er en person, der arbejder med indholdsskabelse, foretager mange videoopkald eller endda kan lide at spille en masse, vil du helt sikkert have brug for kunstig intelligens-ressourcer for at yde bedre. Og det gælder alt:

• Videoopkaldseffekter for at reducere ekstern støj og sløre baggrunde;
• Har adgang til teknologi DLSS e Ray sporing;
• At kunne åbne billeder hurtigere;
• Gengivelse af videoindhold (lodret eller vandret);
• Brug af noget AI til at fylde billeder, udføre opskalering eller endda videoformatkonvertering;
• At kunne eksportere indhold på kortere tid.

Den store gevinst ved at bruge et grafikkort er at behandle AI-opgaver på kortere tid. På opfordring af NVIDIA, følg testene nedenfor for at sammenligne brugen af ​​GPU og CPU/NPU til AI-aktiviteter for at finde ud af resultaterne og drage dine konklusioner.

Sammenligninger mellem GPU vs. CPU/NPU til AI

Lad os nu sammenligne, hvordan GPU'en sammenligner sig med at udføre AI-opgaver med NPU'en, der er skabt specielt til dette formål. Tjek metodikken og testresultaterne.

Hvordan vi udfører testene

For at udføre disse tests vil vi gennemgå flere applikationer og spil, der bruger GPU'en til at levere bedre ydeevne. EN NVIDIA, i samarbejde med Avel, lånte notesbogen A65 ION med processor 9. generation af Intel Core i12900-12HX, med et dedikeret videokort NVIDIA GeForce RTX 4060 og 16 GB RAM (opdelt i to 8 GB sticks) af typen DDR5.

For at sikre maksimal ydeevne sætter vi den bærbare computer i en stikkontakt. Vi analyserede derefter ressourceydelsen for at se, om AI-aktiviteterne ville udføre det samme, selv uden en NPU. Til test var videoopløsningen 2560×1600, med en opdateringshastighed på 240Hz.

videokortet RTX 4060 til stede i notesbogen udfører 233 billioner operationer i sekundet. For sammenligning, se driftsnumrene for alle modeller i RTX 40-serien til NVIDIA bærbare computere:

• RTX 4050: 194TOPS af ydeevne;
• RTX 4060: 233 TOPS af ydeevne;
• RTX 4070: 321 TOPS af ydeevne;
• RTX 4080: 521 TOPS af ydeevne;
• RTX 4090: 686 TOPS af ydeevne.

Notebook'en er udstyret med en 500 GB NVME SSD. Vi udførte alle operativsystemopdateringer, så enheden var i sin mest komplette version, med det samme for GPU-driverne.

Chat RTX

Dette er en personlig assistent udviklet af NVIDIA som i fremtiden kan blive en interessant konkurrent for muligheder som f.eks CoPilotFordi microsoft. Det mest interessante er, at det udelukkende kører lokalt på en notebook eller desktop med dedikerede NVIDIA-grafikkort.

Den fungerer bedst som informationsorganisator, men den kan læse filer, der er gemt på dit computerlager, hvilket kan være en stor hjælp for dem, der gerne vil have adgang til resuméer.

Hvis du aldrig har brugt denne applikation, er det værd at huske, at du bliver nødt til at træne den fra bunden, så de bedste funktioner vil blive set på lang sigt. Men det er en applikation, der giver dig mulighed for at have en personlig assistent, der kører lokalt og uden behov for internetforbindelse.

NVIDIA lærred

Dette er den eksklusive applikation for dem, der kan lide at tegne med musen, røre ved skærmen eller endda via whiteboardtavlen med en pen. Med Canvas behøver du ikke at være kunstner: bare lav en skitse med enkle former og ingen detaljer for at programmet kan skabe et detaljeret billede. Applikationen kører kun på computere eller notebooks med dedikerede kort fra NVIDIA, ikke tilgængelig for computere, der kun har NPU.

Det mest interessante er, at på grund af det dedikerede videokort med lokal behandling kan resultaterne ses i realtid. Ud over at gøre dine kruseduller levende, kan du ændre en tegning fuldstændigt med et enkelt tryk.

Tiden før resultatet vises på skærmen er mindre end et sekund, og temaskiftet sker også på få tusindedele af et sekund. Når du er færdig med tegningerne, skal du bare eksportere dem til et redigeringsprogram og afslutte dit arbejde.

NVIDIA -udsendelse

Dette er en af ​​de applikationer, der mest tillader sammenligning med, hvad en NPU kan gøre, indtil denne artikel er lukket. Som vi allerede har sagt i vores speciel artikel om denne applikation, det fungerer som en fantastisk assistent for dem, der foretager mange videoopkald og live-udsendelser, ved at reducere støj i både lyd og video.

Ved at analysere brugen af ​​processorer med NPU lanceret i 2023, er alt stadig meget grundlæggende. Chips fokuseret på AI-aktiviteter kan endda sløre baggrunden og også udføre automatisk fokus, men intet mere. Der er ingen støjreduktion, native baggrundsskift og endda brugen af ​​vignet, som er funktioner til stede i NVIDIA Broadcast.

Når det er sagt, er det et faktum: den NVIDIA -udsendelse, som kun virker på notebooks og desktops med NVIDIA-grafikkort, er meget mere avanceret.

Fokus

Dette er værktøjet, der bruger stabil diffusion som grundlag for at generere billeder lokalt på computeren, uden behov for internet. Du spekulerer måske på, om Windows Copilot og ChatGPT ikke længere kan oprette billeder, ikke? Ja, det kan de, men det er stadig nødvendigt at have en internetforbindelse for at disse værktøjer kan fungere, hvilket ikke er nødvendigt med Fooocus. Se dette billede skabt af kommandoen "en elefant på stranden på en solskinsdag":

Denne applikation, der er udviklet til at køre på notebooks og computere med dedikerede grafikkort, fungerer ved at bruge GPU'en som base, og du kan deaktivere internettet for at bruge den. Og billederne er imponerende: På 57 sekunder modtager vi billeder i høj kvalitet, der grænser op til realisme, alt sammen udført lokalt. Se:

Selvom de har en chip, der udelukkende er fokuseret på AI-aktiviteter, har processorer med 2023 NPU stadig brug for mere ydeevne for at udføre lokal behandling. Hvem ved, måske vil dette ændre sig med lanceringen af Copilot + PC standard fra Microsoft, men lad os vente på, at fremtiden får svar.

Procyon

At udføre tests med NPU er lidt vanskeligt i øjeblikket, fordi, da vi er i den første fase af implementeringen af ​​denne teknologi, er applikationer optimeret til denne funktion stadig få. Dog gennem AI Benchmark Vision da Procyon, var det muligt at bemærke forskellen, da det kan måle AI-behandling på både GPU'er og NPU'er.

Til at begynde med Galaxy Book4 Ultra, med processor Intel Core Ultra 9, lanceret i 2023 og med en dedikeret NPU, opnået 494 point.

allerede i Avell A55 ION vi modtog, når vi brugte grafikkortet til AI-aktiviteter, opnået mere end det. De var 539 point, en forestilling næsten 10 % højere. Billedet nedenfor viser resultaterne opnået med den bærbare computer tilsluttet i dens højtydende tilstand.

Derfor viser dette simple benchmark os, at et grafikkort, der når mere end 200 TOPS, er mere interessant end en processor med mindre end 50 TOPs ydeevne via NPU.

Adobes ressourcer

Her har vi det indlysende: der er flere funktioner ved Photoshop Den er fra Lightroom der kun kører på notebooks med dedikerede videokort, såsom filtre til fjernelse af støj, farvelægning af fotos til sort/hvid, blandt andet.

Med grafikkort fra NVIDIA, der har adgang til Photoshop kan bruge Neurale filtre, som gør det muligt at ændre ansigtsudtryk, lysorientering og endda få folk til at virke yngre (eller ældre). Det hele sker via AI, men med understøttelse af grafikkortet og uden behov for en NPU.

Nogle værktøjer, f.eks adobe ildflue ou Generativ udfyldning (Generativt fyld), køre direkte fra Adobe-servere (samt Windows Copilot og ChatGPT fra deres respektive virksomheder).

Med andre ord: At have en computer med en NPU kan hjælpe dig med at få adgang til billedkorrektionsværktøjer, men at have et dedikeret videokort er vigtigere for større daglig produktivitet på grund af lokal behandling.

Konklusion

Når man kommer til slutningen af ​​denne sammenligning, er det let at forstå, at en notebook eller computer med dedikeret videokort har mere AI-ydelse end en notebook med Dedikeret NPU, kaldet AI PC. Og årsagerne er mange.

For det første har videokort en højeste antal TOPS ydeevne end NPU'er, hvilket tillader nogle AI-applikationer at køre lokalt og uden behov for en internetforbindelse. Dette er gavnligt i flere opgaver: tekst- og billedgenerering, fotokorrektion, videoopkaldseffekter og endda i spil gennem funktioner som Ray Tracing og DLSS.

En anden faktor, der gavner computere med GPU, er den høje tilgængelighed af applikationer og funktionaliteter for disse modeller. Ud over NVIDIAs egne eksklusive applikationer har store aktører på teknologimarkedet allerede udviklet (og udvikler stadig) måder at drage fordel af den høje ydeevne af dedikerede GPU'er.

NPU'er lover bred adgang til AI-kapaciteter, men på tidspunktet for udgivelsen af ​​dette indhold var det kun muligt at teste deres ydeevne i videoopkaldseffekter. Der mangler stadig applikationer til nye NPU-processorer, der skal testes, men der er lovet, at nye applikationer vil begynde at dukke op i stort antal.

På den anden side et meget positivt punkt om dem, der er behandlet med NPU (uanset om de er fremstillet af Qualcomm, Intel ou AMD) er, at de har en lavere energiforbrug, noget vigtigt for dem, der har brug for mere tid væk fra stikkontakten. Vores batteri tester med Galaxy Book4 Ultra De viste en brug på seks timer, noget utroligt sammenlignet med tidligere generationer.

Notebooks med en dedikeret GPU kræver mere energi for det ydeevne, de leverer, og bruger derfor mere batteri og begrænser din tid væk fra stikkontakter.

Så valget mellem de to typer notebook afhænger af svaret på følgende spørgsmål: har du brug for en notebook, der vil levere høj AI-ydeevne, samtidig med at du bruger mere energi, eller foretrækker du en model med større kraftautonomi og mindre AI-ydeevne? Svaret på dette spørgsmål vil afhænge meget af, hvilken type bruger du faktisk er.

Hvis du er en person, der ikke ville bruge AI-ressourcer så meget og foretrækker at have en notesbog bruger lidt energi, valget er en notesbog med processor, der har en NPU. Hvis du nu har brug for en høj AI opgavebehandling i dit daglige liv er den bedste anbefaling at vælge en pc med Dedikeret GPU.

Forstod du emnet? Hvad er din yndlingstype? Med dedikeret GPU eller integreret NPU? Fortæl os Kommentar!

Se også

NVIDIA kritiserer AI-pc'er og siger, at notebooks med dets grafikkort er mere kraftfulde

Hvem er NVIDIA, virksomheden værd R$10 billioner

NVIDIA kritiserer AI-pc'er og siger, at notebooks med dets grafikkort er mere kraftfulde

Hvem er NVIDIA, virksomheden værd R$10 billioner

Med information: Ren opbevaring l Analyse Vidhya l Puget Systems l ASUS l Chill Blast l Auto skrivebord l PC World l Quora l NVIDIA

Anmeldt af Glaucon Vital den 18/6/24.