Noen gjorde telefonen sin om til et fungerende eksternt GPU

Bruk iPhone som ekstern GPU for MacBook Pro, og oppnå opptil 44 % raskere ytelse. En enkel løsning som ikke krever kostbare enheter – kun en USB-C-kabel.
Du trenger ikke et kostbart videoskjermkortetui for å legge til ekstern grafikk – telefonen din gjør jobben. Reddit-brukeren StayLameBro har klart å bruke sin iPhone 17 Pro Max som ekstern GPU for sin MacBook Pro M4.
Det nye prosjektet deler AI-modelloppgaver (her, Qwen 3.8 27B) mellom Mac-en og iPhone-en. Laptopen tar de første 40 lagene av hver AI-tokenpakke, mens iPhone-ens GPU håndterer de resterende lagene. Ved mer enn 64 000 tokens, tar Mac-en over alle lagene, og iPhone fokuserer på gamle nøkkelverdier som etiketter og matchende data.
Mac-en fordeler 8-bits kontekst (som er all nødvendig bakgrunnsinformasjon) basert på tilgjengelig RAM fra iPhone, og holder dermed minnebruken under kontroll. I tillegg bidrar håndsettet til prefyllinger (behandler innlegg i et token-prompt) utover 512 tokens.
Hastighetsforbedringene er merkbare. For en 2 000-token fil inn i en eksisterende agentøkt, oppnår kombinasjonen av MacBook og iPhone en hastighet 29 % til 44 % raskere enn Mac-en alene. Med en ny 27 000-token agentøkt varierer gevinstene fra 36 % ved å bruke prosjektets forkede llama.cpp-kode til 46 % sammenlignet med leverandørens programvare.
Kode, oppsett og benchmarking-skript finnes nå i et GitHub-repositorium. Alt du trenger er et standard 10Gbps USB-C-kabel for tilkobling til Mac-en, men iPhone 15 Pro eller nyere kreves. Ifølge skaperen har iPhone 18 Pro "mye mer" kapasitet.
Hvilke problemer kan telefon som ekstern GPU løse?
AI-modeller og skrivehastigheter er utfordringer
iPhone som ekstern GPU er ikke en universalløsning. StayLameBro påpeker at telefonen ikke forbedrer skriveytelsen under 64 000 tokens, og overlater denne oppgaven til datamaskinen.
Han har ikke testet AI-modeller med nyere funksjoner som Qwen 3.8-Flash-Next og DeepSeek V4.1-Flash. Det er usikkert om iPhone vil være like effektiv. Ingen omtale av Android eller Windows gjør prosjektet til en ren Apple-løsning.
Til tross for begrensninger viser initiativet potensialet til telefoner som databehandlingshjelpemidler. Forbedringene når ikke opp til en god GPU, men kan fortsatt spare tid når presisjon og hastighet er avgjørende for AI-prosesser.
Hvis du vil lese flere artikler som Noen gjorde telefonen sin om til et fungerende eksternt GPU, kan du besøke kategorien Mac.

Legg igjen en kommentar