English
Indian
العربية
Español
Deutsch
Türkçe
Русский
Français (Afrique)
Apple har lansert sin hittil kraftigste AI-modell for lokal kjøring med iOS 27. AFM 3 Core Advanced har 20 milliarder parametere, men aktiverer bare mellom en milliard og fire milliarder av dem for hver oppgave som brukeren ønsker å utføre.
Hele modellen lagres på iPhone med iOS 27 med ny teknikk
En demonstrasjon publisert av utvikleren Adrien Grondin viser modellen i bruk på en iPhone 17 Pro. I videoen genererer den svar direkte på mobilen uten at forespørselen må behandles via nettet.
En tradisjonell LLM må ha alt tilgjengelig i arbeidsminnet – det ville krevd mye mer RAM enn det som er praktisk (og billig nok) på en mobiltelefon. Apple har derfor utviklet en sparsom arkitektur der modellen lagres i mobilens flashminne. Det er bare delene som er nødvendige for den aktuelle forespørselen som lastes inn i RAM.
En mindre del av modellen analyserer først forespørselen og velger hvilke «eksperter» som skal aktiveres. Valget kan oppdateres underveis mens svaret genereres.
Resultatet er at Apple kan bruke en modell med totalt 20 milliarder parametere uten at samtlige må være aktive samtidig. En enkel oppgave kan bruke rundt én milliard, mens en mer krevende forespørsel kan aktivere opptil fire milliarder parametere.
Dette er Apples AI-triks Instruction-Following Pruning
Apple har døpt teknikken «Instruction-Following Pruning». I stedet for å bruke en fast modellstørrelse til alle oppgaver, tilpasses mengden aktive modellparametere etter hva brukeren ber om.
Arkitekturen er også forskjellig fra vanlige Mixture-of-Experts-modeller, som ofte må bytte vekter for hvert genererte ord. Apple velger i stedet eksperter for hele forespørselen og oppdaterer utvalget med jevne mellomrom.
Kan forstå mer enn tekst
AFM 3 Core Advanced er en kjernedel av Siri AI, og er multimodal. Det betyr at modellen kan arbeide med flere typer innhold, blant annet tekst, bilder og lyd.
I Apples egne blindtester fikk den nye stemmemodellen en samlet vurdering på 4,15 av 5, mot 3,87 for selskapets tidligere tekst-til-tale-system. For mer uformelt samtalespråk økte vurderingen fra 3,82 til 4,24.
Ved diktering foretrakk testpersonene den nye modellen i 44,7 prosent av tilfellene. Det gamle systemet ble foretrukket i 17,6 prosent, mens resten ble vurdert som uavgjort.
Apple har fem nye grunnmodeller
AFM 3 Core Advanced er én av fem modeller i tredje generasjon av Apple Foundation Models. Modellene er utviklet i samarbeid med Google.
De lokale modellene og de to første skymodellene er optimalisert for Apple Silicon. AFM 3 Cloud Pro kjører på Nvidia-GPU-er i Google Cloud, men er integrert i Apples Private Cloud Compute-system.
To av dem kan kjøre lokalt:
- AFM 3 Core er en tett modell med tre milliarder parametere.
- AFM 3 Core Advanced er den sparsomme modellen med 20 milliarder parametere.
De tre andre kjører gjennom Private Cloud Compute:
- AFM 3 Cloud håndterer generelle skybaserte oppgaver.
- ADM 3 Cloud brukes til bildegenerering og bilderedigering.
- AFM 3 Cloud Pro er Apples kraftigste modell for avansert resonnering og bruk av verktøy.
Ikke alle oppgaver kjøres lokalt
Demonstrasjonen på iPhone 17 Pro betyr ikke at alle Siri- og Apple Intelligence-funksjoner behandles lokalt.
AFM 3 Core Advanced er laget for kraftige, lokale oppgaver, men iOS 27 eller macOS 27 kan fremdeles sende mer krevende forespørsler til Private Cloud Compute. AFM 3 Cloud Pro brukes blant annet til kompliserte oppgaver og AI-agenter som skal utføre flere avanserte handlinger fortløpende.
Apple opplyser at private brukerdata og samtaler ikke brukes til å trene modellene, med mindre brukeren selv velger å dele informasjon for å forbedre Siri og Apple Intelligence.