1,5-bit LLM på iPhone: Hvorfor Apples 'hardware-skat' er en indtjeningsport, ikke en teknisk hindring

Sat, 06 Jun 2026 00:00:00 +0000

Dom: En LLM med 7 milliarder parametre, skrumpet til 1,58 bit per vægt, kan sagtens ligge i 1,2 GB RAM. En iPhone 12 har 4 GB. Den flaskehals, Apple henviser til — “Apple Intelligence kræver A17 Pro eller nyere” — er teknisk vrøvl i 2026.

Tallene: BitNet b1.58-papiret (Microsoft Research, 2024) → LLaMA-skala ydeevne ved 1/8 af modelstørrelsen. Recover-LoRA (juni 2026) → 2-bit kvantisering genvinder fuld præcision via low-rank fine-tuning. Hybrid Gated Flow (februar 2026) → identificerer “Memory Wall” som den egentlige begrænsning, ikke compute.

Apple Foundation Model on iOSApple - Apple News, Guides & Tutorials

1,5-bit LLM på iPhone: Hvorfor Apples 'hardware-skat' er en indtjeningsport, ikke en teknisk hindring