Bonsai 27B od PrismML to model trenowany natywnie w 1 bicie: 3,9 GB zamiast 54 GB, ponad 90% jakości i 11 tokenów na sekundę na iPhonie. Sprawdzam liczby, ograniczenia i sens lokalnej AI.
