Mit oMLX 0.7.4.dev1 kann ein zweiter Mac laut Release-Notes die Verarbeitung langer Prompts unterstützen, während das grosse Modell auf dem Hauptgerät bleibt. Es handelt sich ausdrücklich um eine Entwicklungsversion, nicht um ein stabiles Release. Die veröffentlichten Benchmarks stammen vom Projekt selbst.
Quelle: jundot auf GitHub ↗ via @CerebralCoding_
Einordnung: Einzelquelle: GitHub-Release; Entwicklungsversion; Benchmarks vom Projekt selbst.