Die neue Version 0.40.0 von Ollama führt MLX als Standardlaufzeit für unterstützte Modelle auf Apple-Silicon-Macs ein. Dies ermöglicht eine erweiterte Nutzung von Sprach-, Entscheidungs- und Embedding-Modellen, die über das quelloffene Framework von Apple laufen.
Zusätzlich werden Modelle wie Gemma 4 und Qwen 3.6 unterstützt, während die Befehle zum Herunterladen und Ausführen von Modellen unverändert bleiben. Die Integration von EmbeddingGemma 2 ermöglicht die Umwandlung von Inhalten in Vektoren für Ähnlichkeitssuchen.
Die Einführung von MLX als Standardlaufzeit könnte die Entwicklung von lokal betriebenen KI-Anwendungen auf Apple-Silicon-Macs beschleunigen. Beobachten Sie, wie Entwickler die neuen Modelle nutzen und welche weiteren Modelle Ollama in Zukunft für MLX freigibt.