Ollama 0.40.0 nutzt MLX auf Apple-Silicon-Macs als Standard

Ollama stellt die lokale Ausführung unterstützter KI-Modelle auf Macs mit Apple-Chips auf MLX um. Die Aktualisierung erweitert außerdem die Modellauswahl: Neben Sprachmodellen lassen sich darüber nun auch Entscheidungen und Ähnlichkeitssuchen auf dem eigenen Rechner bearbeiten.

Mit Version 0.40.0 erfolgt die Umstellung automatisch, berichtet heise online. Voraussetzung ist, dass Ollamas MLX-Laufzeit, die Software zur Ausführung der Modelle, den Aufbau des jeweiligen Modells unterstützt. MLX ist Apples quelloffenes Grundgerüst für maschinelles Lernen auf Apple-Silicon-Chips.

Weitere Sprachmodelle für lokale Anwendungen

Ollama ist quelloffene Software zum Herunterladen, Verwalten und Ausführen von KI-Modellen auf dem eigenen Rechner. Anwender können über die Kommandozeile, eine Oberfläche zur Eingabe von Textbefehlen, direkt mit den Modellen arbeiten. Ein lokaler API-Server, eine Programmierschnittstelle, ermöglicht die Einbindung in Anwendungen. Zusätzlich unterstützt MLX nun die Sprachmodelle Gemma 4, Qwen 3.6 und Qwen 3.5. Zum Herunterladen und Starten dienen weiterhin die Befehle ollama pull und ollama run.

Entscheidungen und Ähnlichkeitssuche über MLX

Auch die Entscheidungsmodelle Nimble, Tev1, Clef und Clef Flash laufen jetzt über MLX. Statt freier Textantworten liefern solche Modelle beispielsweise Auswahlentscheidungen oder Bewertungen. Ein Anwendungsfall ist die Zuordnung eingehender Tickets zu Kategorien. Hinzu kommt EmbeddingGemma 2: Dieses Modell wandelt Inhalte in Zahlenvektoren, also geordnete Zahlenlisten, um, die sich für Ähnlichkeitssuchen vergleichen lassen. Weitere Modelle wollen die Ollama-Entwickler erst testen und anschließend für MLX freischalten.