Über dieses Video
Vielen Dank an Clico für das Sponsoring dieses Videos: https://samuelgregory.co.uk/clico Apples neuester „Silicon“-Chip ist für alle, die es mit der lokalen KI-Entwicklung ernst meinen, nichts weiter als ein Marketing-Gag. In diesem Video nehme ich das neue M5 MacBook Pro unter die Lupe und bringe es mit Llama CPP, Turbo Quant und anspruchsvollen Programmieraufgaben bis an seine absoluten Grenzen, um zu sehen, ob es der Belastung tatsächlich gewachsen ist. Die wichtigsten Erkenntnisse: - Der Arbeitsspeicher ist der entscheidende Engpass: 32 GB reichen für kontextintensive KI-Programmierung einfach nicht aus. - Pro vs. Mini: Bei KI-Inferenzaufgaben ist der Leistungsunterschied so gut wie nicht vorhanden. - Quantisierung ist zwingend erforderlich: Man ist gezwungen, 3-Bit- oder 4-Bit-Modelle zu verwenden, um überhaupt brauchbare Ergebnisse zu erzielen. - Gelegenheitsnutzer vs. Profi: Das M5 eignet sich perfekt für E-Mails und einfache Aufgaben, versagt jedoch kläglich bei komplexer KI-Entwicklung.
Dein teures neues MacBook ist ein Marketing-Gag für lokale KI
Apple hat uns jahrelang davon überzeugt, dass seine „Pro“-Geräte den Gipfel der Leistungsfähigkeit darstellen. Nachdem wir das MacBook Pro mit M5 jedoch einem strengen Testzyklus unterzogen haben, dessen Schwerpunkt auf der lokalen KI-Entwicklung lag, sieht die Realität weit weniger beeindruckend aus. Wenn Sie vorhaben, dieses Gerät für anspruchsvolle Programmierarbeiten oder komplexe Modellierungen zu kaufen, sollten Sie diesen Artikel unbedingt zuerst lesen.
Der RAM-Engpass
Die größte Hürde für jeden KI-Begeisterten ist der Arbeitsspeicher. Das MacBook Pro M5 verfügt über maximal 32 GB RAM. Das klingt zwar für die normale Videobearbeitung reichlich, stellt jedoch für große Sprachmodelle (LLMs) eine enorme Einschränkung dar. Berücksichtigt man die für die Codierung erforderliche Kontextgröße, sind diese 32 GB fast augenblicklich aufgebraucht.
Ich habe festgestellt, dass ich, um bei Programmieraufgaben eine brauchbare Leistung zu erzielen, stark optimierte, auf vier Bit oder sogar drei Bit quantisierte Modelle verwenden musste. Dies geht zu Lasten der Intelligenz des Modells, nur damit es den Hardware-Einschränkungen gerecht wird.
Leistungsgleichheit: Pro vs. Mini
Eines der überraschendsten Ergebnisse war der Leistungsvergleich. Das MacBook Pro M5 bietet nur vernachlässigbare Verbesserungen gegenüber der zu erwartenden Leistung eines Mac Mini. Wenn Sie das Pro wegen der „zusätzlichen Leistung“ für KI kaufen, zahlen Sie im Grunde einen Aufpreis für einen Bildschirm und eine Tastatur, die nichts dazu beitragen, Ihre lokale Inferenz zu beschleunigen.
Wozu ist es gut?
Es gibt aber nicht nur schlechte Nachrichten. Für den gelegentlichen Einsatz von KI ist der M5 mehr als ausreichend. Wenn Ihr täglicher Arbeitsablauf Folgendes umfasst:
- Zusammenfassung langer Artikel oder PDF-Dateien
- Grundlegende E-Mail-Formatierung und Rechtschreibprüfung
- Ausführung kleiner Modelle mit zwei Milliarden Parametern für kreatives Schreiben
- Einfaches Abrufen von Wissen
Dann wird sich dieses Gerät wie ein Traum anfühlen. Es ist schnell, effizient und bewältigt diese einfachen Aufgaben mühelos. Aber eines sei klar gesagt: Dies ist kein Gerät für „KI-Profis“.
Das Urteil
Wenn Sie ein Tüftler sind, der gerne mit Llama CPP und Turbo Quant experimentiert, werden Sie hier viel finden, was Ihnen gefallen wird. Für alle, die jedoch vorhaben, die nächste große KI-gestützte Anwendung lokal zu entwickeln, ist das M5 MacBook Pro eher ein Kompromiss als eine Lösung. Schrauben Sie Ihre Erwartungen herunter oder ziehen Sie eine dedizierte Serverkonfiguration in Betracht.
Stichwörter
Transkript▾
Ich habe umfangreiche Tests und Programmierarbeiten auf dem neuen MacBook Pro mit M5-Chip durchgeführt und es direkt mit dem MacBook Air mit M5-Chip verglichen. Ich wollte die tatsächlichen Fähigkeiten dieses Geräts im Bereich der künstlichen Intelligenz herausfinden. Ich habe verschiedene Benchmarks durchgeführt, darunter einen Vergleich zwischen Qwen und Gemma, sowie anspruchsvolle Programmieraufgaben. Außerdem habe ich Claude-Code getestet, um zu prüfen, ob dieses Gerät als „KI-Monster“ bezeichnet werden kann.
Bevor wir loslegen, noch ein kurzes Wort zu unserem Sponsor: Clicker. Dabei handelt es sich um eine Chrome-Erweiterung, die das Tippen im Browser erheblich vereinfacht. Mit Tastenkombinationen kannst du Seiten zusammenfassen, Informationen für später speichern und verschiedene Modelle wie GPT 5.4 abfragen. Die Erweiterung ist derzeit kostenlos, probier sie also unbedingt aus.
Was die Hardware angeht, ist die Leistung des MacBook Pro im Vergleich zum Mac Mini oft vernachlässigbar. Wenn Sie den M5 Mini in Betracht ziehen, gilt dieses Video auch für Sie. Bei meinen Tests habe ich Llama CPP und das neue Turbo Quant von Google verwendet, das eine Komprimierung der Kontextgröße ermöglicht. Dies ist entscheidend, da Modelle und ihr Kontext in den VRAM passen müssen. Bei maximal 32 GB RAM auf dem M5 MacBook Pro steigt die Belastung der GPU, je mehr sich der Kontext füllt.
Außerdem habe ich OMLX genutzt, um die Leistung auf Mac-Hardware zu steigern. Zu meinen Programmieraufgaben gehörte es, Vercel-Fehler zu analysieren und den Code zu erläutern. Um genügend Kontext zu erhalten, musste ich oft Modelle herunterladen, die auf drei oder vier Bit quantisiert waren. Modelle mit neun Milliarden Parametern waren zwar schneller, die tatsächlichen Programmierergebnisse waren jedoch schlecht. Modelle mit zwei Milliarden Parametern – selbst bei 2,4 Bit – sind eindeutig das, wofür dieser Rechner ausgelegt ist.
Für alltägliche Aufgaben wie die Planung einer Reise oder das Verfassen von Texten eignet es sich gut, auch wenn GPS-Koordinaten und Notizen oft ungenau waren. Insgesamt eignet sich das MacBook M5 für gelegentliche KI-Nutzer. Professionelles Programmieren ist auf diesem Gerät aufgrund der Begrenzung auf 32 GB RAM nicht möglich. Es eignet sich gut zum Sammeln von Wissen und zum Formatieren von E-Mails, aber für anspruchsvollere Aufgaben benötigen Sie möglicherweise eine lokale Serverkonfiguration. Wenn Sie gerne herumprobieren, werden Sie den Lernprozess mit Llama CPP und Turbo Quant genießen, sollten jedoch kein tragbares KI-Kraftpaket erwarten.