Über dieses Video
Das Zeitalter der cloudabhängigen KI neigt sich dem Ende zu, da die Leistung lokaler Geräte immer weiter zunimmt. In diesem Video erläutere ich meinen Umstieg auf das MacBook Pro M5 Max mit 128 GB RAM und warum lokale Rechenleistung für viele SaaS-Modelle den endgültigen Todesstoß bedeutet. Die wichtigsten Erkenntnisse: - Warum 128 GB RAM die unverzichtbare Schwelle für professionelle lokale LLM-Leistung darstellen. - Die Realität von M1 vs. M5: Die Geschwindigkeitsgewinne bei herkömmlichen Aufgaben sind überraschend gering. - Warum die These „SaaS ist tot“ durch lokal ausgerichtete KI-Workflows vorangetrieben wird. - Die versteckten Kosten und thermischen Herausforderungen des 14-Zoll-M5 Max unter hoher Auslastung. - Warum „Personal Software“ der nächste große Wandel für Gründer und CEOs ist.
Das Zeitalter der persönlichen Software: Warum ich meinen Arbeitsablauf auf 128 GB lokalen Arbeitsspeicher setze
Hören Sie auf, Ihre Intelligenz aus dem Silicon Valley zu mieten. Die Ära der von SaaS abhängigen Gründer neigt sich ihrem natürlichen Ende zu, und der Auslöser dafür ist kein neues Cloud-Abonnement, sondern die Hardware, die auf Ihrem Schreibtisch steht. Ich habe kürzlich auf das MacBook Pro M5 Max mit 128 GB RAM umgestellt, und obwohl der Preis von über 5.000 £ jeden Finanzvorstand ins Schwitzen bringt, sind die Auswirkungen auf die persönliche Software tiefgreifend.
Die marginalen Gewinne der herkömmlichen Datenverarbeitung
Für den durchschnittlichen Geschäftsführer oder Gründer ist der Unterschied zwischen einem M1 und einem M5 bei alltäglichen Aufgaben kaum spürbar. Wenn Sie lediglich zwischen Tabs wechseln, gelegentlich ein Video bearbeiten oder ein Team über Slack leiten, sind die Geschwindigkeitssteigerungen nur marginal. Bei meinen Tests haben sich die Renderzeiten in Final Cut Pro lediglich um etwa 10 bis 20 Prozent verbessert. Wenn Sie ein Upgrade vornehmen, um von der „Reaktionsschnelligkeit“ des Betriebssystems zu profitieren, verschwenden Sie wahrscheinlich Ihr Geld.
Warum 128 GB das neue Minimum sind
Der eigentliche Wandel vollzieht sich, wenn wir über lokale große Sprachmodelle (LLMs) sprechen. Die These „SaaS ist tot“ gewinnt an Bedeutung, wenn man erkennt, dass der teuerste Teil des KI-Workflows vollständig intern abgewickelt werden kann.
Auf meinem bisherigen Gerät mit 64 GB dauerte die Analyse komplexer Codebasen minutenlanges, quälendes Warten. Auf dem M5 Max mit 128 GB einheitlichem Speicher dauern dieselben Aufgaben nur noch Sekunden. Das ist nicht nur eine Geschwindigkeitssteigerung, sondern eine grundlegende Veränderung in der Art und Weise, wie wir mit Software interagieren. Wer die Rechenleistung besitzt, hat auch die Kontrolle über den Datenschutz, die Verfügbarkeit und das Schicksal seiner Daten.
Die Zukunft, in der das Lokale an erster Stelle steht
Apple hat praktisch eine KI-Workstation entwickelt, die als Consumer-Laptop getarnt ist. Die 128 GB Unified Memory sind der „Sweet Spot“ für die Ausführung hochwertiger quantisierter Modelle, die bei bestimmten Aufgaben mit GPT-4 mithalten können.
Als Gründer müssen wir uns fragen: Warum zahlen wir monatliche Lizenzgebühren für Funktionen, die unsere Laptops mittlerweile von Haus aus ausführen können, während wir schlafen? Der Übergang zu persönlicher Software bedeutet, dass unsere Tools bald genauso maßgeschneidert sein werden wie unsere Strategien: Sie laufen lokal, sind auf unsere spezifischen Bedürfnisse abgestimmt und erfordern keinen einzigen API-Aufruf an einen Drittanbieter.
Endgültiges Urteil
Wenn Ihr Alltag aus E-Mails und Tabellenkalkulationen besteht, bleiben Sie bei Ihrem M1. Wenn Sie jedoch an der Zukunft der „Local-First“-KI arbeiten und den Weg weg von der SaaS-Abhängigkeit anführen wollen, ist der M5 Max das erste echte Werkzeug für das Zeitalter der persönlichen Software. Seien Sie nur darauf vorbereitet, dass die Lüfter anspringen, wenn die Rechenlast zunimmt.
Transkript▾
Ich habe schon lange genug mit diesem Kauf geliebäugelt: das MacBook Pro mit M5 Max und 128 GB RAM. Ich hatte ziemlich viel Glück mit dem Zeitpunkt, da die Preise bei Apple seitdem in die Höhe geschossen sind. Zuvor habe ich ein Modell mit M1 Max und 64 GB genutzt, das damals zur Spitzenklasse gehörte, aber ich wollte herausfinden, ob der M5 Max für kreative und technische Arbeitsabläufe ein echtes Upgrade darstellt.
Ich habe mich aus Gründen der Mobilität für das 14-Zoll-Modell entschieden. Es verfügt über eine 40-Kern-GPU, ein Display mit Nanotextur und 2 TB Speicherplatz. Der aktuelle Preis für diese Konfiguration liegt bei fast 7.000 £, was atemberaubend ist. Zu meinen täglichen Aufgaben gehören Videobearbeitung, das Programmieren mit Tools wie Warp und Claude sowie der gelegentliche Einsatz von Docker. Interessanterweise stellte ich fest, dass die Leistungssteigerungen gegenüber dem M1 Max bei der Standard-Videobearbeitung und beim alltäglichen Multitasking eher subtil als revolutionär waren.
Der entscheidende Unterschied liegt in der lokalen KI. Auf meinem M1 waren lokale LLM-Aufgaben langsam und umständlich. Auf dem M5 Max ist der Geschwindigkeitsunterschied unglaublich: Was früher Minuten dauerte, ist jetzt in Sekundenschnelle erledigt. Dieses Gerät ist für lokale Inferenz ausgelegt. Der Chip selbst ist zwar schnell, doch der eigentliche Engpass für KI war schon immer der Arbeitsspeicher.
Allerdings ist nicht alles perfekt. Das 14-Zoll-Gehäuse hat mehr mit der Wärmeentwicklung zu kämpfen als das 16-Zoll-Modell, und die Lüfter können unter Last ziemlich laut sein. Darüber hinaus deuten Gerüchte über ein MacBook „Ultra“ darauf hin, dass möglicherweise noch mehr Arbeitsspeicher in Aussicht steht. Solange Sie nicht intensiv im Bereich der lokalen KI tätig sind, bleibt der M1 Max vorerst ein beeindruckendes Gerät. Doch für die Zukunft der persönlichen, lokal ausgerichteten Software spielt der M5 Max in einer ganz eigenen Liga.