Über dieses Video
Das SaaS-Zeitalter neigt sich dem Ende zu, da lokale, agentenbasierte KI-Modelle wie Ornith Gründern ermöglichen, persönliche Software auf ihrer eigenen Hardware zu entwickeln. In diesem Video teste ich die Ornith-Modellfamilie – von der 9B-Lightweight-Version bis hin zum 35B-Kraftpaket –, um zu prüfen, ob sie mit MLX und MCPs reale Frontend-Entwicklungsaufgaben bewältigen können. Die wichtigsten Erkenntnisse: - Überblick über die sich selbst verbessernde Ornith-Modellfamilie. - So richten Sie lokale Modelle auf dem Mac mit MLX ein und führen sie aus. - Praxistest: Erstellung einer Landingpage in 10 Minuten. - Die Grenzen aktueller Open-Source-Modelle mit komplexen APIs. - Warum Gründer von SaaS auf persönliche Software umsteigen sollten.
Die SaaS-Todesspirale: Warum persönliche Software die Zukunft für Gründer ist
Die Zeiten, in denen man für jede grundlegende Geschäftsfunktion ein monatliches Abonnement von 50 Dollar zahlen musste, neigen sich dem Ende zu. Jahrelang waren Gründer Geiseln der „API-Steuer“ und der ständig wachsenden Flut von SaaS-Abonnements. Doch wie ich kürzlich beim Testen der neuen Ornith-Modellfamilie festgestellt habe, wendet sich das Blatt zugunsten persönlicher Software.
Das lokale Kraftpaket: Ornith AI
Ich habe mich kürzlich etwas eingehender mit Ornith beschäftigt, einer sich selbst verbessernden Familie von Open-Source-Modellen, die speziell für das agentische Codieren entwickelt wurden. Diese Modelle basieren auf Gemma und Qwen und vereinen das Beste aus beiden Welten, um etwas zu schaffen, das auf lokaler Hardware bemerkenswert gut läuft.
Die Rede ist von Modellen, die von 9 Milliarden Parametern für einfache Aufgaben bis hin zu einer gewaltigen „Mixture of Experts“-Konfiguration mit 397 Milliarden Parametern reichen, die es mit Modellen wie Claude 3 Opus aufnehmen kann. Für einen Gründer verändert die Möglichkeit, diese Modelle auf einem Mac der M-Serie auszuführen, die Wirtschaftlichkeit von Innovationen grundlegend.
Bauen, ohne dass der Zähler läuft
Der auffälligste Aspekt beim Testen dieser Modelle war die Integration mit dem Model Context Protocol (MCP). Ich beauftragte das 35B-Modell damit, eine Landingpage auf der Grundlage einer bestehenden, live geschalteten Website zu entwerfen. Innerhalb von zehn Minuten hatte es die Inhalte extrahiert, den HTML-Code strukturiert und sogar JavaScript für flüssiges Scrollen hinzugefügt.
War es perfekt? Nein. Es gab Probleme mit komplexen Einschränkungen der Webflow-API und bei der Darstellung einiger SVG-Dateien. Aber es war „gut genug“, um eine funktionsfähige Grundlage zu bieten, ohne auch nur eine einzige Anfrage an einen cloudbasierten LLM-Anbieter stellen zu müssen. Das ist der Kern persönlicher Software: Tools, die man besitzt und nicht mietet und die in der eigenen Infrastruktur laufen.
Warum CEOs sich dafür interessieren sollten
Wenn Sie eine technische Organisation leiten, bietet der Übergang zu lokalen, agentenbasierten Modellen drei wesentliche Vorteile:
- Datensouveränität: Ihr Code verlässt niemals Ihre lokale Umgebung.
- Null Grenzkosten: Sobald Sie die Hardware besitzen, sind die „API-Aufrufe“ kostenlos.
- Maßgeschneiderte Agilität: Lokale Modelle lassen sich an Ihre spezifischen Arbeitsabläufe anpassen, ohne dass Sie darauf warten müssen, dass ein Drittanbieter seine Gewichte aktualisiert.
Das Urteil
Ornith 35B ist ein fantastischer Mittelweg für alle, die sich von der Abhängigkeit von der Cloud lösen möchten. Auch wenn wir bei der Komplexität der Architektur noch nicht ganz auf dem neuesten Stand der Technik sind, sind die Einstiegshürden für die Frontend-Entwicklung und das schnelle Prototyping nun offiziell gefallen.
Die Zukunft besteht nicht aus einer Reihe generischer SaaS-Tools, sondern aus einem personalisierten, lokalen und agentenbasierten Stack, den Sie selbst steuern.
Bleib weiter in Stimmung.
Transkript▾
Ich habe mich gerade auf Ollama umgesehen und bin dabei auf Ornith gestoßen, eine sich selbst verbessernde Familie von Open-Source-Modellen für agentisches Codieren. Sie erzielt bei den Swebench- und Terminal-Benchmarks Spitzenergebnisse unter den Open-Source-Modellen. Es gibt mehrere Versionen: ein 9B-Dense-Modell, 31B, 35B „Mixture of Experts“ (MoE) und ein riesiges 397B-MoE-Modell. Das 397B-Modell ist mit Opus 4.7 vergleichbar, was für ein lokales Modell beeindruckend ist.
Ich ziehe es vor, auf dem Mac MLX statt Ollama zu verwenden, da es das Caching auf der SSD wesentlich besser handhabt. Ich habe die Modelle 9B und 35B heruntergeladen. Das 9B-Modell eignet sich hervorragend für einfache Chat-Aufgaben, wie zum Beispiel das Verfassen einer höflichen E-Mail. Für echte Arbeitsaufgaben habe ich das 35B-Modell in Open Code mit MCP-Unterstützung (Model Context Protocol) verwendet.
Ich habe dem Tool eine praxisnahe Aufgabe gestellt: eine Landingpage auf Basis meines Projekts „Lease Lens Pro“ zu entwerfen. Es dauerte etwa 10 Minuten, den Inhalt zu extrahieren und die Seite zu erstellen. Das HTML und JavaScript für flüssiges Scrollen und die FAQ-Ausklappmenüs wurden einwandfrei verarbeitet. Allerdings hatte es Schwierigkeiten mit der Webflow-MCP-Integration und konnte die API-Einschränkungen für direkte Designübertragungen nicht ganz bewältigen.
Auch wenn es noch nicht die Spitzenleistung eines Modells wie Claude 3.5 erreicht, ist es dennoch ein sehr brauchbares Modell für Hobbyprojekte und die private Softwareentwicklung. Es zeigt, dass wir uns auf eine Welt zubewegen, in der man nicht mehr für alles ein SaaS-Abonnement benötigt.