S. Ostermann

Zwei Grafikkarten im Keller

19.08.2026

In meinem Keller steht ein Rechner mit zwei Grafikkarten. Darauf arbeiten Tag und Nacht KI-Modelle. Niemand kann sie limitieren, niemand die Preise erhöhen, niemand mitlesen.

Eine der beiden Grafikkarten: eine NVIDIA GeForce RTX 5090 Founders Edition, frisch ausgepackt.

Angefangen hat das als Feierabendprojekt. Ein bisschen Hardware, ein paar offene Modelle, viel Ausprobieren. Inzwischen ist es einer von mehreren Gründen, warum ich meinen Job aufgegeben habe.

Ab dem 01.10.2026 bin ich selbstständig

Nach vielen Jahren als Führungskraft in der Software- und Produktentwicklung, zuletzt als Head of Development, berate ich Unternehmen künftig zu privater und agentischer KI: welche Hardware, welche Modelle, welche Architektur. Damit KI wirklich produktiv wird und die Daten dabei im Unternehmen bleiben.

Warum jetzt?

Weil aus dem Nebenprojekt eine Überzeugung geworden ist: Der Weg zu KI führt nicht zwangsläufig über einen US-Cloud-Anbieter.

Vieles, wofür heute pro Nutzer und Monat gezahlt wird, läuft lokal. Schnell genug, günstig genug und nachvollziehbar. Nicht alles, für manche Aufgaben sind die großen Frontier-Modelle weiterhin das richtige Werkzeug. Aber der Anteil dessen, was auf eigener Hardware sinnvoll läuft, ist im letzten Jahr deutlich größer geworden, und die Rechnung geht für viele mittelständische Unternehmen inzwischen auf.

Näher am Metall

Ich werde dabei wieder deutlich operativer arbeiten. Möglich macht das erst die Technik selbst: KI-Agenten übernehmen im Hintergrund die Fleißarbeit. Das verschafft mir Zeit für den Teil, der jetzt der wichtigste ist: die Arbeit mit Menschen.

Ich starte allein. Mit dem klaren Plan, gemeinsam mit einem Partner zu wachsen.

Ab Oktober habe ich Kapazität

Für Projekte, Sparring und Kooperationen. Und wenn Ihnen beim Lesen jemand einfällt, der genau vor diesen Fragen steht: Ich freue mich über eine Vorstellung.

Wie das für ein Unternehmen aussieht

Wie ein solches Projekt abläuft, vom Audit über die Hardware und die Modelle bis zur Übergabe, habe ich aufgeschrieben: KI auf eigener Hardware.