Lokale KI im Krankenhaus: Alternative zur Cloud-KI

Lokale KI im Krankenhaus statt Cloud

Ein kaufmännischer Direktor eines Krankenhauses hat gerade ein KI-Projekt durchgerechnet, das Dokumentationszeit spart und sich innerhalb weniger Monate amortisieren würde. Die Wirtschaftlichkeit stimmt, die Fachabteilung ist überzeugt. Dann meldet der Datenschutzbeauftragte Bedenken an und die Investitionsentscheidung landet auf unbestimmte Zeit in der Warteschleife. Genau in dieser Situation zeigt lokale KI im Krankenhaus ihren Wert: Sie löst das Datenschutzproblem an der Wurzel, bevor es zum Investitionsrisiko wird.

Der Grund ist fast immer derselbe: Die KI läuft in der Cloud. Und sobald Gesundheitsdaten das Krankenhaus verlassen, greifen Art. 9 DSGVO und die ärztliche Schweigepflicht nach § 203 StGB in voller Härte. Es braucht einen Auftragsverarbeitungsvertrag, ein C5-Testat für den Cloud-Anbieter und Klarheit über den Serverstandort.^[1] Für viele IT-Abteilungen im Krankenhaus ist genau das der Punkt, an dem ein eigentlich vielversprechendes Projekt scheitert. Der Grund ist nicht die Qualität oder Verfügbarkeit der Technologie, sondern der administrative und rechtliche Rahmen.

Im Gesundheitswesen kommt ein Faktor hinzu, der sich nicht in Paragrafen fassen lässt: ein grundsätzlich sensibler Umgang mit Patientendaten, der tief in der Berufskultur verankert ist. Selbst wenn Auftragsverarbeitungsvertrag, C5-Testat und Serverstandort formal geklärt sind, bleibt bei vielen Ärzten ein ungutes Gefühl zurück, sobald Patientendaten das eigene Haus verlassen. Dieses Unbehagen ist kein Zeichen von Überängstlichkeit, sondern Ausdruck eines Vertrauensverhältnisses, das der Beruf seit jeher verlangt. Eine Lösung, bei der Daten das Krankenhaus erst gar nicht verlassen, nimmt genau dieses Gefühl ernst, unabhängig davon, wie wasserdicht die vertragliche Absicherung einer Cloud-Lösung im Zweifel wäre.

Cloud-KI stößt im Krankenhaus strukturell an Grenzen

Das Problem liegt nicht bei einzelnen Anbietern oder schlechten Verträgen, sondern in der Architektur selbst. Cloud-KI schickt Anfragen an Rechenzentren, die meist von US-amerikanischen Konzernen betrieben werden.^[3] Damit entsteht automatisch eine Kette von Abhängigkeiten: von einer stabilen Internetverbindung, von der Cloud-Verfügbarkeit des Anbieters, von dessen Preisgestaltung pro Anfrage und nicht zuletzt von dessen Entscheidungen über Modellversionen und Updates, auf die das Krankenhaus keinen Einfluss hat.

Für Gesundheitsdaten kommt erschwerend hinzu, dass jede Cloud-Anbindung eine zusätzliche Angriffsfläche für Cyberattacken darstellt. Gerade Krankenhäuser sind für Angreifer ein besonders lohnendes Ziel, weil Patientendaten hochsensibel und Systeme oft unter chronischem IT-Ressourcenmangel betrieben werden. Jede zusätzliche Schnittstelle nach außen vergrößert dieses Risiko.

Hinzu kommt der EU AI-Act. Er verlangt von Krankenhäusern als Betreiber von KI-Systemen Nachweise über Trainingsdaten, Entscheidungslogik und Monitoring, gestaffelt nach der Risikoklasse des jeweiligen Systems.^[7] Bei einer Cloud-Lösung, deren Innenleben man nicht kontrolliert, ist das deutlich schwerer zu belegen als bei einem System, das vollständig im eigenen Haus läuft. Das strukturelle Dilemma lautet also: Genau die leistungsstarken KI-Modelle, die den größten Mehrwert versprechen, sind aus regulatorischer Sicht am schwersten zu rechtfertigen.

Für die Verwaltungsleitung kommt eine persönliche Dimension hinzu. Setzt ein Krankenhaus eine unzureichend geprüfte KI-Lösung ein, kann das als Organisationsverschulden gewertet werden, mit Haftungsfolgen für die Geschäftsführung selbst.^[2] Auch die NIS-2-Richtlinie verschärft diese persönliche Verantwortung zusätzlich. Eine Lösung, die Daten von vornherein im Haus hält und deren Funktionsweise vollständig dokumentierbar ist, reduziert dieses Haftungsrisiko spürbar, nicht nur das Risiko für die Patientendaten selbst.

Vorteile lokaler KI

Lokale KI im Krankenhaus bedeutet, dass ein KI-Modell direkt auf einem Gerät in der Klinik läuft, ohne Anbindung an ein externes Rechenzentrum. Der entscheidende Unterschied zur Cloud-KI liegt dabei nicht in der Geschwindigkeit, sondern in der regulatorischen Eleganz: Läuft das Modell direkt auf einem Gerät im Krankenhaus, verlassen die Daten das Haus schlichtweg nicht. Damit entschärfen sich die Anforderungen aus Art. 9 DSGVO und § 203 StGB von selbst, weil der Grund für ihre Verschärfung, die Datenweitergabe an Dritte, gar nicht erst entsteht. Ein Auftragsverarbeitungsvertrag wird überflüssig, ein C5-Testat ebenso, die Frage nach dem Serverstandort stellt sich nicht mehr.

Möglich wird das durch eine neue Generation von Prozessoren, die CPU, Grafikeinheit und einen dedizierten KI-Beschleuniger auf einem Chip vereinen und dabei auf einen gemeinsamen Arbeitsspeicher von bis zu 128 Gigabyte zugreifen können.^[4] Diese Architektur ermöglicht es, Sprachmodelle mit bis zu 200 Milliarden Parametern vollständig lokal und in Echtzeit zu betreiben, ganz ohne Cloud-Anbindung.^[5] Seit 2025/26 ist diese Technik serienreif und findet sich bereits in Business-Notebooks und kompakten Desktop-Geräten führender Hersteller.

Ein offenes Modell wie GPT-OSS-120B zeigt, was damit möglich ist: Im medizinischen Testverfahren HealthBench erreicht es Werte nahe an denen deutlich größerer, ausschließlich cloudbasierter Modelle und liegt spürbar vor älteren Generationen wie GPT-4o.^[6] Für hochspezialisierte Forschungsfragen mögen die größten Cloud-Modelle noch die Nase vorn haben. Für die konkreten Anwendungsfälle im Krankenhausalltag reicht die Leistungsfähigkeit lokaler Modelle heute in aller Regel völlig aus.

Im direkten Vergleich wird der Unterschied zwischen beiden Ansätzen greifbar:

Dimension	Cloud-KI	Lokale KI
Datenschutz	Art. 9 DSGVO und § 203 StGB greifen voll, AV-Vertrag und C5-Testat nötig	Daten verlassen das Haus nicht, Anforderungen entschärfen sich strukturell
Haftung der Geschäftsführung	Organisationsverschulden möglich, wenn Prüfung unzureichend war	Geringeres Haftungsrisiko durch volle Kontrolle und Dokumentierbarkeit
Regulatorik (EU AI-Act)	Nachweise über Trainingsdaten und Monitoring schwer belegbar	Transparenz- und Dokumentationspflichten leichter erfüllbar
Kosten	Laufende Cloud- und Token-Kosten pro Anfrage	Einmalige, klar kalkulierbare Investition
Verfügbarkeit	Abhängig von stabiler Internetverbindung und Anbieter-Verfügbarkeit	Läuft offline, unabhängig von externer Anbindung
Kontrolle über Modell	Keine Kontrolle über Modellversion und Updates des Anbieters	Volle Kontrolle über Modell, Version und Update-Zeitpunkt
Angriffsfläche	Zusätzliche Angriffsvektoren durch Cloud-Anbindung	Reduzierte Angriffsfläche durch Kapselung im Haus
Ausfallsicherheit	Internetzugang, Provider-Risiko	Lokale Verfügbarkeit ist sichergestellt

Fünf Anwendungsfälle, die schon heute funktionieren

Wo lohnt sich der Umstieg auf lokale KI konkret? Fünf Anwendungsfälle stechen hervor:

Sprachbasierte Dokumentation. Eine Kombination aus Spracherkennung und kleinem Sprachmodell strukturiert Anamnese, Befund und Arztbrief automatisch, direkt am Gerät und ohne dass ein Wort davon die Klinik verlässt.
Abrechnungs- und Kodier-Assistenz. Das System schlägt passende GOÄ-, EBM-, ICD-10- und OPS-Codes vor. Die fachliche Prüfung bleibt beim Menschen, die Vorarbeit entfällt.
Offline-Echtzeitübersetzung. Bei Sprachbarrieren zwischen Arzt und Patient übersetzt die KI vollständig lokal und ohne Internetverbindung, was gerade in der Akutversorgung Zeit spart und die Privatsphäre schützt.
Semantische Suche und RAG. Ärzte erhalten schnellen, lokalen Zugriff auf medizinische Leitlinien, Abteilungs-SOPs und interne Dokumente, ohne dass diese Wissensbasis jemals in die Cloud hochgeladen werden muss.
On-Device-Pseudonymisierung. Ein lokaler KI-Agent entfernt Klarnamen und andere identifizierende Merkmale, bevor Daten überhaupt an eine Cloud, an Forschungspartner oder an ein größeres externes Modell weitergegeben werden. Damit lassen sich lokale und cloudbasierte KI sogar kombinieren, ohne den Datenschutz zu gefährden.

Was Entscheider beim Einstieg beachten sollten

Der Umstieg auf lokale KI ist kein Alles-oder-Nichts-Entscheid und lässt sich als planbare Investition steuern. Sinnvoll ist ein gestufter Einstieg: Zunächst ein oder zwei der oben genannten Anwendungsfälle in einer Abteilung pilotieren, Erfahrungen sammeln und anschließend mit überschaubarem Budgetrisiko skalieren. Anders als bei Cloud-Lösungen mit laufenden Kosten pro Anfrage lässt sich der Invest bei lokaler KI als einmalige, klar kalkulierbare Ausgabe planen, ein Vorteil, der sich in jeder Wirtschaftlichkeitsrechnung bemerkbar macht. Wichtig ist dabei, die IT-Abteilung von Anfang an einzubinden, damit keine unkontrollierte Schatten-KI entsteht, die dieselben Haftungsrisiken durch die Hintertür wieder hereinholt, die man mit der lokalen Lösung eigentlich vermeiden wollte.

Ebenso wichtig ist eine ehrliche Erwartungssteuerung im Personalbereich. Lokale KI ersetzt keine ärztliche Entscheidung, sie entlastet bei Dokumentation, Übersetzung und Recherche. Wer das von Anfang an klar kommuniziert, vermeidet Enttäuschungen und erhöht die Akzeptanz im Team.

Fazit

Cloud-KI und Gesundheitsdatenschutz passen strukturell nicht gut zusammen, das zeigt sich immer wieder in der Praxis. Lokale KI-Systeme lösen genau dieses Dilemma auf, ohne auf die Vorteile moderner Sprachmodelle verzichten zu müssen. Für die zentralen Anwendungsfälle im Krankenhausalltag, von der Dokumentation bis zur Pseudonymisierung, ist die Technologie heute bereits ausgereift genug, um echten Mehrwert zu schaffen und gleichzeitig regulatorisch auf der sicheren Seite zu bleiben.

Welcher dieser Anwendungsfälle für Ihr Haus den größten Hebel bietet, hängt von der individuellen Ausgangslage ab, von der IT-Infrastruktur bis zur Belastung einzelner Abteilungen. Lassen Sie uns gemeinsam herausfinden, wo Ihr Krankenhaus am dringendsten entlastet werden muss, und wie sich lokale KI dort konkret einsetzen lässt.

Jetzt anfragen