Die Haftung für eine KI-Übersicht wird am Landgericht Frankfurt verhandelt, nachdem ein medizinischer Fachverband gegen die automatisierten Antworten eines Suchmaschinenbetreibers zu chirurgischen Eingriffen klagte. Besonders die Information zum Durchtrennen der Haltebänder beim Penis zur Penisvergrößerung wirft die brisante Frage auf, ob ein Algorithmus medizinische Tatsachen eigenmächtig zum eigenen Vorteil umdeuten darf.
Zum vorliegenden Urteilstext springen: 2-06 O 271/25
Das Wichtigste im Überblick
- Gericht: Landgericht Frankfurt am Main
- Datum: (nicht angegeben)
- Aktenzeichen: (nicht angegeben)
- Verfahren: Einstweilige Verfügung
- Rechtsbereiche: Wettbewerbsrecht, Kartellrecht, Digital Markets Act
- Relevant für: Suchmaschinenbetreiber, KI-Entwickler, Webseitenbetreiber
Suchmaschinenbetreiber dürfen KI-Zusammenfassungen anzeigen, sofern diese im Gesamtzusammenhang keine falschen Tatsachen behaupten.
- Eine KI-Übersicht ist Teil der Suchergebnisse und kein verbotenes eigenes Produkt.
- Einzelne Sätze gelten nicht als falsch, wenn der restliche Text sie richtig erklärt.
- Marktbeherrschende Firmen dürfen Wettbewerber behindern, solange die Darstellung sachlich gerechtfertigt bleibt.
- Das EU-Gesetz gegen Selbstbevorzugung greift bei integrierten KI-Antworten in Suchmaschinen nicht.
Haftet eine Suchmaschine für medizinisch fragwürdige KI-Antworten?
Ein einzelner Satz in einer automatisierten Antwort kann über den Ruf einer ganzen Branche entscheiden – besonders wenn es um sensible medizinische Eingriffe geht. Vor dem Landgericht Frankfurt am Main spielte sich kürzlich ein wegweisender Konflikt zwischen einem Verbund medizinischer Dienstleister und einem globalen Tech-Giganten ab. Im Zentrum des Streits stand eine von Künstlicher Intelligenz generierte „Übersicht“, die Nutzern bei der Suche nach „Penisvergrößerung“ angezeigt wurde.
Der medizinische Fachverband fühlte sich durch die Formulierung der KI massiv geschädigt. Die künstliche Intelligenz behauptete, bei dem Eingriff werde ein Teil des Organs „durchtrennt“. Für die Ärzte war dies eine geschäftsschädigende Falschinformation, die Patienten in Panik versetzen und von einer Behandlung abhalten würde. Der Fall berührt die fundamentale Frage, wie weit die Haftung für eine KI-Übersicht bei Suchmaschinen reicht und ob Technologiekonzerne ihre Marktmacht missbrauchen, wenn sie eigene Antworten über die organischen Suchergebnisse stellen.
Das Gericht musste in einem Eilverfahren klären, ob die Darstellung tatsächlich irreführend war und ob der Suchmaschinenbetreiber seine marktbeherrschende Stellung zum Nachteil der Ärzte ausnutzte. Das Urteil liefert wichtige Erkenntnisse darüber, wie Richter derzeit das Spannungsfeld zwischen innovativer Suchtechnologie und dem Schutz des Wettbewerbs bewerten.
Welche rechtlichen Hürden muss eine KI-Antwort nehmen?
Der juristische Kampf um die Deutungshoheit in den Suchergebnissen wird mit harten Bandagen geführt. Dabei greifen zwei mächtige Rechtsgebiete ineinander: das deutsche Kartellrecht und die neue europäische Digitalregulierung.
Zentral ist hier das Gesetz gegen Wettbewerbsbeschränkungen (GWB). Nach § 19 GWB ist der Missbrauch einer marktbeherrschenden Stellung verboten….