Wir alle haben sicher schon mit KI gearbeitet und sie haben uns Fragen beantwortet, und dabei haben wir alle gesehen, wie schlecht die Resultate sind. Von kleinen Schönheitsfehlern in Antworten bis zu einer brandschwarzen Lüge war schon alles dabei.
Ich erinnere mich an Google Gemini, die behauptet hat, dass Isaac Newton ein Schwarzer war, wie der Papst und auch die Wikinger, oder dass sie vorschlug, damit der Käse auf der Pizza nicht mehr verrutscht, solle man ihn mit Sekundenkleber ankleben.
Auch gab es bereits Anwälte, die Ärger bekommen haben, weil sie Gerichtsdokumente von einer KI erstellen liessen, und dann hat die KI da Gerichtsurteile erfunden und Gesetzesparagrafen abgeändert.
Nein, ich sage nicht, dass eine KI etwas Schlimmes ist – nein, ich sage, dass man aufpassen muss, was die KI produziert. Immerhin ist die KI keine künstliche Intelligenz, sondern ein mathematisches Modell. Sie nimmt einen Text und schreibt ihn mit Mathematik um und präsentiert uns etwas, von dem sie glaubt, dass es das ist, was wir lesen wollen. Es gibt keinen Faktencheck oder so etwas – sondern es ist einfach ein kreatives Märchenmodell.
Und jetzt gibt es immer mehr Menschen, die sich von einer KI alles erklären lassen. Von „Wie putzt man einen Backofen?“ bis hin zu „Ich blute aus, was muss ich tun?“. Der erste Teil wäre ja noch ok – aber beim zweiten kann es dann sicher mal tödlich enden.
Nun gab es ein Gerichtsurteil beim Landgericht München zu KI.
Und zwar hat die Google-KI in einer Antwort gesagt, dass ein Verlag unlauteres Geschäftsgebaren machen würde. Dieser Verlag hat geklagt und gewonnen. Das Gericht hat ebenfalls Google verboten, diese KI-Aussagen weiter zu verbreiten.
Das Gericht hat klar erkannt, dass die Aussagen der KI gar nicht mit den Quellen übereinstimmen, sondern dass hier Dinge erfunden worden sind. Und genau damit hat das Gericht das Urteil abgestützt. (Anscheinend hat die KI diese falschen Infos von anderen Unternehmen reingemixt.)
Hier ein weiterer Artikel zu diesem Gerichtsurteil:
Landmark German ruling declares Google’s AI Overviews are Google’s own words and makes it liable for false answers
Ich bin sicher, dass dieses Gerichtsurteil weitergezogen wird, und sollte es auch dort bestätigt werden, haben die KI-Hersteller von Anthropic bis OpenAI, Google usw. ein grosses Problem. Sie würden also für alle Lügereien und falschen Antworten haften …
Dann müssten sie also den Erfindergeist einer KI einschränken (was gar nicht so einfach ist) oder, wie ein Kollege von mir vorgeschlagen hat, vor jeder Antwort ein Popup anzeigen, das wir bestätigen müssen und in dem darauf hingewiesen wird, dass die Firmen für die Antwort keine Haftung tragen. Oder es wird in einer kilometerlangen AGB versteckt: „Alle Antworten sind frei erfunden und ohne Gewähr.“
Ja, ich bin gespannt, wie es hier weitergeht.
Was denkt ihr, ist das ein gutes Gerichtsurteil oder nur ein typisches deutsches Urteil von Leuten, die technikfeindlich sind?
0 Kommentare