Je weiter die künstliche Intelligenz in nahezu alle Bereiche unserer Gesellschaft vordringt, desto größer sind auch die möglichen Konsequenzen ihrer Entscheidungen. Denn von ihrem Urteil hängt unter Umständen der die finanzielle oder berufliche Zukunft eines Menschen ab – oder sogar dessen Leben.
Tödliche Fehlentscheidungen
Stellt eine KI beispielsweise in der Medizin die falsche Diagnose, ohne dass dies hinterfragt wird, kann ein Patient falsch behandelt werden oder sogar sterben. Tödlich kann es auch enden, wenn beim Militär ein autonomes Waffensystem eingesetzt wird, das falsche Entscheidungen trifft. Kann es beispielsweise auf die Schnelle Freund nicht von Feind oder Flüchtling nicht vom angreifenden Soldaten unterscheiden, sterben Unschuldige.
Kaum weniger folgenreich können Entscheidungen von Maschinenhirnen im Justizwesen sein. So werden in den USA bereits Algorithmen in Gerichten eingesetzt. Diese KI-Systeme sollen vorhersagen, wie groß die Wahrscheinlichkeit für einen Rückfall bei vor Gericht stehenden Straftätern ist. Ihre Einschätzung wirkt sich nicht selten auf die Entscheidung des Gerichts und damit auf das Strafmaß der Verurteilten aus.
Wenn die KI über Kredite entscheidet
Ähnlich gravierend kann sich eine Entscheidung im Finanz- und Versicherungswesen auswirken – einem Bereich, in dem Algorithmen schon jetzt häufig über Anträge oder die Kreditwürdigkeit von Kunden entscheiden. Trainiert werden diese Systeme meist anhand von Datenbanken, die wesentliche Informationen über die Lebensumstände und das Verhalten von früheren Fällen enthalten.
