Emergenz

Ein Faktor, der bei vielen KI-Experten zum Umdenken in Bezug auf generalisierte künstliche Intelligenz geführt hat, ist die sprunghafte und überraschend große Zunahme der KI-Leistungen. Mit jeder Skalierung der neuronalen Netze und ihrer Parameter entwickeln die Systeme neue, oft unerwartete Fähigkeiten. KI-Entwickler sprechen in diesem Kontext von Emergenz.

Fähigkeiten aus dem Nichts

„Von allen Aspekten der KI sind die emergenten Eigenschaften die rätselhaftesten“, sagte Google-CEO Sundar Pichai jüngst in einem Interview des US-Sender CBS. „Einige KI-Systeme bringen sich selbst Fähigkeiten bei, die wir bei ihnen nicht erwartet hätten. Wie dies passiert, ist noch nicht gut verstanden.“ Die beim Skalieren von KI-Systemen auftretenden emergenten Eigenschaften lassen sich nicht auf Basis der Vorversion extrapolieren, ihr Auftreten ist daher unberechenbar.

Als Beispiel nennt Pichai eine Google-KI, die sich selbst Bengali beibrachte, die in Bangladesch gesprochene Sprache. Ohne dass sie mit dem Internet verbunden war oder speziell auf diese Sprache trainiert worden war, antwortete die künstliche Intelligenz auf einen Prompt in Bengali in der gleichen Sprache. Einige Prompts später konnte sie fließend in Bengali parlieren. Ein weiterer Fall ist die Google-KI AlphaZero, die es durch selbstständiges Training nicht nur in kürzester Zeit zu Meisterschaftsniveau in mehreren Strategiespielen brachte – sie entwickelte auch ganz eigene, innovative Spielzüge.

Strategiesprung im Rollenspiel

Ähnliche Fälle von emergentem Verhalten beobachtet man auch bei OpenAI, dem Unternehmen das ChatGPT entwickelt hat. In einem Beispiel ließ man mehrere KI-Systeme in einer Art Rollenspiel gegeneinander antreten. Um eine Festung zu erobern, musste die eine künstliche Intelligenz ihre Avatare so steuern, dass sie Hindernisse wie Wälle und Mauern überwinden und dabei umherliegende Rampen und Kisten möglichst sinnvoll einsetzen. Die Verteidiger-KI musste wiederum Strategien entwickeln, um diese Angriffe abzuwehren.

Im Laufe von rund 25 Millionen Spieldurchläufen lernten beide KI-Agenten vier grundlegende Strategien – wie vom Forschungsteam erwartet. Doch nach rund 380 Millionen Durchgängen zeigten die KI-Modelle zwei neue Strategien, von denen selbst die Wissenschaftler nicht wussten, dass sie physikalisch überhaupt möglich waren. Zwar sind solche unerwarteten Fähigkeiten künstlicher Intelligenzen im Kontext solcher Rollenspiele oder bei der Bengali-lernenden KI eher unproblematisch und sogar positiv. Doch in anderen Zusammenhängen könnte dies anders sein.

„Wir sprechen von einer Black Box“

Die emergenten Fähigkeiten aktueller KI-Systeme illustrieren ein grundlegendes Problem: Was genau in den künstlichen Intelligenzen vorgeht, wissen auch ihre Entwickler nicht. Je komplexer die Systeme werden, desto intransparenter sind die Mechanismen, durch die selbstlernende künstliche Intelligenzen ihre Fähigkeiten entwickeln. „Wir sprechen hier von einer Black Box“, sagt Pichai. Zwar könnte man die künstlichen Intelligenzen theoretisch um eine Erklärung bitten und sie fragen, wie sie ihre Fähigkeiten entwickelt haben. Aber die Antworten wären angesichts der Neigung der KIs zum Fabulieren weder verlässlich noch notwendigerweise wahr.

Letztlich bedeutet dies, dass die Entwicklung im Grunde nicht kontrollierbar ist. „Wenn KI-Agenten solche unerwarteten Verhaltensweisen zeigen, dann kann das in der Zukunft zu einem Sicherheitsproblem werden, wenn wir sie in komplexeren Umgebungen einsetzen“, sagt Bowen Baker von OpenAI.