Künstliche Intelligenz: Warnungen aus der Branche verdienen Aufmerksamkeit

Ein Mitarbeiter eines führenden KI-Unternehmens hat seine Stelle aufgegeben und öffentlich vor den Gefahren der Entwicklung gewarnt. Er beziffert das Risiko für die Menschheit hoch und sagt, ethische Zurückhaltung spiele im Wettlauf der Anbieter kaum eine Rolle. Ein Untergang der Menschheit ist nicht zu erwarten, die Warnung von Insidern ist aber ernst zu nehmen.

Der Fachmann war auf das Training neuer KI-Systeme spezialisiert und arbeitete bei zwei der grossen Anbieter. Er beschreibt ein Rennen um immer leistungsfähigere Systeme und erwartet Systeme, die Abläufe in kurzer Zeit umwälzen und Zugriff auf Ressourcen erhalten könnten. Nach seiner Aussage teilen weitere Fachleute diese Sorge.

Wie belastbar solche Einschätzungen sind, lässt sich von aussen schwer beurteilen. Der Vergleich mit Bereichen wie der Virusforschung liegt nahe: Auch dort ist unklar, ob die Entwicklung noch beherrscht wird. Hier geht es jedoch nicht um Natur, sondern um Maschinen, die selbst gebaut werden.

Untergangsprognosen sind oft gestellt und nicht eingetroffen; die Erwartung eines Endes der Menschheit überzeugt nicht. Dass Personen mit Einblick in die Systeme warnen, ist dennoch Anlass, sich Gedanken zu machen.