Risikofaktor KI: Welche Szenarien befürchten Sicherheitsexperten?

Künstliche Intelligenzen bieten zahlreiche Vorteile. Doch die davon ausgehenden Risiken dürfen nicht unbeachtet bleiben. Das zeigt eine aktuelle Analyse.

Das Hauptrisiko besteht in Form einer Verdrängung des Menschen durch KI. So fassen es Sicherheitsexperten in einer Erklärung zusammen, für die derzeit Unterschriften gesammelt werden. Sie fordern eine „globale Priorität“ für die Reduzierung der von den KI ausgehenden Risiken. Viele hochrangige IT-Wissenschaftler haben die Erklärung bereits gezeichnet. Dazu gehört auch der Programmierer Sam Altman, der auch an der Entwicklung von ChatGBT maßgeblich beteiligt war. Weitere Beispiele aus der Zeichnerliste sind David Silver und Marian Rogers Croak (Google), Jaan Tallinn (Skype), Audrey Tang (National Institute of Cyber Security in Taiwan) und Eric Horvitz (Microsoft) sowie zahlreiche IT-Professoren und IT-Professorinnen namhafter Universitäten (Stanford University, MIT, Cambridge University).

Welche Risiken sehen die Wissenschaftler auf Seiten der KI?

Eine ausführliche Darstellung der von den KI ausgehenden Risiken wurde vom Center für AI Safety veröffentlicht. Dabei handelt es sich um eine gemeinnützige Organisation mit Sitz in Kalifornien. Ihr einziges Ziel besteht darin, die KI-generierten Gefahren zu minimieren. Dort ist wörtlich von einer „bemerkenswerten Vernachlässigung“ dieser Risiken die Rede. Vor allem das Tempo der Erweiterung der Fähigkeiten der künstlichen Intelligenzen spielt momentan in der Gesellschaft und der Politik ihrer Meinung nach noch eine zu geringe Rolle. Dabei können KI durchaus auf verschiedene Weise missbraucht und so zu einem „existenziellen Risiko“ für die Menschheit werden. Als Beispiele benennt die Risikoanalyse KI-gesteuerte Waffensysteme sowie die Entwicklung biologischer und chemischer Kampfstoffe unter Missbrauch der Systeme, die derzeit im Bereich der medizinischen und chemischen Forschung zu zivilen Zwecken im Einsatz sind.

Desinformation und Täuschung sind erhebliche KI-Risiken

Mit den KI für die Text- und Bilderstellung stehen immense Potenziale zur Verfügung, mit denen eine Flut von Falschinformationen blitzschnell generiert und verbreitet werden kann. Damit ist wiederum die gezielte Beeinflussung größerer Gruppen (beispielsweise im Vorfeld von Wahlen oder zum Zwecke der Radikalisierung) möglich. Dabei spielt das Mittel der Täuschung eine wichtige Rolle. Doch in der Täuschung liegt ein weiteres Risiko. Die Nutzer/-innen der KI können sich in der Beurteilung der erlangten Fähigkeiten der künstlichen Intelligenzen täuschen. Damit wäre das Risiko eines Verlustes der Kontrolle über die Aktionen der KI verbunden. Die IT-Sicherheitsexperten vergleichen ein dadurch mögliches Szenario mit dem Inhalt des von Disney und Pixar 2008 herausgebrachten Films „WALL-E – Der Letzte räumt die Erde auf“, in dem sich die vom Menschen geschaffenen Müllroboter verselbstständigen und sich statt der Müllbeseitigung ausschließlich der Suche nach Ersatzteilen zur Erhaltung der eigenen Funktionsfähigkeit widmen.

Missbrauchte KI-Systeme können gesellschaftliche Werte gefährden

Eine weitere Gefahr durch die KI ist die Beeinflussung des menschlichen Kaufverhaltens. Inhalte werden so generiert, dass sie ausschließlich auf eine Steigerung der Klickraten für bestimmte Inhalte abzielen. Noch kritischer sehen die Sicherheitsexperten die KI-generierten Kaufempfehlungen. Sie sollen Umsatzerfolge begünstigen, anstatt die tatsächlichen Wünsche und Bedürfnisse der Nutzer/-innen zu befriedigen. Hier spielen die Festlegungen der Ziele und das darauf abgestimmte Training der künstlichen Intelligenzen eine wichtige Rolle. Zudem muss verhindert werden, dass die KI die von den Programmierern hinterlegten Ziele durch eigene Ziele ersetzen. Kleinteilige Ziele, die von verschiedenen Stellen überwacht werden, können zu Verzerrungen führen, die ein Erreichen des hauptsächlichen Ziels unmöglich machen. Zudem fehlt den maschinellen Systemen die Fähigkeit, emotional gesteuerte Entscheidungen und „Gewissensentscheidungen“ zu treffen. Auch das trägt zum Risiko eines Verfalls der menschlichen und gesellschaftlichen Werte bei.

KI bergen die Gefahr von Abhängigkeiten und Machtergreifung

Je schlauer künstliche Intelligenzen werden, desto größer ist das Risiko, dass sie die Macht an sich reißen. Bis jetzt konnte der Mensch die Maschinen vollständig kontrollieren. Bei selbstständig lernenden KI besteht die Gefahr, dass sich das bisherige Verhältnis umkehrt und der Mensch von den KI-gesteuerten Maschinen abhängig wird. Zudem droht das Risiko einer Schwächung der menschlichen Fähigkeiten. Stehen die Ki jedermann zur Verfügung, reduzieren sich beim Menschen die Anreize, eigenes Wissen zu erwerben. Je weniger Wissen der Mensch hat, desto geringer ist seine Chance, die Maschinen unter Kontrolle zu behalten. Das heißt, die Menschheit gibt mit einer unkontrollierten und unregulierten Entwicklung und Nutzung der künstlichen Intelligenzen einen Teil der Kontrolle über ihre eigene Zukunft ab. Im schlimmsten Fall droht dabei eine Ausrottung der Menschheit zu Gunsten einer reinen Maschinenwelt.

Quelle: Risikoanalyse des Center for AI Safety (CAIS)

About Author