Nach Warnungen vor der Super-KI und dem Ende der Menschheit: Was brauchen wir jetzt im Umgang mit Künstlicher Intelligenz? – ein Interview zum Thema KI, Sicherheit und Verantwortung
Die jüngsten Nachrichten zur weiteren Entwicklung Künstlicher Intelligenz klingen beunruhigend, viele Menschen machen sich Sorgen: KI könnte schon in absehbarer Zeit die Menschheit auslöschen, so lautet die Dystopie.
Das Unternehmen OpenAI hat sogar – angeblich wegen Sicherheitsbedenken – seinen geplanten Börsengang ausgesetzt und weitere prominente AI-Unternehmen warnen. Oder ist das alles Marketing? Und: Was ist der Ausweg?
Prof. Axel Klarmann, Prorektor Bildung der HTWK Leipzig und Professor für Softwareengineering und IT-Architecture Management gibt Antworten.
FP: Was bedeuten all diese Szenarien? Können Sie uns die Angst nehmen?
AK: Neueste Sprachmodelle planen und entwickeln nicht mehr nur, sondern führen mit entsprechenden Frameworks inzwischen auch autonom Handlungen aus. Solche Systeme schreiben selbst Software, führen diese aus und kontrollieren deren Funktionsfähigkeit, weil die Entwickler sie dazu befähigt haben. Das sind die sogenannten KI-Agenten („Agentic AI“).
Der Mensch ist sozusagen nur noch ihre Führungskraft und führt durch entsprechende Zieldefinition und Rechtemanagement die Ausführung, während die Agenten entsprechende Pläne entwickeln, Aktionen ausführen und die Ergebnisse auswerten und Pläne adaptieren können.
In Europa ist vor zwei Jahren der „AI-Act“, die Verordnung zum Umgang mit Künstlicher Intelligenz, in Kraft getreten. Das reguliert in Europa den Umgang mit KI-Praktiken – im Gegensatz zu den USA zum Beispiel.
Der AI Act ist an dieser Stelle gut und sehr risikoavers gestaltet. Das schützt uns hier bei entsprechender Beachtung bzw. gibt den rechtlichen Rahmen für Firmen und Dienste vor.
FP: Aber wie konnte es zu solchen Sicherheitsvorfällen und damit verstörenden Nachrichten kommen?
AK: Das hat mich nicht überrascht. Die ganze Entwicklung war ein gradueller Prozess, schon allein durch die stetig zunehmende Rechenleistung, die Integration weiteren Datenquellen und die Befähigung der Ausführung von Aktionen inklusive Rückspielung von Ergebnissen der Ausführung in entsprechenden Frameworks. Das ist nicht plötzlich passiert.
Dennoch: Da steckt keine (böse) Absicht der Maschine dahinter. Maschinen selbst haben keine Absichten, weil sie kein Bewusstsein ihrer selbst haben. Sie können nicht im gleichen Sinne reflektieren wie wir Menschen, auch wenn sie in Teilen die eigene Laufzeitumgebung anhand von Aktionsergebnissen adaptieren können, was die Nachvollziehbarkeit, gerade durch den Einfluss probabilistischer Entscheidungen, erschwert bis unmöglich macht.
Softwaresysteme wenden am Ende gelernte Regeln oder Handlungsmuster an. Zunächst einmal verhalten sie sich – moralisch betrachtet – als neutral und emotionslos. Sie arbeiten mit Statistik und Wahrscheinlichkeiten. Entscheidend ist, was als Aufgabe formuliert wurde und mit welcher Handlungskompetenz bzw. Rechten ein solches System ausgestattet wurde. Nehmen Sie als Beispiel den Umgang z. B. mit Daten von Kranken- oder Pflegeversicherungen, die man von der KI durchforsten lässt. Soll sie nach reiner Effizienz bzw. rein materiellen Gesichtspunkten Entscheidungen vorschlagen? Und müssen wir solche Entscheidungsvorschläge zwingend umsetzen bzw. die Entscheidungskompetenz an diese Systeme übertragen und damit den Menschen aus dem Loop nehmen?
Deswegen verstehe ich solche Szenarien eher als Weckruf an uns selbst: Der Mensch muss zum Schluss immer entscheiden, gerade darüber ob und wie er ein agentisches System einsetzt. Der ethische Rahmen, der „moralische Kompass“ ist essenziell – und unsere Aufgabe. Wir alle müssen an unserem Platz entscheiden, was wir nutzen und wofür. Wir müssen unsere Verantwortung tragen – und nicht entscheiden lassen! Systeme brauchen Kontrolle. Dann ist die Entwicklung aus meiner Sicht nicht dystopisch.
FP: Glauben Sie, dass technische Entwicklung tatsächlich verzögert werden kann?
AK: Es wird immer gemacht werden, was technisch möglich ist. Aber: Wir als Menschen sind aufgefordert, den ethisch-rechtlichen Rahmen vorzugeben. Die EU hat das eben mit dem AI-Act schon gut gemacht.
Und auf die HTWK Leipzig bezogen: Unsere Studierenden können sich sicher sein, dass ihre Arbeiten nicht von einer KI bewertet werden, sondern von ihrem Professor oder ihrer Professorin. Damit basiert das Ergebnis nicht auf einer Bewertung durch ein agentisches System, mit typischen Problemen wie Halluzinationen, und ein Mensch steht für das Prüfungsergebnis gerade.
FP: Was macht Ihnen Hoffnung?
AK: Die Gesellschaft muss und kann aushandeln, was sie möchte, was ihre Ziele, Werte, Normen sind. Wem überlasse ich die Handlung oder behalte ich die Handlungskompetenz? Also was wird mit den bestehenden Möglichkeiten gemacht?
Effizienzvorteile müssen immer gegen gesellschaftliche Nachteile abgewogen werden. Der moralische Kompass sitzt vor dem Rechner! Wir dürfen unsere Entscheidungs- und Handlungskompetenz nur in verantwortbaren Maßen an Maschinen abgeben.
Es bleibt die individuelle Entscheidung und ethisch-moralische Verantwortung, die der Mensch tragen muss. Nur Menschen können Rechenschaft ablegen. Und in der Regel entscheiden Menschen ziemlich clever. Ich habe keine Angst.
