Eine Gruppe renommierter Forscher und führender Persönlichkeiten auf dem Gebiet der künstlichen Intelligenz (KI) brachte in 22 Worten ihre Sorge um die Zukunft der Menschheit zum Ausdruck. Die Aussage ist kurz, aber sehr klar: „Die Reduzierung des Risikos des KI-Aussterbens sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein.“ Die Erklärung wurde von Demis Hassabis, CEO von Google DeepMind, Sam Altman, CEO von OpenAI, sowie Geoffrey Hinton und Yoshua Bengio, beide Gewinner des Turing Award für ihre Arbeit im Bereich KI, unterzeichnet.
Zentrum für KI-Sicherheit, eine gemeinnützige Organisation mit Sitz in San Francisco, veröffentlichte die Erklärung zur gemeinsamen Unterstützung vieler wichtiger Akteure am im Bereich KI. Die Erklärung bietet keine konkreten Lösungen, präsentiert jedoch eine einheitliche Sicht auf die Notwendigkeit einer stärkeren Fokussierung auf die KI-Sicherheit.
KI als globale Bedrohung
Dies ist nicht das erste Mal, dass diese Experten den Mut fassen, ihre Besorgnis zum Ausdruck zu bringen. Einige von ihnen waren dieses Jahr Unterzeichner eines offenen Briefes, in dem sie eine sechsmonatige „Pause“ der Entwicklung forderten KI. Der Brief stieß auf Kritik: Einige sagten, er übertreibe die von der KI ausgehenden Risiken, während andere zwar mit den Risiken einverstanden seien, aber nicht mit der Art und Weise, wie man ihnen begegnet.
Skeptiker bezweifeln diese Vorhersagen und weisen darauf hin, dass KI-Systeme selbst relativ einfache Aufgaben wie das Autofahren nicht bewältigen können. Trotz jahrelanger Bemühungen und Milliardeninvestitionen in diesem Forschungsbereich sind vollständig selbstfahrende Autos immer noch weit von der Realität entfernt. Wenn die KI nicht einmal diese eine Aufgabe bewältigen kann, welche Chance hat sie dann, in den kommenden Jahren alle anderen menschlichen Errungenschaften zu erreichen? KI als globale Bedrohung?!
Allerdings sind die Befürworter und KI-Skeptiker stimmen darin überein, dass KI-Systeme bereits einige Bedrohungen darstellen – von der Ermöglichung einer Massenüberwachung über die Unterstützung von „Predictive Policing“-Algorithmen bis hin zur Erzeugung von Desinformation und Falschinformationen.
„Selbst in der KI-Community gibt es ein weit verbreitetes Missverständnis, dass dies der Fall ist nur ein paar „schwarze Ansichten“," ist für Die New York Times sagte Dan Hendrycks, CEO KI-Sicherheitszentren. „Aber in Wirklichkeit würden viele Menschen privat Bedenken zu diesen Dingen äußern.“
Die KI-Sicherheitsdebatte ist komplex und kontrovers, die Details oft schwer zu verstehen. Die Grundannahme ist, dass KI-Systeme Sicherheitsmechanismen schnell weiterentwickeln und übertreffen könnten. Als Beispiel wird oft der schnelle Fortschritt großer Sprachmodelle als Hinweis auf den möglichen zukünftigen Erwerb von Intelligenz angeführt. Experten warnen, dass es mit einem gewissen Maß an Raffinesse dazu kommen könnte unmöglich, ihren Betrieb zu kontrollieren.
Eine Frage der Sicherheit KI ist besonders wichtig für Europa, das ethische Leitlinien für zuverlässige KI in seiner Politik und Gesetzgebung verankert hat. In Europa haben wir bereits viele Beispiele dafür gesehen, dass KI-Systeme auf eine Weise eingesetzt werden, die im Widerspruch zu unseren Werten steht – etwa durch den Einsatz automatisierter Gesichtserkennungsalgorithmen im öffentlichen Raum. Die Frage ist, ob die Regelung effektiv genug ist oder ob wir über strengere Maßnahmen nachdenken müssen, wie zum Beispiel die vorübergehende Aussetzung der Entwicklung von KI.
Dies ist eine weitere Erinnerung daran, dass wir vorsichtig sein müssen, denn „Der Weg zur Hölle ist mit guten Vorsätzen gepflastert". Wir müssen bedenken, dass Technologie nicht per se gut oder schlecht ist – es kommt darauf an, wie wir sie nutzen. Im Moment scheint KI keine Bedrohung für uns zu sein, aber es ist wichtig, wachsam zu bleiben und sich auf alle Eventualitäten vorzubereiten. Schließlich ist es besser, auf Nummer sicher zu gehen.
