Arbeitsgruppe von Wissenschaftler:innen empfiehlt der Europäischen Kommission einen umsichtigen und ethischen Einsatz von Künstlicher Intelligenz im Europäischen Krisenmanagement

Eine Gruppe renommierter Wissenschaftler:innen legte gestern der Europäischen Kommission einen Bericht über die Rolle Künstlicher Intelligenz im Notfall- und Krisenmanagement vor. Die Gruppe wurde vom Academy Network SAPEA nominiert. Ihr gehört unter anderem Andrej Zwitter, aktuell Professor für Political Theory and Governance an der Universität Groningen, an. Mit Februar 2026 wechselt er an die Universität Klagenfurt, wo er die Professur für Humanwissenschaft und Digitalisierung und die Leitung des aktuellen Digital Age Research Centers inne haben wird. Das Papier wurde gestern Maciej Popowski, Generaldirektor der GD ECHO (European Civil Protection and Humanitarian Aid Operations) vorgelegt.

Mit dem „Scientific Advice Mechanism“ stellen die europäischen Institutionen sicher, dass ihnen regelmäßige unabhängige wissenschaftliche Erkenntnisse und daraus resultierende politische Empfehlungen zur Verfügung stehen. Dies betrifft auch die Ausrichtung der EU-Politik in Bereichen wie dem Einsatz von Künstlicher Intelligenz im Notfall- und Krisenmanagement, wo eine sektorübergreifende Koordinierung in ganz Europa unerlässlich ist.

Künstliche Intelligenz bietet in bestimmten Situationen ein erhebliches Potenzial zur Verbesserung des Notfall- und Krisenmanagements. Aus sozio-technischer Sicht kommt der Bericht zu dem Schluss, dass KI-Tools gewährleisten müssen, dass Menschenwürde, Transparenz und Verantwortung gewahrt werden und gleichzeitig die europäischen Standards für Sicherheit und Ethik erfüllt werden müssen. Ein sorgfältiges Monitoring ist erforderlich, um die Einhaltung der rechtlichen Rahmenbedingungen sicherzustellen, algorithmische Verzerrungen zu vermeiden und eine sinnvolle, menschliche Kontrolle der Künstlichen Intelligenz aufrechtzuerhalten.

Es gibt Hinweise darauf, dass Künstliche Intelligenz bei standardisierten, datenintensiven Aufgaben, wie sie bei Katastrophen wie Überschwemmungen, Waldbränden und Dürren typisch sind, die besten Ergebnisse liefert. Sie eignet sich hervorragend für repetitive Überwachungsaufgaben, die für Frühwarnsysteme wichtig sind. Sie kann die Inhalte von Sozialen Medien verarbeiten und Schäden in einem Umfang und einer Geschwindigkeit bewerten, die für menschliche Analyst:innen unerreichbar sind. Künstliche Intelligenz ist jedoch nicht geeignet, um sehr heterogene Kontexte oder neue Situationen zu interpretieren, für die geeignete Trainingsdaten fehlen. Darüber hinaus sollen moralisch schwierige Entscheidungen und Kompromisse nicht an ein KI-Tool ausgelagert werden.

Die Entwicklung und Umsetzung von Benchmarks, praktischen Leitlinien, Verhaltenskodizes und Testumgebungen für KI im Krisenmanagement würde es ermöglichen, KI unter Aufsicht und mit ethischer Kontrolle zu testen, bevor eine volle Ausrollung erfolgt.

Ein neues europäisches Rahmenwerk zur Datenvorsorge im Krisenmanagement mit gemeinsamen Standards und vereinbarten Austauschprotokollen könnte helfen, Datenlücken zu schließen und die Harmonisierung von Daten zwischen den Mitgliedstaaten zu fördern. Dies würde die Entwicklung EU-weiter KI für relevante europäische Einsatzkontexte ermöglichen und zur Bereitstellung besserer Krisenmanagement-Werkzeuge der EU beitragen.

„Krisen machen nicht an Grenzen Halt, aber Daten werden auf nationaler Ebene verwaltet, was zu unterschiedlichen Standards führt. Diese Vielfalt kann zu einer Fragmentierung der Datenlandschaft führen, die Künstliche Intelligenz nicht ohne Weiteres überbrücken kann. Datenvorsorge ist ein wichtiger Schritt zur Verbindung dieser Datensysteme, die die notwendige Grundlage für KI bilden, um eine wirksame Entscheidungsunterstützung im europäischen Krisenmanagement zu bieten“, erklärt Tina Comes, Vorsitzende der SAPEA-Arbeitsgruppe für Künstliche Intelligenz im Notfall- und Krisenmanagement. Der Gruppe gehören darüber hinaus an: Verónica Bolón-Canedo (Universidade da Coruña), Joachim Denzler (Friedrich Schiller University Jena), Nick Jennings (Loughborough University), Thomas Kox (Weizenbaum Institute), Markus Reichstein (Max-Planck Institute for Biogeochemistry & Friedrich Schiller University Jena), Christian Reuter (TU Darmstadt) und Andrej Zwitter (University of Groningen, ab Februar 2026: Universität Klagenfurt).