Bevölkerungsschutz 2030: Chancen und Risiken der Künstlichen Intelligenz

Der Sammelbegriff Künstliche Intelligenz (KI) bezieht sich heute hauptsächlich auf den Teilbereich des maschinellen Lernens. Dadurch können aus statistischen Merkmalen von Datensätzen Entscheidungsregeln abgeleitet werden. Auch im Bevölkerungsschutz kann der Einsatz solcher Formen von künstlicher Intelligenz sinnvoll sein, um so die Früherkennung von Risiken zu verbessern.

Künstliche Intelligenz (KI) ist dank zunehmender Rechenleistung, Datenverfügbarkeit und skalierbaren Algorithmen zu einer Befähigungstechnologie mit Anwendungsmöglichkeiten in vielen verschiedenen Bereichen von Gesellschaft und Wirtschaft geworden. Beim Einsatz von KI im Bevölkerungsschutz gilt es, dessen besonderen Erfordernisse zu berücksichtigen

Der Bevölkerungsschutz befasst sich mit Naturgefahren wie Wirbelstürmen, Erdbeben oder Überschwemmungen. Für solche Ereignisse kann KI zu einer schnelleren Modellierung, zur Erstellung von Gefahrenkarten oder zur Entdeckung von Frühwarnsignalen beitragen. Die International Telecommunication Union (ITU) der Vereinten Nationen in Genf hat dafür unter anderem die Fokusgruppe AI for Natural Disaster Management (KI für das Management von Naturkatastrophen) aufgebaut.

KI eröffnet neue Perspektiven

Infrarot-Aufnahme eines Waldbrandes durch eine Drohne

Mit Blick auf die verheerenden Waldbrände in Kalifornien, Australien oder Griechenland ist aktuell beispielsweise die Frage nach den Möglichkeiten von KI zur Bekämpfung dieser Ereignisse von grossem Interesse. Bei Waldbränden kann die KI-basierte Bildanalyse von Satelliten, unbemannten Fluggeräten oder Webcams dabei helfen, Brände automatisch zu entdecken und so die Reaktionszeit zu verkürzen sowie die Chance einer Brandlöschung zu erhöhen. Darüber hinaus stützen sich Feuerwehren zunehmend auf Modellierungstools, um die Entwicklung von Waldbränden basierend auf Topografie, Wetter und brennbarem Material vorherzusagen. Geplante Feuer können so kontrolliert und ungeplante Brände durch Schneisen, die von brennbarem Material befreit wurden, eingedämmt werden. In Kalifornien entstand im Rahmen des von der National Science Foundation und dem San Diego Supercomputer Center gegründeten WIFIRE-Projekts etwa die Webplattform Firemap für die datenbasierte Simulation, Vorhersage und Visualisierung der Verläufe von Waldbränden in Echtzeit. Diese wird von der Feuerwehr von Los Angeles und über hundert lokalen Rettungsdiensten genutzt. Zu den weiteren KI-Anwendungen gehören die Klassifizierung von Bodenbedeckung oder die Vorhersage von angesammeltem Brennmaterial und gefährlichen Wetterlagen.

Ein Beispiel für die Anwendung von KI im Bevölkerungsschutz im schweizerischen Kontext ist die Lawinenforschung der Eidgenössischen Forschungsanstalt für Wald, Schnee und Landschaft (WSL). Diese verwendet Sensordaten über das Wetter, die Schneeverhältnisse und Lawinen, um KI-Modelle zu trainieren, welche die räumliche und zeitliche Auflösung der Vorhersage von Lawinengefahren verbessern können. Auch für Murgänge arbeiten Forschende der ETH und der WSL an KI-basierten Frühwarnsystemen.

Robustheit und Sicherheit von KI

KI-Modelle sind jedoch kein Allheilmittel. Sie bleiben stark begrenzt wenn es darum geht, abstrakte Konzepte aus einer kleinen Anzahl Beispiele zu erlernen, Kausalität zu verstehen oder Gelerntes auf andere Bereiche zu übertragen. Der Einsatz von KI lohnt sich meist dort, wo grosse Datenmengen vorhanden sind. Für Gefahrenszenarien mit geringer Wahrscheinlichkeit und grossen Auswirkungen ist dies jedoch oft nicht der Fall. Im Bevölkerungsschutz geht es bei Entscheidungen zudem häufig buchstäblich um Leben oder Tod. Es gilt also, bei der Übertragung von Entscheidungskompetenzen auf KI-Modelle Vorsicht walten zu lassen. Denn deren Robustheit und Sicherheit, kann oft nur ungenügend garantiert werden.

KI-Modelle sind nicht nur anfällig gegenüber traditionellen Softwareattacken, sondern bringen auch eine neue Klasse von Vulnerabilitäten mit sich. So gibt es etwa im Bereich der Bilderkennung viele anschauliche Beispiele von Fehlklassifizierungen aufgrund zufälliger Hintergrundkorrelationen in den Daten, ungewöhnlicher Blickwinkel oder Manipulationen von untergeordneten Elementen, die Menschen nur unbewusst wahrnehmen. Im Bevölkerungsschutz sollte KI daher bis auf Weiteres primär zur Entscheidungsunterstützung genutzt werden, nicht aber, um autonom selbst Entscheidungen zu treffen.

Zurzeit werden weniger als ein Prozent der KI-Forschung auf deren Robustheit und Sicherheit fokussiert. Deshalb ist es wichtig, dass auch weiterhin Grundlagenforschung zu KI finanziert wird, um diese zu testen und zu zertifizieren mit dem Ziel, Informationsasymmetrien bei der Anschaffung von KI-Modellen zu verringern. Nur so kann sichergestellt werden, dass KI bis 2030 breit und sicher in Wirtschaft und Gesellschaft verwendet werden kann, ohne dass es in Bereichen wie Transport, Medizin oder kritischen Infrastrukturen vermehrt zu KI-Unfällen oder zu Angriffen auf KI-Systeme kommt.

Das Center for Security Studies an der ETH Zürich hat im Trendreport «Bevölkerungsschutz 2030» (Englisch) zwölf Entwicklungen analysiert, aus welchen sich neue Chancen und Gefahren für den Bevölkerungsschutz ergeben könnten. Künstliche Intelligenz ist eine davon.