Nachrichten

Karlsruhe/Taufkirchen. Ein verantwortungsvoller Einsatz von Künstlicher Intelligenz (KI) in militärischen Anwendungen ist möglich: Zu diesem Schluss kommt ein englischsprachiges Grundlagendokument (White Paper), in dem das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung (Fraunhofer IOSB) und der Sensorlösungsanbieter Hensoldt gemeinsam drei Anwendungsfälle im Bereich der Aufklärung und Überwachung untersucht haben. Entscheidend dabei sei, die Grundsätze ethischer KI in Systemdesign, -entwicklung und -betrieb konsequent zu berücksichtigen, so die Experten.

Die von Fraunhofer IOSB und Hensoldt gemeinsam veröffentlichte Studie unter dem Titel „Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance“ („Ethische Überlegungen zum militärischen Einsatz von Künstlicher Intelligenz in der visuellen Aufklärungsarbeit“) analysiert, wie wichtige ethische Prinzipien – Fairness, Nachvollziehbarkeit, Transparenz und Verantwortung – in der militärischen Nutzung von KI umgesetzt werden können.

Ein zentraler Beitrag der Studie liegt außerdem darin, europäische und deutsche Werte in die Diskussion ethischer Prinzipien für militärische KI-Anwendungen einzubringen.

KI-Systeme „zuverlässig, erklärbar und kontrollierbar“ gestalten

Die ethischen Prinzipien, auch bekannt als FATE-Richtlinien (Fairness, Accountability, Transparency und Ethics/Fairness, Rechenschaftspflicht, Transparenz und Ethik) haben Fraunhofer IOSB und Hensoldt bei ihren Betrachtungen auf drei praxisnahe Fälle angewandt. Damit sollte sichergestellt werden, dass KI-Systeme – so die Forscher – „zuverlässig, erklärbar und kontrollierbar“ sind und bleiben.

In einer Fraunhofer-Pressemitteilung heißt es dazu: „Fairness verhindert die unbeabsichtigte Voreingenommenheit von KI-Verfahren, Nachvollziehbarkeit sorgt für verständliche Entscheidungen, Transparenz ermöglicht eine überprüfbare Entscheidungsfindung und Verantwortung stellt sicher, dass der Mensch stets die letzte Instanz bleibt.“

Studie untersucht drei militärische Anwendungsfälle

Bei der Studie von Fraunhofer IOSB und Hensoldt wurden insgesamt drei militärische Einsatzszenarien zugrunde gelegt. Diese sind die maritime Überwachung, der Schutz militärischer Feldlager sowie die urbane Aufklärung.

Maritime Überwachung: KI hilft bei der Klassifikation von Schiffen und stellt Entscheidungsgrundlagen transparent dar, um Fehleinschätzungen zu vermeiden.

Schutz militärischer Feldlager: Automatisierte Bedrohungsanalyse durch Sensordaten unterstützt den Schutz von Sicherheitszonen und identifiziert potenzielle Gefahren frühzeitig.

Urbane Aufklärung: KI-gestützte Systeme bewerten Bedrohungen in komplexen Umgebungen unter Berücksichtigung von Einsatzregeln und dem Schutz von Zivilisten.

Moderne Technologien verantwortungsvoll gestaltet und nutzen

Das White Paper zeige insgesamt, dass KI in militärischen Anwendungen verantwortungsvoll eingesetzt werden könne, wenn ethische Grundsätze konsequent berücksichtigt würden, so die Autoren der Studie. Durch eine transparente Entscheidungsfindung, klare Kontrollmechanismen und erklärbare KI bleibe die menschliche Kontrolle des Systems stets gewährleistet. Die Untersuchung unterstreiche die Bedeutung eines ausgewogenen Verhältnisses zwischen technologischer Leistungsfähigkeit und ethischer Vertretbarkeit.

Das Fraunhofer IOSB hat in dieses Forschungsvorhaben – so wird abschließend in der Pressemitteilung ausgeführt – „seine langjährige Expertise in erklärbarer KI, automatisierter Sensordatenverarbeitung, Assistenzsystemen und sicherheitskritischen Anwendungen“ eingebracht. Die Ergebnisse zeigten Wege auf, wie moderne Technologien verantwortungsvoll gestaltet werden könne, um die Entscheidungsunterstützung in militärischen Szenarien zu verbessern, ohne dabei ethische Grundsätze zu vernachlässigen.

Michael Teutsch, „AI Strategist & Lead“ bei Hensoldt, sagte zu dem Gemeinschaftsprojekt: „Unsere Untersuchung stellt einen wichtigen Schritt in der Diskussion um den verantwortungsvollen Umgang mit Künstlicher Intelligenz/KI in der komplexen und dynamischen Landschaft militärischer Szenarien dar. Sie zeigt, wie wir als Unternehmen dazu beitragen können, technologische Fortschritte mit ethischen Standards in Einklang zu bringen und dabei ein Gleichgewicht zwischen den Vorteilen der KI und der Einhaltung moralischer sowie rechtlicher Vorgaben zu finden.“

Das White Paper von Fraunhofer IOSB und Hensoldt – ein Diskussionsbeitrag

Die englischsprachige Veröffentlichung „Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance“ („Ethische Überlegungen zum militärischen Einsatz von Künstlicher Intelligenz in der visuellen Aufklärungsarbeit“) des Fraunhofer-Instituts für Optronik, Systemtechnik und Bildauswertung IOSB in Zusammenarbeit mit dem Unternehmen Hensoldt haben wir für Sie in unserem Servicebereich „bundeswehr-journal (Bibliothek)“ beim Dienstleister Yumpu-Publishing eingestellt. Sie können dort den Inhalt ansehen und ausdrucken oder die Datei herunterladen. Über die ESC-Taste in Yumpu kommen Sie hierhin zurück. Zum White Paper:

Kompakt                           

Die Fraunhofer-Gesellschaft, die ihre Zentrale in München hat, ist die weltweit führende Organisation für anwendungsorientierte Forschung. Unter ihrem Dach arbeiten 76 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland.

Eines davon ist das Fraunhofer-Institut für Optronik, Systemtechnik und Bildauswertung IOSB mit mehr als 800 Beschäftigten in Karlsruhe, Ettlingen, Ilmenau, Lemgo, Berlin, Görlitz, Oberkochen, Rostock und Peking.

Zu den IOSB-Schwerpunkten zählen unter anderem das industrielle „Internet der Dinge“, Informationsmanagement, bildgebende Sensoren und die automatisierte Auswertung der gewonnenen Daten, die Entwicklung von sogenannten Entscheidungsunterstützungssystemen und (teil-)autonomen Systemen sowie die Nutzbarmachung Künstlicher Intelligenz/KI in praktischen Anwendungen.

Besuchen Sie uns auf https://twitter.com/bw_journal

Zu unserem Bildmaterial:
1. Symboldarstellung „KI-Chip“ aus dem Bildangebot von Pixabay.
(Bild: Frank Rietsch /unter Pixabay License = freie kommerzielle Nutzung, kein Bildnachweis erforderlich; grafische Bearbeitung: mediakompakt)

2. Titel der Forschungsarbeit „Ethical Considerations for the Military Use of Artificial Intelligence in Visual Reconnaissance“.
(Bild: Fraunhofer IOSB; grafische Bearbeitung: mediakompakt)

Artikel ausdrucken