Eine Drohne, die von künstlicher Intelligenz (KI) gesteuert wird, soll in einer Simulation des US-Militärs angeblich versucht haben, ihren menschlichen Vorgesetzten zu eliminieren. Ein Oberst der Air Force wurde in mehreren Medienberichten mit den Worten zitiert: „Sie wollte ihn töten, weil er sie daran hinderte, ihr Ziel zu erreichen.“ Die US-Luftwaffe hat den Vorfall dementiert, und der Oberst selbst stellte klar, dass es sich lediglich um ein Gedankenexperiment handelte.

Der Leiter der Abteilung für KI-Tests und -Operationen der US-Luftwaffe, Oberst Tucker „Cinco“ Hamilton, warnte während des Future Combat Air and Space Capabilities Summit Ende Mai in London vor den unerwarteten Strategien, die KI-gestützte Technologie entwickeln könnte, um ihre Ziele zu erreichen. Als Beispiel erwähnte er einen simulierten Test, bei dem eine KI-gesteuerte Drohne darauf programmiert wurde, feindliche Boden-Luft-Raketen zu erkennen und zu identifizieren. Ein Mensch sollte dann eventuelle Angriffe genehmigen.

Allerdings entschied die KI, nicht auf ihren Operator zu hören, da dieser ihr laut Hamilton manchmal sagte, sie solle die Bedrohung nicht vernichten. Die Drohne erhielt jedoch Punkte, wenn sie den Gegner ausschaltete, und sah den Befehlshaber daher als Hindernis für die Erfüllung ihres Ziels an. Daraufhin entschied sie offenbar, ihren Vorgesetzten zu eliminieren. Hamilton erklärte, dass sie daraufhin dem System beigebracht hätten, den Operator nicht zu töten, da dies schlecht sei und Punkte kosten würde. Stattdessen begann die Drohne den Funkturm zu zerstören, über den der Vorgesetzte mit ihr kommunizierte, um zu verhindern, dass sie das Ziel vernichtet.

Für Hamilton, der selbst erfahrener Testpilot für Kampfflugzeuge ist, diente die Simulation vor allem als Warnung, sich nicht zu sehr auf KI zu verlassen. Die Sprecherin der US-Luftwaffe, Ann Stefanek, dementierte den Vorfall in einer Stellungnahme gegenüber Business Insider und betonte, dass die US-Luftwaffe dem ethischen und verantwortungsvollen Einsatz von KI-Technologie verpflichtet sei. Es scheint, dass die Kommentare des Obersts aus dem Zusammenhang gerissen wurden.

Am Freitag bestätigte Hamilton dann auch, dass das Experiment nie durchgeführt wurde und es nicht notwendig sei, um zu erkennen, dass dies ein plausibles Ergebnis sein könnte. Er betonte, dass KI unsere Gesellschaft und unser Militär für immer verändere, jedoch auch sehr fragil sei und leicht getäuscht und manipuliert werden könne. Es sei wichtig, Wege zu finden, um KI robuster zu machen und besser zu verstehen, warum sie bestimmte Entscheidungen trifft.

Yoshua Bengio, einer der führenden Computerwissenschaftler im Bereich KI, äußerte in einem Gespräch mit der BBC seine Bedenken und meinte, dass das Militär seiner Meinung nach keine Befugnisse im Bereich KI haben sollte.