Hamburg. Wer mit künstlicher Intelligenz (KI) zusammenarbeitet, muss ihre Empfehlungen verstehen, ihre Grenzen erkennen und selbst urteilsfähig bleiben. Wie sich diese Zusammenarbeit lernen und lehren lässt, erprobten rund 30 Teilnehmende aus Wissenschaft und Streitkräften am 22. und 23. Oktober 2026 an der Helmut-Schmidt-Universität/Universität der Bundeswehr Hamburg (HSU/UniBw H). Der Pilotworkshop zum Human-AI-Teaming (HAIT) eröffnete das Veranstaltungsprogramm des Defence Technology Campus (DefTec Campus), einer Kooperation von HSU/UniBw H, dem Fraunhofer-Institut für Kommunikation, Informationsverarbeitung und Ergonomie FKIE und der Führungsakademie der Bundeswehr (FüAkBw).

Human-AI-Training für Führung und Entscheidungsfindung
Den Workshop richtete das AI Ethics Research Hub der HSU/UniBw H gemeinsam mit den beiden Campuspartnern aus. Im Mittelpunkt stand die Frage, welche Fähigkeiten Menschen brauchen, wenn KI sie bei Entscheidungen unterstützen soll.
Um diese Frage nicht nur theoretisch zu betrachten, bringt das Format Forschung, Lehre und militärische Praxis zusammen. Neue Ansätze können so gemeinsam erprobt und die gewonnenen Erfahrungen anschließend für Forschung und Ausbildung genutzt werden.
Prof. Dr.–Ing. Frank Flemisch vom Fraunhofer FKIE forscht seit Jahren zur Zusammenarbeit von Menschen und technischen Systemen und zur menschlichen Kontrolle über KI. Den Workshop leitete er gemeinsam mit Anja Dannewitz vom Fraunhofer FKIE sowie Prof. Dr. Gerhard Schreiber, Dr. Sylvia Kühne und Dr. Daniel Tramp vom AI Ethics Research Hub.
„Wir wollen dem Führungspersonal das Rüstzeug an die Hand geben, damit es auch in fünf, zehn oder zwanzig Jahren entscheiden kann, was die KI machen soll und was beim Menschen verbleiben muss“, sagt Flemisch.
Ein besonderer Schwerpunkt liegt dabei auf der Verbindung von Forschung und Ausbildung. Für Prof. Dr. Oliver Niggemann, Professor für Informatik im Maschinenbau und Sprecher des Instituts für Künstliche Intelligenz KI@Bw an der HSU/UniBw H, liegt darin ein wesentlicher Gewinn des gemeinsamen Formats.
Auch Prof. Dr. Christoph Igel, Institutsleiter des Fraunhofer FKIE, richtet den Blick auf diesen Transfer: „Die relevante Frage für uns ist: Wie gelingt es, Spitzentechnologien und deren Wirkpotenziale in die Ausbildung des zukünftigen Spitzenpersonals der Bundeswehr einzubringen – nicht nur theoretisch, sondern auch ganz praktisch“.
Urteilskraft und Verantwortung
Dabei geht es nicht allein darum, was KI technisch leisten kann. Ebenso wichtig ist die Frage, wie sich die Zusammenarbeit mit KI auf die Menschen auswirkt, die mit ihrer Unterstützung Entscheidungen treffen.
Prof. Dr. Gerhard Schreiber, Leiter des AI Ethics Research Hub und KI-Beauftragter der HSU/UniBw H, bringt diesen Perspektivwechsel auf den Punkt: „Wir müssen nicht nur fragen, was Menschen mit KI machen, sondern auch, wie der Einsatz von KI die Menschen selbst verändert“, sagt er.
Für die militärische Führung stellt sich deshalb zunehmend die Frage, an welchen Stellen und in welchem Maße KI in Entscheidungsprozesse einbezogen werden soll. Für Oberst i. G. Alexander Rommel von der FüAkBw bleibt dabei entscheidend, dass am Ende der Mensch die Entscheidung trifft.
Doch die Entscheidung formal beim Menschen zu belassen, reicht allein nicht aus. Dr. Sylvia Kühne weist darauf hin, dass tatsächliche Entscheidungsfähigkeit auch die entsprechenden Voraussetzungen braucht. Wer eine Empfehlung der KI beurteilen soll, benötigt genügend Zeit und die notwendigen Informationen. Ebenso muss er einschätzen können, wie sicher oder unsicher die Empfehlung des Systems ist.
An konkreten Fällen lernen
Was das in konkreten Entscheidungssituationen bedeutet, erprobten die Teilnehmenden anhand zweier Szenarien zum KI-Einsatz: der Triage bei einem Massenanfall von Verwundeten und dem Einsatz von Loitering Munition. Bei einer Triage muss unter Zeitdruck entschieden werden, welche Verletzten wie dringend behandelt werden müssen. Loitering Munition bezeichnet Waffensysteme, die zunächst in einem bestimmten Gebiet verbleiben und nach der Identifizierung eines Ziels gegen dieses eingesetzt werden können.
In gemischten Gruppen versetzten sich die Teilnehmenden in unterschiedliche Rollen hinein, etwa in die einer Ärztin, die unter Zeitdruck über die Behandlung Verwundeter entscheiden muss, oder eines Operators an einer Kontrollstation. So wurde konkret, welche Anforderungen Menschen in unterschiedlichen Rollen an ein KI-System stellen und welche Informationen sie benötigen, um dessen Empfehlung beurteilen und eine Entscheidung treffen zu können.
Welche Werte sollen Entscheidungen leiten?
In der von Dr. Daniel Tramp geleiteten Arbeitsphase zum „Value Space“ ging es anschließend um die Frage, welche Werte solche Entscheidungen leiten sollen und was sie für die Gestaltung und Nutzung eines KI-Systems konkret bedeuten.
Statt abstrakt über Werte zu sprechen, übertrugen die Gruppen diese Frage auf die konkreten Szenarien. Aus ihrer jeweiligen Rolle heraus bestimmten sie, was das System für wen leisten soll, welche Werte dabei eine Rolle spielen und welche Grenzen auch zugunsten von Tempo oder Effizienz nicht überschritten werden dürfen.
„Werte, die nicht verwirklicht werden, verdienen ihren Namen nicht“, sagt Tramp. Verantwortung und Sicherheit müssen sich deshalb darin zeigen, wie KI-Systeme gestaltet und eingesetzt werden. Das heißt zum Beispiel: Es muss klar sein, wer für ihren Einsatz Verantwortung trägt und welche Maßnahmen mögliche Schäden verhindern sollen.
Dabei zeigt sich: Auch bei gleicher Ausgangslage und gleichem System können je nach Rolle unterschiedliche Anforderungen und Konflikte entstehen. Human-AI-Teaming bedeutet deshalb nicht nur, technische Möglichkeiten zu verstehen, sondern auch die unterschiedlichen Perspektiven und Werte sichtbar zu machen, die in eine Entscheidung einfließen.
Vom Pilotworkshop zum Reallabor
Die Rückmeldungen der Teilnehmenden sollen dazu dienen, das Workshopformat weiterzuentwickeln. Geplant ist ein Aus- und Weiterbildungsangebot, das sich an ihren Aufgaben und Bedürfnissen orientiert.
Langfristig sollen Lehrgangsteilnehmende und Dozierende der FüAkBw Forschungsergebnisse von HSU/UniBw H und Fraunhofer FKIE erproben, bewerten und den Forschenden ihre Erfahrungen zurückmelden.
„So entsteht ein Reallabor, in dem theoretische Expertise und praktische Erfahrung zusammenkommen“, sagt Oberst i. G. Alexander Rommel.
Weitere Veranstaltungen des DefTec Campus sind für 2027 geplant, unter anderem zu Cybersicherheit und zu Verantwortung und Ethik.