Hinweis: Das Beitragsbild wurde mit künstlicher Intelligenz erzeugt.
KI-gestützte Roboter übernehmen in Fertigung und Logistik Aufgaben, die klassische Automatisierung nicht lösen konnte. Sie lernen aus Daten, passen sich veränderten Umgebungen an und arbeiten ohne starre Programmierung. Das eröffnet neue Einsatzfelder, bringt aber auch Risiken mit sich, die in der Praxis noch nicht vollständig beherrschbar sind.
Das Sicherheitsproblem ist real, nicht theoretisch
Klassische Industrieroboter arbeiten in abgezäunten Bereichen. Der Mensch bleibt draußen. KI-gestützte mobile Roboter sollen das anders machen: Sie bewegen sich frei durch Produktionshallen, Lager und öffentliche Bereiche. Genau dort liegt das Problem.
Forscher der Technischen Universität München, darunter Professor Angela Schoellig und Sepehr Samavi, haben mit dem Roboter Jack untersucht, wie sich mobile Systeme sicher in Menschenmengen bewegen können. Das Ergebnis: Klassische Regelungstechnik reicht nicht aus. KI-Modelle müssen in Echtzeit planen, vorhersagen und reagieren. Das gelingt noch nicht zuverlässig genug für alle Szenarien.
Das Problem beschränkt sich nicht auf Kollisionen. KI-Systeme treffen Entscheidungen, die für Menschen nicht immer nachvollziehbar sind. Das erschwert die Zertifizierung und die rechtliche Verantwortung im Schadensfall.
IT-OT-Vernetzung öffnet neue Angriffsflächen
Ein zweites Sicherheitsproblem entsteht durch die Vernetzung. KI-Roboter kommunizieren mit übergeordneten Systemen: mit dem Warehouse Management System, der Produktionssteuerung oder externen Cloud-Diensten. Dabei verschmelzen IT, also Informationstechnologie, und OT, also Operational Technology, die Steuerungstechnik in der Produktion.
Diese Vernetzung macht Systeme angreifbar. Ein erfolgreicher Cyberangriff auf einen vernetzten Roboterarm oder ein fahrerloses Transportsystem kann direkte physische Schäden verursachen. Das ist kein abstraktes Szenario. Angriffe auf Produktionsanlagen haben in der Vergangenheit bereits Stillstände verursacht.
Für Betriebe bedeutet das: Wer KI-Robotik einführt, muss gleichzeitig seine OT-Sicherheitsarchitektur überprüfen. Viele Mittelstandsbetriebe haben das bisher nicht getan.
Lösungsansätze aus Forschung und Normgebung
Technische Ansätze
In der Forschung gibt es konkrete Ansätze. Sogenannte Safety Layers, also eigenständige Sicherheitsschichten, überwachen KI-Entscheidungen in Echtzeit. Schlägt das KI-Modell eine gefährliche Aktion vor, greift die Sicherheitsschicht ein und stoppt oder korrigiert die Bewegung. Dieser Ansatz entkoppelt die KI-Logik von der unmittelbaren Steuerung und gilt derzeit als aussichtsreichster Weg.
Ergänzend wird an erklärbarer KI (Explainable AI, XAI) gearbeitet. XAI soll die Entscheidungslogik eines Systems für Prüfer und Betreiber nachvollziehbar machen. Das ist Voraussetzung für Zertifizierungen nach europäischen Normen.
Regulatorische Rahmenbedingungen
Die International Federation of Robotics (IFR) hat ein Grundsatzpapier vorgelegt, das Sicherheits-, Governance- und Nachhaltigkeitsfragen für KI in der Robotik adressiert. Es benennt technologische Schwerpunkte und fordert klare Standards für den Einsatz lernender Systeme in der Industrie.
Parallel dazu greift der EU AI Act. Er stuft autonome Roboter in bestimmten Umgebungen als Hochrisiko-Systeme ein. Für diese Systeme gelten Anforderungen an Transparenz, Zuverlässigkeit und menschliche Überwachung. Wer KI-Robotik in der Produktion einführt, muss prüfen, ob sein System unter diese Kategorie fällt.
Was das für Produktions- und Einkaufsverantwortliche bedeutet
Der Druck, Fachkräftemangel mit Automatisierung zu kompensieren, ist real. KI-Robotik bietet dafür technische Optionen. Doch die Sicherheitsfrage lässt sich nicht nach der Einführung lösen. Sie muss vor der Beschaffungsentscheidung beantwortet werden.
Konkret heißt das: Lieferanten müssen nachweisen, welche Sicherheitsmechanismen im System verbaut sind. Zertifikate allein reichen nicht. Gefragt ist, ob das System unter realen Betriebsbedingungen, also mit wechselnden Umgebungen und unvorhergesehenen Ereignissen, sicher bleibt.
Für die Produktion gilt: Mischbetrieb, Mensch und Roboter im gleichen Bereich, erfordert eine Risikobeurteilung nach Maschinenrichtlinie oder deren Nachfolger, der Maschinenverordnung. Diese Pflicht entfällt nicht, weil das System KI-gestützt ist. Sie wird dadurch anspruchsvoller.
Fazit
KI in der Robotik ist kein Zukunftsthema mehr, sondern ein Beschaffungs- und Betriebsthema von heute. Die Technologie liefert nachweisbare Produktivitätsgewinne. Die Sicherheitsarchitektur ist jedoch noch nicht für alle Einsatzszenarien ausgereift. Betriebe, die jetzt investieren, tragen Pionierrisiken. Wer diese Risiken kennt und durch sorgfältige Systemauswahl, OT-Sicherheit und normkonforme Risikobeurteilung begrenzt, ist in einer vertretbaren Position. Wer sie ignoriert, nicht.
