Roboter greifen Menschen an

Roboterunfälle: Wie häufig sind Angriffe auf Menschen durch Roboter?

Roboter greifen Menschen an – Roboterunfälle, bei denen Maschinen Menschen verletzen oder sogar töten, sind glücklicherweise noch relativ selten, jedoch keineswegs unmöglich. Besonders in der Industrie, wo Roboterarme und andere automatisierte Systeme zum Einsatz kommen, gibt es immer wieder Unfälle. Diese entstehen meist durch technologische Fehlfunktionen, menschliche Fehler oder unzureichende Sicherheitsvorkehrungen.

Es gibt auch Fälle von Roboterangriffen, bei denen die Maschinen aufgrund von Programmierungsfehlern oder Systemversagen plötzlich aggressiv agieren. Solche Vorfälle werfen wichtige Fragen zur Sicherheit von Robotern und der Verantwortung für Roboterunfälle auf.

Roboterunfälle und Roboterangriffe in den letzten Jahren

1. VW-Werk (2015): Ein tragischer Roboterunfall ereignete sich in einem Volkswagen-Werk, als ein Roboterarm einen Mitarbeiter erfasste und tödlich verletzte. Der Vorfall wurde durch unzureichende Sicherheitsvorkehrungen und eine fehlerhafte Konfiguration des Roboters verursacht.
2. Tesla-Autopilot-Unfall (2018): Ein Tesla, der im Autopilot-Modus fuhr, kollidierte mit einer Betonbarriere. Der Fahrer wurde getötet. Untersuchungen ergaben, dass das autonome System den Fahrer nicht rechtzeitig warnte und nicht korrekt auf die Umgebung reagierte. Dies führte zu einer Diskussion über die Verantwortung bei Autopilot-Unfällen.
3. Autonomer Lieferroboter (2020): In einer US-Stadt stieß ein autonomer Lieferroboter mit mehreren Fußgängern zusammen. Der Roboter konnte nicht korrekt auf die Bewegungen der Menschen reagieren und verursachte Verletzungen. Dies wirft erneut Fragen zur Verantwortung bei Roboterunfällen auf.

Die bisherigen Ursachen von Roboterunfällen und Angriffen auf Menschen

In den meisten Fällen sind Roboterangriffe oder Unfälle das Ergebnis technischer Fehler oder unzureichender Sicherheitsmaßnahmen. Zu den häufigsten Ursachen gehören:

• Fehlfunktionen der Robotertechnik: Softwarefehler oder technische Defekte können dazu führen, dass Roboter unvorhersehbar handeln und Menschen in ihrer Umgebung verletzen.
• Menschliches Versagen: Wenn Mitarbeiter unachtsam sind oder Sicherheitsvorschriften missachten, kann es zu gefährlichen Interaktionen zwischen Mensch und Maschine kommen.
• Unzureichende Sicherheitsvorkehrungen: Roboter, die ohne Schutzmechanismen oder Notabschaltungen eingesetzt werden, können Menschen gefährden, wenn sie aus Versehen in ihre Bewegungsbereiche geraten.

Werden Roboterangriffe durch die Entwicklung autonomer System steigen?

Die Risiken von Roboterunfällen und Roboterangriffen auf Menschen könnten in Zukunft steigen. Mit der zunehmenden Nutzung von autonomen Systemen und Robotern, etwa in der Pflege, Logistik oder im Straßenverkehr, nehmen die Interaktionen zwischen Mensch und Maschine zu. Diese Roboter sind oft mit Künstlicher Intelligenz ausgestattet, was sie in die Lage versetzt, in dynamischen Umgebungen zu agieren. Doch das erhöht auch das Risiko, dass Maschinen Menschen versehentlich schädigen oder selbst Ziele von Angriffen werden oder aus anderen Gründen unkalkulierbar agieren.

Robotersysteme sind zukünftig folgenden Risiken ausgesetzt

1. Risiken bei Blackouts und Brownouts:

• Blackouts (kompletter Stromausfall) und Brownouts (Spannungsabfall) können Roboter außer Betrieb setzen, insbesondere wenn keine redundanten Stromquellen wie Notstromaggregate oder Batterien vorhanden sind.
• Bei sicherheitskritischen Robotern, wie denen im Perimeterschutz oder bei autonomen Fahrzeugen, kann ein plötzlicher Ausfall zu gefährlichen Situationen führen, z. B. wenn ein autonomer Roboter mitten in einer Aufgabe gestoppt wird.

2. Gefahren durch Cyberattacken:

• Cyberattacken, wie das Hacken der Steuerungssoftware, sind eine reale Bedrohung für Roboter. Manipulationen könnten dazu führen, dass Roboter falsche Entscheidungen treffen, Sicherheitsprotokolle umgehen oder gefährliches Verhalten zeigen.
• Beispiele: Gezielte Angriffe auf Industrie- oder Sicherheitsroboter könnten Betriebsausfälle oder physische Schäden verursachen.

3. DDoS-Angriffe auf vernetzte Roboter:

• Roboter, die in Netzwerken operieren, sind potenzielle Ziele von DDoS-Angriffen, bei denen ihre Kommunikationskanäle durch massive Datenfluten überlastet werden.
• Bei Sicherheitsanwendungen kann das dazu führen, dass Roboter keine oder verzögerte Befehle erhalten, was ihre Effektivität stark beeinträchtigt und Sicherheitslücken schafft.

4. Erhöhte Risiken durch autonome Systeme:

• Autonome Roboter mit Künstlicher Intelligenz sind besonders anfällig, da sie oft in dynamischen Umgebungen agieren und auf komplexe Datenanalysen angewiesen sind. Ein Fehler in der KI-Logik oder ein gezielter Angriff auf die Algorithmen könnte fatale Folgen haben.

Robotik birgt reale Gefahren

Die aufgeführten Szenarien sprechen reale Gefahren an, die bei der zunehmenden Verbreitung von Robotern berücksichtigt werden müssen. Sie unterstreichen die Notwendigkeit von umfassenden Sicherheitsmaßnahmen, einschließlich Redundanzsystemen, Firewalls und Schutzprotokollen, um diese Risiken zu minimieren.

Wer ist haftet bei Roboterunfällen und Roboter-Angriffen?

In der Schweiz gibt es derzeit noch kein spezifisches Gesetz, das den Einsatz und die Haftung von Robotern und autonomen Systemen umfassend regelt. Die rechtlichen Grundlagen, die für Roboter und KI-Systeme angewendet werden, basieren weitgehend auf bestehenden Gesetzen, die allgemeine Haftungsfragen und Sicherheitsvorkehrungen behandeln, wie etwa das Obligationenrecht (OR) oder das Produkthaftungsgesetz.

Es gibt jedoch verschiedene rechtliche Aspekte, die berücksichtigt werden müssen:

1. Produkthaftung:
   Wenn ein Roboter aufgrund eines Fehlers Schaden verursacht, könnte die Produkthaftung greifen. In diesem Fall müsste der Hersteller des Roboters nachweisen, dass der Schaden durch einen Fehler im Design, in der Herstellung oder in den Warnhinweisen des Produkts verursacht wurde. Dieses Gesetz schützt Verbraucher und Unternehmen vor fehlerhaften Produkten, wobei auch Roboter und KI-Systeme darunter fallen können.
2. Haftung im Arbeitsrecht:
   Wenn ein Roboter im Arbeitsumfeld eingesetzt wird und ein Unfall passiert, könnten arbeitsrechtliche Bestimmungen und Versicherungen zur Anwendung kommen. In diesem Fall könnte auch der Arbeitgeber haftbar gemacht werden, insbesondere wenn er nicht die nötigen Sicherheitsvorkehrungen getroffen hat oder gegen bestehende Arbeitsgesetze verstößt.
3. Verkehrsrecht:
   Für autonome Fahrzeuge oder Robotersysteme, die im Straßenverkehr eingesetzt werden, gibt es spezifische Regelungen, die jedoch noch nicht vollständig auf die neuen Technologien angepasst sind. In der Schweiz werden autonome Fahrzeuge bisher als reguläre Fahrzeuge behandelt, und die Haftung für Unfälle liegt grundsätzlich bei den Fahrzeughaltern oder den Herstellern.
4. Datenschutz und Datenschutzrecht:
   Da viele autonome Systeme auch Daten sammeln und verarbeiten, sind sie auch an das Datenschutzgesetz gebunden. Wenn ein Roboter persönliche Daten verarbeitet, gelten die Bestimmungen des Datenschutzgesetzes und der europäischen Datenschutz-Grundverordnung (DSGVO), falls der Roboter in der EU oder in der Schweiz Daten verarbeitet.

Es gibt jedoch Bestrebungen, spezifische Gesetzgebungen für den Umgang mit Robotern und KI zu entwickeln. Die Schweiz hat bereits einige Diskussionen über die Haftung von Künstlicher Intelligenz und autonomen Systemen geführt, und auf europäischer Ebene werden entsprechende Regelungen (wie die EU-Verordnung zur Haftung von Künstlicher Intelligenz) weiterentwickelt. Diese Entwicklungen könnten auch in der Schweiz eine rechtliche Grundlage für den Einsatz und die Haftung von Robotern schaffen. In der Praxis ist der rechtliche Rahmen noch nicht abschließend definiert, und es werden nach und nach Anpassungen erfolgen müssen, um die Herausforderungen des digitalen Zeitalters zu adressieren.

Weitere Informationen zum Thema Robotik, autonome Systeme Strassenverkehrsrecht

Hardy Landolt – Manfred Dähler (Hrsg.)
Jahrbuch zum Strassenverkehrsrecht 2022, Autonomes Einparkieren (pdf)

Universität Zürich – Ein Rechtsrahmen für Künstliche Intelligenz (es erfolgt ein automatischer Download einer pdf Datei)