Szenario 2 – Anomalie-Erkennung und Bewegungskorrektur bei Roboterarmen in Industrieanlagen: Cyberkriminelle werden damit beauftragt einem Unternehmen ökonomischen Schaden zuzufügen. Sie nutzen eine Sicherheitslücke und übernehmen einen oder mehrere Roboterarme in einer Produktionsstraße für einen Sabotageakt. Ihr Ziel ist es, die Routinen der Arme minimal abzuändern, so dass die Schäden an den Produkten nicht sofort sichtbar sind. Die vorangegangenen Routinen des Roboters wurden jedoch in eine abgesicherte Datenbank überführt, um damit die Anomalie-Erkennung zu trainieren. Selbst minimale Abweichungen werden in der Folge erkannt und die Werksleitung benachrichtigt. Ein vom Hauptsystem abgekapselter und zertifizierter Regelsatz wird zugleich automatisch aktiviert, der Roboterarm wird umgehend wieder in die ‚gewohnte‘ und gelernte Routine überführt.
Schutz mitdenken
Robotikanwendungen werden in den nächsten Jahren in viele Branchen und Bereichen der Gesellschaft vermehrt eingesetzt werden. Neben technischen Fortschritten ist der Grund hierfür auch, dass Robotik in den vergangenen Jahren immer kostengünstiger geworden ist, wie etwa der diesjährige Standford AI Index betont. Parallel zur Verbreitung von Robotik sollte auch der Schutz vor Missbrauch mitbedacht werden. So können bei der (Weiter-)Entwicklung solcher Systeme mögliche Missbrauchsziele und Gegenmaßnahmen abgeleitet werden, die als Prävention implementiert oder im Ernstfall umgesetzt werden können. Zudem könnte die Forschung zum Schutz vor Missbrauch ausgebaut werden. Ziel sollte es sein, das Vertrauen in den Einsatz autonomer, mobiler Robotik zu stärken, um die wirtschaftlichen und gesellschaftlichen Potenziale freizusetzen.
www.plattform-lernende-systeme.de