Eine Frage der maschinellen Verantwortung

Von Carina Tüllmann | Fraunhofer IML – Die moderne Technik wird immer intelligenter, bewältigt immer komplexere Aufgaben und trägt dabei sogar menschliche Züge. Vor diesem Hintergrund muss die Zusammenarbeit von Mensch und Technik neu bewertet und gestaltet werden. Das Innovationslabor Hybride Dienstleistungen in der Logistik will einen gesamtgesellschaftlichen Diskurs zum Thema maschinelle Verantwortung anstoßen.

In der Logistik bestimmen heute automatisierte Systeme wie Kommissionierroboter, Regalbediengeräte oder Stapler das Verständnis von der Zusammenarbeit zwischen Mensch und Technik. Doch diese Zusammenarbeit wird sich mit dem Einzug autonomer Systeme und künstlicher Intelligenz grundlegend verändern – weg von einem Nebeneinander hin zu einem Miteinander von Mensch und Technik. Noch ist das Zukunftsmusik. Doch schon heute geht der Mensch mit einer Vielzahl technischer Systeme um: ob Roboter oder cyber-physische Systeme, ob Assistenzsysteme oder Deep Learning. Längst geht es nicht mehr nur um Kommunikation mit der Technik, also das reine Senden und Empfangen von Nachrichten, sondern um Interaktion – das Reagieren von Mensch und Technik aufeinander, das Umgehen miteinander und das gegenseitige Beeinflussen.

Je intelligenter technische Systeme werden und je komplexere auch organisatorische bzw. kognitive Aufgaben sie bewältigen, umso mehr löst sich die Grenze zwischen Mensch und Technik auf.

Der Großteil der in der Arbeitswelt eingesetzten Systeme erlaubt es allerdings immer noch nachzuvollziehen, welche Entscheidungen ein Mensch getroffen hat und welche die Technik. In der Regel bereitet die Technik die Entscheidung vor, der Mensch gibt sein »Go« oder – basierend auf persönlichen Erfahrungen, Wissen oder Gefühlen – eben auch nicht. Diese offenkundige Grenze, die zwischen Mensch und Technik bislang noch verläuft, verschwimmt jedoch – je intelligenter die Systeme werden und je komplexere organisatorische bzw. kognitive Aufgaben sie bewältigen. Der Mensch gibt dann automatisch ein Stück Verantwortung an die Technik ab.

Doch wie viel Verantwortung kann, soll und darf der Mensch der Technik übertragen? Welche Informationen bzw. Daten kann, soll und darf er mit der Technik teilen, um diese überhaupt erst in die Lage zu versetzen, verantwortlich zu handeln? Die mit diesen Fragen verbundenen Herausforderungen sind zum einen rechtlicher Natur. Themen wie Sicherheit und Haftung stehen hier im Fokus. Diese Diskussion wird bereits auf internationaler politischer Ebene geführt: Gerade erst hat das Europaparlament mit großer Mehrheit eine Resolution verabschiedet, in der umfassende Gesetze für Roboter und künstliche Intelligenz auf EU-Ebene gefordert werden. Zum anderen werden gesellschaftliche und ethische Fragen aufgeworfen, wie die über die Beachtung von Moralvorstellungen oder zur »Entmenschlichung der Arbeitswelt«. Die Frage nach der »maschinellen Verantwortung« gewinnt an Bedeutung.

Der Mensch als Dirigent des digitalen Systems

Grundsätzlich wird die Form der Zusammenarbeit von Mensch und Technik von Systemen bestimmt, die der Mensch selbst erschafft, also vom Menschen selbst. Damit obliegt ihm die Ausgestaltung nicht nur der technischen, sondern auch der Arbeitssysteme. Als Dirigent des digitalen Systems kann er Mensch und Technik nach Belieben in Bezug setzen – sprich, den Takt vorgeben. Mit ihrem Impuls zu den »Innovationspotenzialen der Mensch-Maschine-Interaktion« hat die Deutsche Akademie der Technikwissenschaften (acatech) jedoch bereits im vergangenen Jahr darauf hingewiesen, dass eine positive Entwicklung der Mensch-Maschine-Interaktion kein Selbstläufer, sondern eine gesellschaftliche Gestaltungsaufgabe sei.

Eine Aufgabe für die Kommunikation

In die Diskussion muss eine Vielzahl von Akteuren einbezogen werden. Jeder von ihnen muss die spezifische Sichtweise seiner Profession und seiner Branche einbringen. Letztlich bleibt das Thema der Interaktion von Mensch und Technik aber auch eine spannende Aufgabe für die Kommunikation. Es gilt, die enormen Chancen für die Wirtschaft, für die Gesellschaft und für den Einzelnen in den Vordergrund zu rücken. Herausforderungen dürfen nicht verschwiegen, sondern müssen erklärt werden. Denn: Transparenz stellt die Basis für Technikakzeptanz dar. Last, but not least, muss das Zusammenspiel von Mensch und Technik sichtbar und erlebbar werden – am besten in realistischen Anwendungsfällen und Showcases wie im Innovationslabor, erläutert von denen, die die digitalen Technologien entwickelt haben und sie einsetzen. Dann wird das Miteinander von Mensch und Technik gelingen und positive Kraft entfalten.

Dortmund, März 2017