Wie Innovation funktioniert: “Der Mensch muss eine Art Gott für Roboter werden”.

Innovation Origins spricht regelmäßig mit Innovationsbossen, mit Menschen, die auf der Innovationsleiter ganz oben stehen. In dieser Serie geben sie einen Einblick in ihre Arbeit. Carlo van de Weijer ist Direktor des Eindhoven Artificial Intelligence Systems Institute (EAISI), das zur Technischen Universität Eindhoven (TU/e) gehört. Er lebt dort völlig in der Welt der Daten und der Roboter. Vom Pflegeroboter bis zur Drohne, vom Fußballroboter bis zum selbstfahrenden Auto. “Roboter sind für bestimmte Aufgaben sehr gut geeignet, oft viel besser als Menschen. Aber können sie jemals wirklich wie Menschen funktionieren?”

Was ist die Stärke von EAISI?

EAISI erforscht Daten und künstliche Intelligenz auf vielfältige Weise. Professoren aus der ganzen Welt kommen an die Universität Eindhoven, um hier zu arbeiten. Auch die Studierenden sind auf unterschiedliche Weise in EAISI eingebunden. “Die Forschung an Daten muss schließlich in die reale Welt passen”, sagt Van de Weijer. “Die wirkliche Welt dreht sich um Menschen. Also müssen wir diese Intelligenz so integrieren, dass die Menschen sie wirklich nutzen können”.

Künstliche Intelligenz wird auf der ganzen Welt erforscht. “Europa präsentiert sich anders als andere Regionen der Welt”, fährt er fort. “Bei uns steht der Mensch im Mittelpunkt. In Amerika sind die Unternehmen die Chefs in diesem Bereich. Ich glaube nicht, dass das auf lange Sicht Bestand haben wird. Irgendwann wird sich das Volk gegen dieses System erheben. In China ist die Regierung der Chef. Auch dort wird die Macht des Volkes unterschätzt, wie man jetzt in Hongkong sieht. Wenn die Menschen einmal die Freiheit gerochen haben, wollen sie nicht mehr zu alten Mustern zurückkehren. Das sind alles Dinge, bei denen die KI eine große Rolle spielt.”

Auf der Suche nach dem Mehrwert des Menschen

“Wenn Sie einen Job haben, bei dem Sie Regeln nach einem strengen Verfahren anwenden, dann könnte ein Computer das wahrscheinlich besser machen. Ein Computer macht keine Ausnahmen. Wir Menschen schaffen allerdings einen Mehrwert, wenn wir es wagen, von diesen Verfahren abzuweichen. Ich hoffe, es bleibt dabei, dass Abweichungen von den Regeln in den Händen der Menschen liegen. Zwar können Menschen, die von Regeln abweichen, gefährlich sein – nicht jeder hält sich an die Vorgaben und das verursacht manchmal Probleme. Aber wenn die Roboter anfangen, von den Regeln abzuweichen, kann es wirklich gefährlich werden. Dann werden Daten zu einer Waffe”, sagt Van de Weijer. “Diese Verwendung von Daten und Robotern in der realen Welt ist etwas, über das Professoren und Studierende innerhalb der EAISI sorgfältig nachdenken müssen”.

Ist es sicherer, wenn Menschen von den Regeln abweichen, als wenn Computer es tun?

“Wenn man einem Computer beibringt, dass er von den Regeln abweichen kann, wo hört er dann auf? Wir Menschen können auf vernünftige Weise mit Ausnahmen umgehen. Das ist eigentlich die ganze Toleranzkultur. Wenn Sie nachts über eine rote Ampel gehen, ist nichts verkehrt. Man wäre verrückt, wenn man stehenbleibt. Es kann manchmal sogar gefährlich sein, wenn man sich immer genau an die Regeln hält. Neulich bin ich mit meinem Auto im autonomen Fahrmodus gefahren. Da stand ein Unfallwagen halb auf dem Seitenstreifen und halb auf der Straße. Die Autos vor mir fuhren über die durchgehende Linie in der Mitte der Straße, um dem Auto auszuweichen. Mein Auto weiß, dass es die durchgehende Linie nicht überschreiten darf. Da die Bremsen nicht mehr funktionierten, drohte mein Auto den stehenden Wagen zu rammen. Also ist es besser, in solchen Situationen die Regeln zu brechen.”

Was könnten allgemeine Regeln für Roboter sein?

Laut Van de Weijer sind die Regeln, die der Schriftsteller Isaac Asimov zu Beginn des letzten Jahrhunderts aufgestellt hat, immer noch ein wichtiger Ausgangspunkt. “Ich denke, wir müssen noch weitere definieren. Gott gab Mose zehn Gebote – vielleicht sollten die Menschen eine Art Gott für Roboter werden”, sagt Van de Weijer. “In Afghanistan fliegen Drohnen umher und töten Menschen. Im Moment werden sie noch von Menschen ferngesteuert”, erklärt er. “Manche sagen, es wird noch lange dauern, bis Roboter auf diese Weise in großem Maßstab eingesetzt werden. Das kann stimmen. Aber irgendwann müssen wir uns damit auseinandersetzen, egal ob es noch 10 oder 100 Jahre dauern wird. Darüber hinaus haben Roboter bereits einen enormen Einfluss, auch wenn sie nicht alles tun können, was Menschen tun. Schauen Sie sich zum Beispiel den Einfluss an, den die Algorithmen bereits auf das Wahlverhalten haben.”

Was ist im Moment das größte Problem der Menschheit?

“Das ist ein bisschen umfassender, als Roboter und KI, aber es hat mit diesen Entwicklungen zu tun. Ich glaube, wir leiden an unserem Reptiliengehirn. Wir sind zu sehr auf eine kurze Frist konzentriert. Gelegentlich investieren wir natürlich auch längerfristig, zum Beispiel für unseren Nachwuchs. Aber in der Dimension zu denken, wie es jetzt notwendig wäre, darin sind wir nicht gut.”

In welchem Zeitrahmen sollten wir denken?

“Wie wollen wir die Welt unseren Kindern hinterlassen? Man könnte genauso gut sagen, dass sie selbst die Probleme lösen sollten. Apelle an die Verbraucher, zur Rettung des Klimas ihren Konsum einzuschränken, funktionieren meiner Meinung nach nicht. Es sei denn, sie profitieren eindeutig selbst davon. Wie zum Beispiel, wenn man weniger Zucker und Fett zu sich nimmt. Wir sind biologisch darauf programmiert, viel Zucker und Fett zu essen, weil das Nahrungsangebot knapp und die Winter kalt waren. Es gibt jetzt immer genug Nahrung, so dass wir die Reserven nicht mehr brauchen. Glücklicherweise kann unsere Neigung, dieses Essen immer noch zu mögen, von den meisten im Zaume gehalten werden. Vielleicht sind wir also genauso klug und entscheiden uns für ein weitsichtiges Verhalten, wenn es um andere Themen geht. Auch wenn es unserer Natur zuwider läuft.”

Recht haben ist wichtiger als die Wahrheit

“Ein weiterer Effekt des Reptiliengehirns ist, dass die Menschen Recht haben wollen und immer öfter Bestätigung bekommen. Angenommen, jemand denkt, die Erde sei flach. Früher ist man zu einem Wissenschaftler gegangen und er hat Modelle vorgelegt, die zeigen, dass die Erde rund ist. Jetzt gibt es tausend Berichte im Internet, von denen fünf sagen: die Erde ist flach. Die Menschen, die glauben, dass die Erde flach ist, halten also an diesen fünf Berichten fest. Auch weil ein Algorithmus weiß, dass die Wahrscheinlichkeit groß ist, dass diese Leute genau diesen Bericht lesen werden. So erhalten sie Bestätigung und bleiben in ihrer Blase gefangen. Die Konsequenzen, wenn wir auf unsere Instinkte reagieren, sind in diesem Fall höchst polarisierend.”

“Außerdem wollen die Leute eine Meinung haben, damit sie einfach hinter etwas herlaufen können, egal was es ist. Das gibt uns ein gemeinsames Ziel und dann müssen wir nicht mehr schauen, was wirklich auf der Welt los ist. So ist die Religion entstanden, aber im Grunde auch das Papiergeld und der Fußballkult. Dieses Phänomen hilft, große Gruppen von Menschen für das gleiche Ziel zu bewegen. Das ist eine der größten Kräfte der Menschheit, aber es ist auch eine große Gefahr.”

Können sich Computer auf ähnliche Weise verhalten?

“Sicher können sie das. Wenn sie alle die gleiche Anweisung haben, können sie große Kräfte mobilisieren, indem sie das gleiche Ziel verfolgen. Die Macht der Computer ist irgendwann größer als die Macht der Menschheit. Aber noch sind Computer weit davon entfernt, genau das tun zu können, was wir können. Das wird noch 100 oder vielleicht 200 Jahre dauern.”

“Computer spielen besser Schach. Aber wenn Sie einen Schachcomputer neben eine Kaffeemaschine stellen, wird er nicht in der Lage sein, eine Tasse Kaffee zu kochen. Das ist etwas ganz anderes. Dazu braucht man einen anderen Computer. Wenn Computer wirklich als Menschen funktionieren sollen, müssen sie in der Lage sein zu lieben. Wird sich der Computer langsam so entwickeln, wie wir uns entwickelt haben? Kommt etwas mit fünf Fingern dabei heraus? Wir müssen in der Lage sein, Dinge aufzuheben, Besteck zu halten, etc. Das geht am besten mit fünf Fingern. Bekommt der weiterentwickelte Computer eine Haut und Durchblutung von 37 Grad? Das stellte sich in Millionen Jahren Evolution als das Beste heraus. Werden Roboter in der Zukunft genauso aussehen wie wir? Ich glaube nicht, dass es dazu kommen wird, denn die Roboter werden sich auf Teilaufgaben konzentrieren und nicht wie wir Allrounder sein müssen. Aber die Zeit wird es zeigen.”

Gibt es eine Innovation, die die Menschen zum langfristigen Denken anregen kann?

Van de Weijer sieht kein Produkt der Technologie vor sich, welches das erreichen könnte. Er verlässt sich auf menschliche Fähigkeiten. “Wenn du den Instinkt, viel Zucker und Fett zu essen, nicht loslassen könntest, würdest du dich zu Tode essen, bevor du 25 bist. Also befolgen wir Regeln der Vernunft. Es steckt auch ein bisschen Gemeinschaftsgeist in uns. Das kann man in der Biologie sehen. Das eigene Nest zu verunreinigen ist nicht gut für den Nachwuchs. Ein wenig langfristiges Denken gehört also zu unseren evolutionären Instinkten. Das ist etwas, das immer wieder auftaucht und ich denke, das könnte auch in der Zukunft geschehen.”

Was ist der gemeinsame Nenner des Erfolgs? Es gibt viele technologische Entwicklungen, die nebeneinander laufen. Welche Ähnlichkeit besteht zwischen ihren Erfolgen?

“Wenn sich der Durchschnittsmensch von etwas erholt, ist es ein Erfolg.” Laut Van de Weijer ist die Größe einer Entwicklung oder eines Produkts nicht so wichtig, es geht um die Auswirkungen. “Es gibt große Entwicklungen, die eine kleine Wirkung haben und kleine Entwicklungen, die eine große Wirkung haben. Teflon, zum Beispiel. Dieses Material wurde erfunden, um sicherzustellen, dass eine Rakete nach einer Raumfahrt nicht in Brand gerät, wenn sie in die Atmosphäre zurückkehrt. Aber es gibt auch Pfannen mit diesem Material, damit ihr Ei nicht anbrennt. Für viele Menschen wird diese Anwendung die wichtigere sein”.

“Wenn Sie für die Menschheit etwas verbessert haben, dann ist das ein Erfolg. Verbesserung kann ein Ziel an sich sein. Das haben wir auch hier in der Region um Eindhoven verfolgt. Wir haben uns immer wieder neu erfunden. Zunächst einmal gab es Computer mit Röhren. Dann mit Transistoren. Als das ausgereift war, haben wir sie mit Chips ausgestattet. Wenn sie voll entwickelt sind, müssen wir wieder weiter denken. Irgendwann müssen wir von diesem Prozess eines “mehr, mehr, mehr” zu einem “besser, besser” kommen. Ich denke, das ist die wesentliche Diskussion.”

Dieser Artikel ist Teil der Serie ‘Innovationsbosse’. Die anderen Geschichten finden Sie hier.