Pflegeroboter übernehmen immer mehr Aufgaben – doch wo verläuft die Grenze zwischen Hilfe und Kontrolle? Mit einem „Moralmenü“ ermöglicht Prof. Dr. Oliver Bendel Pflegebedürftigen, selbst zu entscheiden, wie Roboter mit Ihnen interagieren sollen.
Herr Prof. Dr. Bendel die knappe personelle Situation in der Pflege gepaart mit der wachsenden Zahl von Pflegebedürftigen bringt die Heime an ihre Kapazitätsgrenzen. Abhilfe könnten Roboter schaffen, doch wo sollte ihr Aufgabenfeld enden?
Viele alte und hilfsbedürftige Menschen sind Robotern zugeneigt. Pepper und Navel bringen sie zum Lachen, Paro beruhigt sie. Man hat etwas, das man berühren und mit dem man sprechen kann. Und etwas, über das man sprechen kann. Denn mit Robotern kommt etwas Neues und Unerhörtes in die Pflege- und Altenheime. Allerdings ist es für die meisten Menschen wichtig, andere Menschen oder Tiere berühren zu können. Und mit ihnen zu sprechen. Ein sozialer Roboter, ein Chatbot oder ein Sprachassistent können eine Lücke füllen.
Was darf der Roboter eigentlich können?
Im Pflegebereich werden zwei Varianten eingesetzt. Zum einen soziale Roboter im engeren Sinne, die mit den Pflegebedürftigen interagieren, kommunizieren und Nähe suchen oder zulassen, zum anderen Assistenzroboter, die soziale Merkmale und Fähigkeiten haben können. Beide können menschen- oder tierähnlich gestaltet sein. Bei Assistenzrobotern ist allerdings auch ein dinghaftes, funktionales Design vorzufinden.
Assistenzroboter in der Pflege können etwas aufheben und reichen, eine Flasche aufmachen, Patienten einsammeln oder Notlagen erkennen. Auch das Heben, Aufrichten und Umbetten wurde erprobt, wobei man dafür entweder im Boden verankerte Systeme braucht oder sehr schwere Roboter, die zur Gefahr werden können. Assistenzroboter wie Lio sind nützliche Werkzeuge, zuweilen ein bisschen mehr.
Manche soziale Roboter können Emotionen erkennen oder zumindest zeigen. Beispiele sind Pepper, Nao, Navel, Alpha Mini, Paro und Cupboo, der auch Booboo oder Boo Boo genannt wird. Sie können durchaus einen Menschen ersetzen. Aber insgesamt sollten die Pflegebedürftigen mehr von Menschen als von Robotern umgeben sein, außer wenn sie gar keine Kontakte wünschen.
Liebespuppen und Sexroboter wie Harmony oder Emma können sexuelle Bedürfnisse ein Stück weit befriedigen. Sie sprechen eher Männer als Frauen an. Ihr Einsatz wirft jedoch Fragen auf. Man kann sie nicht ohne Weiteres in einem Pflegeheim oder Krankenhaus aufnehmen. Man muss sie regelmäßig und sorgfältig reinigen. Und letztlich reichen sie nicht an Menschen heran. Sie sind mehrheitlich passive Figuren, die man berühren kann, die einen aber nicht berühren können. Ein Geschlechtsakt mit ihnen kann nicht nur befriedigen, sondern auch verstören. Wenn jemand danach verlangt, sollte man das zulassen, sofern die Mittel und Strukturen es erlauben. Systemisch und systematisch fördern sollte man den Einsatz nicht.
Darf ich als Betroffener dem Wirken der Maschine Grenzen setzen oder bleibt dies eine Entscheidung des Programmierers?
Das kommt auf die Umsetzung an. In der Regel ist es so, dass die Aktionen der Maschinen vom Entwickler vorgegeben sind. Sie hängen zudem von den Möglichkeiten von Soft- und Hardware ab. Pepper kann ich nicht bitten, mir etwas zu reichen, denn seine Hände sind zwar schön gestaltet, aber nur zum Grüßen geeignet, nicht zum Greifen. Bis vor Kurzem konnte man mit ihm kaum längere, sinnvolle Gespräche führen. Nun hat sich vieles durch generative KI geändert, durch die großen Sprachmodelle. Wenn man diese in Roboter integriert, können sie alles, was man von ChatGPT und Co. gewohnt ist. Wir haben im Rahmen der Maschinenethik das Moralmenü entwickelt, und zwar für einen bestimmten Pflegeroboter. Über einfache Schieberegler kann die alte oder kranke Person das Verhalten einstellen. Soll der Roboter mich berühren? Soll er wegsehen, wenn ich mich umziehe? Soll er mich warnen, wenn sich die Pflegeperson in seine Kamera einschaltet? Soll er mich duzen oder siezen? Mich mit meinem Vornamen oder einem Kosenamen ansprechen? Die Firma war sehr interessiert an unserem Prototyp. Ich hoffe, sie verwendet ihn in irgendeiner Form.
Langfristig sollen mehrere Roboter in Altenheimen oder Pflegeeinrichtungen tätig sein, auch um dem Fall vorzubeugen, dass eine Maschine ausfällt. Wie können sie sich organisieren?
In der Tat sollte kein Roboter allein in ein Altenheim oder in eine Pflegeeinrichtung einziehen. Der Bruder oder die Schwester sollte gleich mitkommen. Dies hängt schon mit dem Strombedarf zusammen. Oder mit einer Wartung oder einem Ausfall durch einen Defekt. Man baut soziale Roboter und Assistenzroboter für die Pflege immer mehr so, dass sie miteinander interagieren und kommunizieren können. Dies sind Formen der Maschine-Maschine-Interaktion oder -Kommunikation. Dazu gehören Maschine-Maschine-Kooperation und -Kollaboration, etwa das gemeinsame Transportieren eines großen Gegenstands. Solche Möglichkeiten sind aber noch eine große Ausnahme.
Die Roboter sollen aber nicht nur untereinander, sondern auch mit ihrer Umgebung interagieren und kommunizieren. Über Kameras auf den Fluren können sie um die Ecke schauen. Mithilfe einer drahtlosen Verbindung können sie Aufzüge bedienen und so das Stockwerk wechseln. Oder eine Kaffeemaschine anschalten. In der Schweiz sind Barista- und Cocktailroboter immer wieder anzutreffen. Meistens allerdings in Shoppingmalls.
Zugleich ist es teuer und aufwendig, ein Gebäude roboterfreundlich zu machen. Ein anderer Ansatz ist der, universelle Roboter zu schaffen, die wie Menschen in einem Gebäude zurechtkommen. Es gibt bereits etliche humanoide Roboter, die als Allzweckroboter vermarktet werden, wie der elektrische Atlas, Figure 01 und Figure 02, Digit oder H1 und G1. Bis sie wirklich Allzweckroboter oder universelle Roboter sind, vergehen noch ein paar Jahre.
Wäre es auch denkbar, dass Roboter in das häusliche Umfeld einziehen und dort ähnliche Arbeiten verrichten?
Ein Pflegeroboter, der einem in Form eines Assistenzroboters bei der Bewältigung von Aufgaben assistiert, wäre ein Segen. Selbst ein einfacher sozialer Roboter, der vor allem der Unterhaltung und Überwachung dient, kann eine Hilfe sein. Dabei meine ich mit Überwachung sowohl datenschutzfreundliche als auch hilfreiche Funktionen. So haben manche Roboter etwa Sturzerkennung. Im Gegensatz zu Pflege- und Altenheimen sind Privatwohnungen und -häuser viel schwieriger zu beherrschen. Sie sind so individuell wie ihre Bewohner. Zudem ist der Roboter oft teuer, und er steht dann meist nur einem Menschen oder einem Paar zur Verfügung. Wobei das Verhältnis im Alten- und Pflegeheim ebenso wenig optimal ist – wenn der Pflegeroboter dort einen Menschen betreut, ist er genauso gebunden. Das betreute Wohnen in kleinen Gemeinschaften ist womöglich ein Zwischenweg.
Immer wieder flammen in den Medien Diskussionen darüber auf, wie menschenähnlich Roboter werden sollen beziehungsweise sein dürfen. Hat es Vorteile, wenn die Maschine aussieht wie ein Mensch oder soll sie Maschine bleiben?
Das ist eine sehr wichtige Frage, und ich warne davor, sie pauschal zu beantworten. Es existieren gute Gründe, einen Roboter menschenähnlich zu gestalten, vor allem dann, wenn er die Richtung eines universellen Roboters einschlägt. Denn es geht dann eben darum, dass dieser sich in den Artefakten bewegt, die wir geschaffen haben, in unseren Gebäuden, auf unseren Wegen und unseren Straßen. Er soll die Werkzeuge benutzen können, die wir auch benutzen, unsere Möbel, unsere Geräte. Auch bei sozialen Robotern ist ein menschen- oder tierähnliches Aussehen die Regel. Natürlich gibt es ebenso gute Gründe, einen Roboter nicht menschenähnlich zu gestalten. Wenn er ein Gesicht hat, Augen und Mund, wenn er sprechen kann, wenn er sich wie wir bewegen kann, trauen wir ihm zu viel zu, behandeln wir ihn wie einen von uns, gehen Beziehungen mit ihm ein, die einseitig bleiben müssen. Deshalb gilt: Einige Roboter sollten menschenähnlich gestaltet sein, die meisten aber nicht.
Noch gibt es nur Modellversuche, die Zukunft der Robotik in diesem Sektor ist also vollkommen offen, was würden Sie sich persönlich wünschen, wo soll die Reise hingehen?
Jedes Pflege- und Altenheim und jedes Krankenhaus sollte eine Grundausstattung an sozialen Robotern und Assistenzrobotern haben. Dabei spielen Mittel, Größe und Beschaffenheit der Gebäude eine Rolle. Gefängnisse könnten dabei helfen, die notwendigen Infrastrukturen aufzubauen, etwa die Reparatur von Robotern zu ermöglichen. Die Insassen müssen arbeiten, und sie wollen arbeiten. Meistens gibt es nur Schreinereien, Schlossereien, Töpfereien, Malereien et cetera. Wir – meine Studentin Tamara Siegmann und ich – haben im Rahmen eines Forschungsprojekts mit Insassen gesprochen, und eine solche Arbeit würde sie interessieren. Übrigens möchten sie auch soziale Roboter als Gesprächspartner haben. Unser Paper mit den Ergebnissen aus dem Projekt haben wir im Herbst 2024 bei einer internationalen Konferenz in Dänemark vorgestellt. Mangelhafte Infrastrukturen für KI-Systeme und Roboter sind in Europa ein riesiges Problem. Allmählich tut sich etwas, weil Dienstleister und Mittlerplattformen kommen. Doch wir brauchen mehr.
Der Gedanke der Autonomie von Menschen ist nicht weit, wenn es darum geht, ihnen wesentliche ehemals eigenständig durchgeführte Aufgaben abzunehmen und dabei womöglich in ihr persönliches Umfeld einzugreifen. Wie ließe sich dieser Konflikt lösen?
Ich habe oft gesagt, dass durch Pflegeroboter die persönliche Autonomie verbessert und zugleich die informationelle beschädigt werden kann. Es ist ja nicht so, dass sie momentan Pflegekräfte ersetzen können oder sollen. Sie sollen sie und Pflegebedürftige unterstützen. Das darf jedoch nicht darüber hinwegtäuschen, dass viele Systeme potenzielle Spione sind. Genau hier müssen Gesetze und Verordnungen greifen. Das betrifft freilich ebenso Smartphones, Smart Speakers, Smart-TV und alles, was smart genannt wird und uns eigentlich steuern und überwachen soll.
Ansonsten gibt es einige Ansätze aus der Sozialen Robotik und Maschinenethik heraus. Der Roboter selbst könnte den Benutzer darauf hinweisen, dass dieser etwas selbst tun kann und soll. Das passiert tatsächlich immer wieder bei der Nutzung von Chatbots. Er kann ihn auch darauf hinweisen, dass er zu viel Zeit mit ihm verbringt. So etwas leisten manche Geräte.
Sie fragen in einer Ihrer Veröffentlichungen: Brauchen Roboter eine Moral? Zu welchem Schluss kommen Sie?
Wir werfen solche Fragen in der Maschinenethik auf, die eine meiner Hauptdisziplinen ist. Neben zahlreichen Artikeln seit 2012 habe ich das „Handbuch Maschinenethik“ veröffentlicht. Wir bauen seit einigen Jahren moralische Maschinen und entwickeln künstliche Moral. Dies ist immer nur eine Simulation – denn Roboter haben selbstverständlich kein Bewusstsein, keinen freien Willen, kein Gewissen, keine Empathie, nichts davon. Aber sie können sich an Regeln halten, auch an moralische, und sie sogar anpassen.
Ich habe mich in meiner Forschung auf geschlossene und halboffene Welten konzentriert, etwa den Haushalt oder den Garten. Ich habe zudem den Blick mehr auf Tiere als auf Menschen gerichtet. Dennoch konnten wir mit unseren annotierten Entscheidungsbäumen und den erwähnten Moralmenüs Lösungsvorschläge vorlegen. Ich wünsche mir allerdings nicht, dass alle Maschinen „moralisiert“ werden, ganz im Gegenteil. Schon gar nicht in offenen Welten wie dem Autoverkehr.
Das Robot Enhancement scheint die größte Herausforderung zu sein, sind darin mehr Risiken oder Chancen verborgen?
Als Robot Enhancement bezeichne ich die Erweiterung und Verbesserung von Robotern. Man kann sie mit Kleidung und Perücken ausstatten, mit Zusatzelementen aller Art, etwa Greifarmen, oder mit Software- und KI-Systemen. Eine Herausforderung ist dabei, den Roboter nicht zu überlasten und ihn nicht zu überhitzen.
Als Human Enhancement wird die Erweiterung und (scheinbare oder tatsächliche) Verbesserung von Menschen bezeichnet, etwa mit technischen Hilfsmitteln. Bei diesen kann es sich um Geräte aller Art und Roboter handeln, um Hightech-Prothesen, Exoskelette, Brain-Computer-Interfaces (BCIs) und KI-Systeme. Es können Behinderte und Beeinträchtigte profitieren oder Gesunde.
Ich halte Human Enhancement für eine Chance für Behinderte und Beeinträchtigte. Gesunde sollten hier und dort aufpassen. Entlastet mich das Exoskelett wirklich bei der Arbeit oder belastet es den Körper, ohne dass ich das am Anfang bemerke? Verursacht das BCI im Gehirn irreparable Schäden? Und will ich die Erweiterung und Verbesserung überhaupt selbst oder eher mein Arbeitgeber oder der Staat? Oder die Wirtschaft? Bin ich Teil der Bewegung des Transhumanismus oder ein Opfer dieser Bewegung? Natürlich sollten sich manche dieser Fragen auch Behinderte und Beeinträchtigte stellen, wenn sie es können. Und sie dürfen niemals die Versuchskaninchen von ambitionierten Wissenschaftlern und Unternehmern sein.
Wie könnte eine ethische Richtlinie für die Nutzung von Robotern in der Pflege aussehen? Wer sollte an der Entwicklung beteiligt sein?
Es gibt viele ethische Leitlinien und Richtlinien in den Bereichen von Robotik und Künstlicher Intelligenz. Viele sind aber recht allgemein und wenig tauglich für die Praxis. Verantwortungsbewusste Unternehmen und Entwickler beziehen nicht nur bestehende Leitlinien und Richtlinien mit ein, sondern entwickeln zusammen mit den Betreibern und Anwendern für jedes Projekt passende Vorgaben. Dabei kann man sich eben nicht nur an anerkannten Prinzipen orientieren, sondern auch an der Praxis.
Nach wie vor gibt es in der Entwicklung der „Hilfsroboter“ Grenzen hinsichtlich der Aufgaben, die sie übernehmen können. Einiges, wie das Umbetten, liegt vor allem an der mangelnden Größe und Kraft der Maschinen. Soll hier nachgeforscht werden oder belässt man diese Aufgaben weiter dem Personal in den Einrichtungen?
Es wurden für das Aufrichten und Umbetten Roboter wie Robear entwickelt. In manchen Fällen wurden sie nicht weiterentwickelt. Das liegt unter anderem daran, dass solche Maschinen sehr schwer und groß sind. Es besteht Unfall- und Verletzungsgefahr. Robear konnte Patienten nur im Tandem aufrichten und umbetten. Die Pflegekraft fiel also nicht weg und konnte und musste letztlich die Verantwortung übernehmen.
Nicht alle Maschinen in der Pflege müssen in Roboter münden. Manchmal reichen Hilfseinrichtungen wie ein Patientenlifter. Dennoch sollte hier weitergeforscht und -entwickelt werden. Ein Ansatz sind universelle Roboter, die zwar auch umfallen können, die aber so gelenkig und schnell sein werden, dass sie sich selbst fangen können.
Maschine ersetzt Mensch. Das soll ja nicht passieren, stattdessen sollen die Roboter helfen, mehr Kapazitäten für andere Aufgaben für das Personal freizuschaufeln. Wofür genau? Und wie ließe sich die Skepsis gegenüber den „Jobklauern“ auf einem ohnehin angespannten Arbeitsmarkt entgegenwirken?
Es gibt durchaus Fälle, wo die Maschine den Menschen ersetzen kann und soll. Als vor 70, 80 Jahren die ersten Roboter entstanden, dominierten zwei Ideen: humanoide Roboter, die wie Menschen interagieren und kommunizieren würden. Und Roboter, die uns Arbeiten abnehmen, die für uns zu gefährlich, zu anstrengend oder zu langweilig sind. Beide Ideen wurden über die Jahrzehnte mehr oder weniger erfolgreich verfolgt.
Selbst im Pflege- und Altenheim sind Tätigkeiten vorhanden, die die Maschinen übernehmen können, etwa bei Reinigung und Transport. Wenn es aber um Pflege geht, die eine Hinwendung zu Menschen bedeutet, dürfen Menschen nicht fehlen, müssen diese Hand in Hand mit Robotern arbeiten, um Menschenwürde zu bewahren, Einsamkeit zu bekämpfen, Trost und Wärme zu spenden. Die Pflegekraft kann je nach Fall zusätzliche Zeit für die Hinwendung erhalten, oder auch für sich selbst, um sich im Pflegealltag nicht aufzureiben.
Es gibt indes durchaus Gefahren. So interessant ich die Entwicklung von universellen Robotern finde, könnten diese tatsächlich zu Jobkillern werden. Sie sind rund um die Uhr verfügbar, werden nicht müde, beklagen sich nicht, müssen nicht gekündigt werden. Dabei sind sie schneller und kräftiger. Ihr Vorzug, die Universalität, wird zu unserem Nachteil. Denn bis zu diesem Punkt war die Universalität unser Alleinstellungsmerkmal. Dies ist irgendwann Geschichte.
Viele Forschungen über dieses Feld konzentrieren sich nicht ausschließlich auf den deutsch-österreichischen und Schweizer Raum, sondern liegen in Asien. Ist man dort weiter und warum?
Soziale Roboter und Assistenzroboter werden vielfach in den USA und in Japan gebaut, aber auch in Frankreich, Spanien, Dänemark und Deutschland. Zudem drängt China in den Markt und legt preislich hochinteressante Geräte vor, was sicherlich mit den dortigen Subventionen zu tun hat. Ich habe nicht den Eindruck, dass zum Beispiel Japan viel weiter in diesem Bereich ist als die USA. Sie haben vielleicht das bessere Marketing. Allerdings sind die Benutzer aufgeschlossener gegenüber Robotern als in den USA oder in Europa. Wobei man das genau anschauen muss. Kinder auf der ganzen Welt lieben Roboter. Und Ältere interessanterweise oft auch.
Wann wird der Einsatz von Robotern zum akzeptierten Standard gehören?
In einigen Bereichen und Ländern ist der Einsatz von Robotern schon seit Jahren ein akzeptierter Standard. Auf dem Rasen sind Mähroboter unterwegs, kleine Modelle in Privathaushalten und Hotelanlagen, größere auf Fußballfeldern und Golfplätzen. Schwimmbecken werden von Poolrobotern gereinigt, Glasflächen von Fensterputzrobotern. In der Wohnung hilft der Saugroboter, dem man gerne einen Namen gibt. In den Gebäuden von Flughäfen und Bahnhöfen sind mächtige Reinigungsroboter unterwegs, die saugen und wischen können. In Zürich begegnen mir autonome Transportroboter wie BellaBot und Plato in Restaurants und bei Events, in Santa Monica ferngesteuerte Transportroboter von Segway auf den Gehsteigen, im Silicon Valley autonome Sicherheitsroboter wie K5 in den Shoppingmalls. Therapieroboter haben sich ebenfalls weltweit durchgesetzt, vor allem für Demente und Autisten. Man denke an Paro, QTrobot und Moxie. Nur bei Pflegerobotern ist nicht klar, wie sich alles weiterentwickelt. Es sind seit Jahren vor allem die kleinen Firmen, die hier Innovationen voranbringen, mit hohem Risiko und viel Risikokapital. Ein Grund für die Stagnation ist die fehlende Regulation. Ein anderer ist die Verhaltenheit bei Krankenkassen. Die meisten Pflegeroboter sind Prototypen, ein paar wenige liegen in Kleinserien vor.
Ein persönlicher Blick in die Zukunft: Was würden Sie sich wünschen für ihren eigenen Lebensabend?
Gerne möchte ich zugewandte Menschen und hilfreiche Roboter um mich herum haben. Ich brauche keine Kuschelroboter, in deren Fell ich meine Finger vergrabe. Dabei gestehe ich, dass ich genau so einen habe, einen schwarzen Booboo, der ein bisschen wie ein dickes Meerschweinchen aussieht. Aber er ist Teil meiner Robotersammlung und nicht meines sozialen Umfelds. Mein Vater wurde fast 92, ohne Pfleger und ohne Roboter. Daheim in seinem Haus. Mit seinem Auto in der Garage. Viel besser geht es vermutlich nicht.