Zusammenfassung
Die Maschinenethik ist eine junge, dynamische Disziplin. Es ist einfach, ihren Gegenstand zu bestimmen, die Moral in der Maschine, und es fanden zahlreiche begriffliche Klärungen statt. Dennoch gibt es immer wieder Verwechslungen und Missverständnisse. Diese erinnern an die Diskussionen der ersten 40, 50 Jahre der Künstlichen Intelligenz. Dieser wurde vorgehalten, keine Fortschritte zu erzielen, ihr wurde vorgeworfen, dass Systeme nicht intelligent sein können, und es wurde von manchen nicht realisiert oder akzeptiert, dass man metaphorisch oder intentional sprechen kann, mit in die Zukunft gerichteten Absichten. Der vorliegende Beitrag will Grundlagen der Maschinenethik erarbeiten, ohne andere Grundlagenartikel und -bücher nachzuzeichnen und zusammenzufassen. Vielmehr wird, nachdem der Begriff der Maschinenethik erörtert wurde, die Frage beantwortet, warum wir eine solche Disziplin brauchen, zunächst aus philosophischer, dann aus praktischer Perspektive.
This is a preview of subscription content, log in via an institution to check access.
Notes
- 1.
Andernorts habe ich weitere Argumente ins Feld geführt. Die Maschine wird von uns alleingelassen, und sie gerät in Situationen, die wir vielleicht vorausgesehen haben, die sich aber tatsächlich anders gestalten. Es entsteht eine gewisse Unschärfe, und wenngleich die Moral sich dadurch nicht ändert, ändert sich deren Kontext und Relevanz (Bendel 2018a).
- 2.
Die Frage ist allerdings, was das genau heißt. Selbst wenn die Maschine sich genau wie ein Mensch moralisch verhalten könnte, wäre und bliebe sie eine Maschine.
- 3.
Damit meine ich nicht, dass ein intelligenter Mensch automatisch moralisch ist, ein weniger intelligenter automatisch unmoralisch. Ich verweise vielmehr auf die Evolution, in der hochentwickelte Intelligenz (die den Homo sapiens auszeichnet) und Moral mehr oder weniger zeitgleich auftauchen.
- 4.
Es kann wichtig für die Entwicklung der Moral sein, Emotionen zu überwinden. Zumindest müssen diese nicht in jedem Fall hingenommen werden.
- 5.
Es gibt Metaphern, die Sachverhalte vereinfachen und verfälschen, und es gibt Metaphern, die Sachverhalte so darstellen, dass man sie überhaupt erst verstehen kann. Wenn man behauptet, dass das Gehirn ein Computer ist oder der Organismus ein Algorithmus, geht man meines Erachtens zu weit. Diese Metaphern verzerren die Realität. Die Vorgänge im Gehirn werden wiederum oft nur mit Metaphern verständlich. Eine Strategie ist, auf eine Simplifizierung hinzuweisen, wenn sie stattfindet, und zu erklären, warum und wie man hier Bilder verwendet. So verfährt etwa Sapolsky (2017).
- 6.
Es fand im 21. Jahrhundert interessante Forschung zu Pflanzen statt; sie scheinen kommunizieren zu können, sie können etwas empfinden, aber sie können beispielsweise nicht leiden und nicht bewusst etwas tun.
- 7.
Gott taucht bei Aristoteles durchaus auf, hat aber keine tragende Funktion für die Ethik – die „Nikomachische Ethik“ kommt ohne einen Willen Gottes als oberstes Moralgesetz aus, wie sich der Theologe Rolfes (1911) in der Einleitung einer Ausgabe beschwert. Die Verehrung und Betrachtung, die in der „Eudemischen Ethik“ angesprochen wird, die der „Nikomachischen Ethik“ vorausging, lässt sich als Verehrung des Göttlichen in uns verstehen (Kullmann 2006, S. 256), wie überhaupt der Gott von Aristoteles keiner der Anbetung ist. Hippon von Samos war ihm allerdings zu materialistisch – so weit wie dieser, der ganz ohne Gott ausgekommen ist, wollte er nicht gehen (Widmann 2018), und er führte ja auch einen angeblichen Gottesbeweis, den Nachweis des ersten unbewegten Bewegenden, wie er es ausdrückte.
- 8.
Dies gilt selbst für Descartes, der mit seinem systematischen Zweifel einen allmächtigen Gott (sowie einen bösen Geist) verbindet (Descartes 2008). Sicherlich sind auch Philosophen nicht gegen jede Vereinnahmung immun, und bei manchen mischen sich Rationalität und Irrationalität; der französische Philosoph kann gar als strenggläubig gelten.
- 9.
- 10.
Dieser Aspekt wird in Abb. 1 in gewisser Weise unterschlagen. In dieser wird ausgedrückt, dass die menschliche Moral simuliert (schwache Maschinenethik) oder intendiert (starke Maschinenethik), aber nicht, dass eine maschinelle Moral erzeugt wird, die die Schwächen der menschlichen Moral beseitigt oder die von der menschlichen Moral ganz verschieden ist. Das kann aber das Ziel sein, wobei man im zweiten Fall fragen müsste, ob man noch von Moral sprechen kann.
- 11.
In einem Werbevideo zeigt das Fraunhofer-Institut für Produktionstechnik und Automatisierung, wie Care-O-bot einer Frau eine Blume überreicht.
- 12.
Persönlich bin ich der Meinung, dass Maschinen kein Selbstbewusstsein entwickeln können und werden. Dennoch halte ich die Forschung in diesem Bereich für wichtig und interessant. Man wird am Ende vielleicht nicht auf das Selbstbewusstsein stoßen, aber auf etwas Verwandtes.
- 13.
Ich betone immer wieder den Unterschied zwischen Entwicklung und Forschung auf der einen und der Anwendung auf der anderen Seite.
- 14.
Man könnte z. B. sagen, dass sie eine Primärverantwortung, aber keine Sekundärverantwortung tragen können, doch ob es das trifft, ist wiederum fraglich.
- 15.
Ich habe bereits darauf hingewiesen, dass ich für ein Verbot der Anwendung von Kampfrobotern bin, und ich habe entsprechende Petitionen unterschrieben. Ich bin aber nicht gegen die Erforschung von Kampfrobotern, obschon ich persönlich nichts damit zu tun haben will. Wenn die Maschinenethik alle Maschinen moralisieren kann (die sich moralisieren lassen), bedeutet das nicht, dass sie alle moralisieren muss.
- 16.
Bei einem Podiumsgespräch in Hamburg im November 2017 mit dem GEO-Chefredakteur wurde ich von einer Zuhörerin angegriffen. Sie war der Meinung, ich als Deutscher dürfe das Böse nicht hervorbringen, um es zu erforschen, und wenn ich es täte, sei ich ein Nazi. Nun muss man vielleicht genau hinschauen und muss herausfinden, worin das Böse besteht, das wir hervorbringen. Meine persönliche Moral verbietet es mir, ein Projekt durchzuführen, bei dem Menschen und Tiere zu Schaden kommen. Ich lehne sogar generell Tierversuche ab, was sicherlich als radikal angesehen werden darf. Ich hätte es also nicht zugelassen, dass Menschen gefoltert werden, um die abscheulichsten Lügen auszuspucken, die wir dem LIEBOT einpflanzen könnten. Und tatsächlich sind wir hier auf einer ethischen Ebene angelangt, nämlich auf der Ebene der Wissenschaftsethik.
- 17.
Damit meine ich nicht, dass moralische oder unmoralische Maschinen unbedingt so gebaut werden müssen, in Übertragung der individuellen Moral, sondern nur, dass die Behauptung, es brauche eine universelle Moral, so nicht stimmt.
- 18.
Dies führte auf dem Workshop zu Kontroversen. Eine Frage war, ob man dem Staubsauger auch ermöglichen sollte, Katzen zu quälen. Um so etwas auszuschließen, gibt es allerdings Gesetze, und natürlich darf ein Moralmenü nicht gegen solche verstoßen. Ein Einwand war, es würde durchaus Konsens in etlichen Punkten darüber existieren, was richtig und was falsch ist. Das mag sein, und es ist in LADYBIRD ja auch fest verdrahtet, dass er keine Marienkäfer töten soll. Der Wunsch, Spinnen zu töten, kam von meinen Studierenden. Ich finde ihn unmoralisch, aber man kann ihn eben ethisch berücksichtigen. LADYBIRD ist in gewisser Weise ein Mischwesen. Er gibt eine Moral vor, lässt jedoch die Freiheit, die eigene Moral zu übertragen.
- 19.
Warum die Freiheit nicht bei Marienkäfern, aber bei Spinnen? Darüber kann man in der Tat streiten. Eine Idee wäre, dass der Benutzer seine Entscheidung, Spinnen töten zu lassen, erst begründen muss, oder dass er von der Maschine eine Auskunft erhält, die ihn von seiner Entscheidung abbringen könnte. Letztlich werden moralische Maschinen, die von der Industrie angeboten werden, voller Vorurteile sein, aber die Idee ist schlicht, den Benutzer zufriedenzustellen. Dass dieser an sich aufgeklärt und umgestimmt werden kann, steht außer Frage. Man könnte ihm beibringen, dass er Spinnen nicht töten soll, obwohl er sie eklig findet, also an seine Vernunft und die Überwindung seiner Emotionen appellieren.
- 20.
Es handelt sich nicht nur um ein persönliches moralisches Problem, sondern auch um ein Rechtfertigungsproblem der Disziplin.
- 21.
Das mag ein etwas kühner Schluss sein. Ich würde auf jeden Fall behaupten, eine Maschinenethik, die sich nicht am Konkreten versucht, verdient ihren Namen nicht.
- 22.
Es ist bezeichnend, dass in der von Alexander Dobrindt ins Leben gerufenen Ethikkommission, die sich automatisiertem Fahren und autonomen Autos widmete, kein einziger Maschinenethiker einsaß, obwohl deren Gegenstand hauptsächlich verhandelt wurde. Stattdessen konnte ein Weihbischof das einbringen, was die Heilige Schrift zu diesem Thema vorzuweisen hat. Überhaupt hat Deutschland ein Problem mit der philosophischen Ethik, nicht nur die Politik, wie man ebenso an der Besetzung des Deutschen Ethikrats sieht, sondern auch die Medien, allen voran die öffentlich-rechtlichen Sendeanstalten. Deutschland hat darüber hinaus ein Problem mit der Wissenschaft, und an Grundschulen scheint es wichtiger zu sein, die Schöpfungslehre zu vermitteln als Grundlagen der Evolutionstheorie.
Literatur
Anderson, Michael, und Susan L. Anderson, Hrsg. 2011. Machine ethics. Cambridge: Cambridge University Press.
Asimov, Isimov. 1973. The best of Isaac Asimov. Stamford: Sphere.
Asimov, Isaac. 1982. Runaround [1942]. In The complete robot, Asimov, Isaac. New York: Doubleday.
Bendel, Oliver. 2012. Maschinenethik. Gabler Wirtschaftslexikon. Wiesbaden: Springer Gabler. http://wirtschaftslexikon.gabler.de/Definition/maschinenethik.html. Zugegriffen am 25.05.2018.
Bendel, Oliver. 2013a. Die Medizinethik in der Informationsgesellschaft: Überlegungen zur Stellung der Informationsethik. Informatik-Spektrum 36(6): 530–535.
Bendel, Oliver. 2013b. Towards a machine ethics. In Technology assessment and policy areas of great transitions: Book of abstracts. 1st PACITA project conference, 13.03.–15.03.2013, 229–230. Prague. http://pacita.strast.cz/en/conference/documents. Zugegriffen am 25.05.2018.
Bendel, Oliver. 2014a. Advanced driver assistance systems and animals. Künstliche Intelligenz 28(4): 263–269.
Bendel, Oliver. 2014b. Fahrerassistenzsysteme aus ethischer Sicht. Zeitschrift für Verkehrssicherheit 2(2014): 108–110.
Bendel, Oliver. 2014c. Wirtschaftliche und technische Implikationen der Maschinenethik. Die Betriebswirtschaft 4:237–248.
Bendel, Oliver. 2014d. Towards machine ethics. In Technology assessment and policy areas of great transitions. 1st PACITA project conference, 13.03.–15.03.2013, Hrsg. Tomáš Michalek, Lenka Hebáková, Leonhard Hennen, et al., 321–326. Prague.
Bendel, Oliver. 2015. Überlegungen zur Disziplin der Tier-Maschine-Interaktion. GBS, 14.02.2015. http://gbs-schweiz.org/blog/ueberlegungen-zur-disziplin-der-tier-maschine-interaktion/. Zugegriffen am 25.05.2018.
Bendel, Oliver. 2016. Annotated decision trees for simple moral machines. In The 2016 AAAI spring symposium series, 195–201. Palo Alto: AAAI Press.
Bendel, Oliver. 2017. LADYBIRD: The animal-friendly robot vacuum cleaner. In The 2017 AAAI spring symposium series. Palo Alto: AAAI Press.
Bendel, Oliver. 2018a. Überlegungen zur Disziplin der Maschinenethik. Aus Politik und Zeitgeschichte 6–8:34–38.
Bendel, Oliver. 2018b. From GOODBOT to BESTBOT. In The 2018 AAAI spring symposium series. Palo Alto: AAAI Press.
Bendel, Oliver, Kevin Schwegler, und und Bradley Richards. 2017. Towards Kant machines. In The 2017 AAAI spring symposium series. Palo Alto: AAAI Press.
Beuth, Patrick. 2017. Hitchbot: Trampender Roboter kommt vielleicht nach Deutschland. ZEIT ONLINE, 19.08.2014. https://www.zeit.de/digital/internet/2014-08/hitchbot-anhalter-kanada-ziel. Zugegriffen am 25.05.2018.
Capurro, Rafael. 2017. Digitale Ethik. In Anthropologie – Technikphilosophie – Gesellschaft, Hrsg. Homo Digitalis. Wiesbaden: Springer VS.
Descartes, René. 2008. Meditationes de prima philosophia. Hamburg: Meiner.
Floridi, Luciano. 2015. The ethics of information. Oxford: Oxford University Press.
Kuhlen, Rainer. 2004. Informationsethik: Umgang mit Wissen und Informationen in elektronischen Räumen. Konstanz: UVK.
Kullmann, Wolfgang. 2006. Theoretische und politische Lebensform (X 6 – 9). In Aristoteles: Nikomachische Ethik, Hrsg. Otfried Höffe. Berlin: Akademie.
Pereira, Luís Moniz, und Ari Saptawijaya. 2016. Programming machine ethics. Cham: Springer International Publishing Switzerland.
Pieper, Annemarie. 2007. Einführung in die Ethik, 6., überarb. u. ak. Aufl. Tübingen/Basel: A. Francke
Rolfes, Eugen, Hrsg. 1911. Aristoteles’ Nikomachische Ethik. Leipzig: Meiner.
Sapolsky, Robert M. 2017. Gewalt und Mitgefühl: Die Biologie des menschlichen Verhaltens. München: Carl Hanser.
Wallach, Wendell, und Colin Allen. 2009. Moral machines: Teaching robots right from wrong. New York: Oxford University Press.
Widmann, Arno. Nietzsche gab es immer wieder. Frankfurter Rundschau, 28.06.2018. http://www.fr.de/kultur/literatur/atheismus-nietzsche-gab-es-immer-wieder-a-1533180. Zugegriffen am 28.06.2018.
Author information
Authors and Affiliations
Corresponding author
Editor information
Editors and Affiliations
Rights and permissions
Copyright information
© 2020 Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature
About this entry
Cite this entry
Bendel, O. (2020). Wozu brauchen wir die Maschinenethik?. In: Bendel, O. (eds) Handbuch Maschinenethik. Springer Reference Geisteswissenschaften. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-17484-2_2-2
Download citation
DOI: https://doi.org/10.1007/978-3-658-17484-2_2-2
Received:
Accepted:
Published:
Publisher Name: Springer VS, Wiesbaden
Print ISBN: 978-3-658-17484-2
Online ISBN: 978-3-658-17484-2
eBook Packages: Springer Referenz Sozialwissenschaften und Recht
Publish with us
Chapter history
-
Latest
Wozu brauchen wir die Maschinenethik?- Published:
- 04 December 2019
DOI: https://doi.org/10.1007/978-3-658-17484-2_2-2
-
Original
Wozu brauchen wir die Maschinenethik?- Published:
- 17 August 2018
DOI: https://doi.org/10.1007/978-3-658-17484-2_2-1