Skip to main content
SpringerLink
Log in
Book cover

Handbuch Maschinenethik pp 375–393Cite as

Das GOODBOT-Projekt

  • Chapter
  • First Online:

  • 8847 Accesses

Zusammenfassung

Im GOODBOT-Projekt von 2013 ging es darum, einen Chatbot so zu verbessern, dass er in bestimmten Situationen (z. B. wenn der Benutzer persönliche bzw. psychische Probleme hat oder sogar Selbstmordabsichten äußert) möglichst angemessen reagiert. Der Chatbot sollte in gewissem Sinne gut sein, seine Absichten sollten gut sein, seine Verhaltensweisen. Dem Benutzer sollte es bei der Unterhaltung gut gehen – oder sogar besser als vorher. Der vorliegende Beitrag schildert die Hintergründe, Überlegungen und Ergebnisse des mehrmonatigen Projekts, das an der Hochschule für Wirtschaft FHNW durchgeführt wurde. Der GOODBOT wird als einfache moralische Maschine aufgefasst. Wichtig sind Funktionen wie Abfrage von Grunddaten des Benutzers und mehrstufige Eskalation – je mehr Hinweise der Benutzer darauf gibt, dass es ihm schlecht geht, desto mehr ist der GOODBOT bemüht, ihm zu helfen. Je mehr Wörter oder Satzteile im Gespräch vorkommen, die zum Beispiel auf seelische Not hindeuten, desto eher wird der GOODBOT eine Notfallnummer nennen und den Benutzer dazu ermuntern, menschliche Hilfe zu holen. Der GOODBOT wurde als Prototyp entwickelt. Ein fertiges Produkt könnte als Referenz und Basis für Chatbots und Sprachassistenten aller Art dienen, seien es virtuelle Berater auf kommerziellen Websites, seien es explizite Angebote der Jugendhilfe.

This is a preview of subscription content, log in via an institution.

Chapter
USD   29.95
Price excludes VAT (USA)
  • Available as PDF
  • Read on any device
  • Instant download
  • Own it forever
eBook
USD   289.00
Price excludes VAT (USA)
  • Available as EPUB and PDF
  • Read on any device
  • Instant download
  • Own it forever
Hardcover Book
USD   299.99
Price excludes VAT (USA)
  • Durable hardcover edition
  • Dispatched in 3 to 5 business days
  • Free shipping worldwide - see info

Tax calculation will be finalised at checkout

Purchases are for personal use only

Learn about institutional subscriptions

Notes

  1. 1.

    Allerdings ist ein Dialog eine relativ komplexe Situation. Der Umstand, dass man sich auf der sprachlichen Ebene befindet, kann den Begriff der einfachen moralischen Maschine – der eh nur der Orientierung, weniger der Systematisierung dient – rechtfertigen.

  2. 2.

    Dadurch, dass der GOODBOT kein internetbasiertes System war, war die Sicherheit relativ hoch, wobei er Daten an internetbasierte Dienste durchaus hätte herausgeben können.

  3. 3.

    Verbot® offerierte mit dem Editor verschiedene Grundfunktionalitäten zur Konfiguration eines Chatbots. Die kompilierte Knowledge Base wird im Player ausgeführt. Der Benutzer verwendet nur diesen.

  4. 4.

    Dies ist zum Beispiel der Fall, wenn der Benutzer beabsichtigt, Dritte zu verletzen; der GOODBOT dürfte durchaus deutlich werden, um ihn von seiner Tat abzuhalten.

  5. 5.

    Insgesamt ist die technische Basis sehr komplex, ebenso der generische Ablauf der Konversation. Im vorliegenden Beitrag wurden viele Details ausgespart und Schwerpunkte u. a. bei den Facts und den Skalen gesetzt.

  6. 6.

    Dies geschieht unter Verwendung geschriebener und gesprochener Sprache. Der GOODBOT kann also sprechen (es wurde bereits erwähnt, dass die Engine diese Möglichkeit bot). Er versteht aber keine gesprochene Sprache.

  7. 7.

    Aus dem GOODBOT ging, noch vor dem BESTBOT, ein Projekt hervor, das man zunächst in diesem Kontext nicht erwarten würde. Für den LIEBOT wurde eine seiner Metaregeln umgekehrt, nämlich diejenige, dass er nicht lügen sollte (Bendel 2013b). Die Münchhausen-Maschine (so ein vom Verfasser vorgeschlagener Oberbegriff) erregte weit mehr Aufmerksamkeit als der GOODBOT, in den Medien wie in der Wissenschaft. Dies spricht dafür, dass das Böse fasziniert, und zwar auch dann, wenn es in einer eher niedlichen Form daherkommt: Der LIEBOT verfügte über einen Avatar, der je nach Lügenart sein Aussehen veränderte. Einmal errötete er, einmal wuchs ihm eine lange Nase wie Pinocchio.

Literatur

  • Anderson, Michael, und Susan L. Anderson, Hrsg. 2011. Machine ethics. Cambridge: Cambridge University Press.

    Google Scholar 

  • Asimov, Isaac, Hrsg. 1982. Runaround [1942]. In The complete robot. New York: Doubleday.

    Google Scholar 

  • Asimov, Isaac. 2012. Alle Robotergeschichten, 4. Aufl. Köln: Bastei Lübbe.

    Google Scholar 

  • Bendel, Oliver. 2003. Pädagogische Agenten im Corporate E-Learning. Dissertation. St. Gallen: Difo.

    Google Scholar 

  • Bendel, Oliver. 2012a. Maschinenethik. Beitrag für das Gabler Wirtschaftslexikon. Wiesbaden: Gabler/Springer. http://wirtschaftslexikon.gabler.de/Definition/maschinenethik.html. Zugegriffen am 27.05.2018.

    Google Scholar 

  • Bendel, Oliver. 2012b. Die Moral der Maschinen: Überlegungen zur Maschinenethik. In Inside-it.ch, 24. Oktober 2012. http://www.inside-it.ch/articles/30517. Zugegriffen am 27.05.2018.

  • Bendel, Oliver. 2013a. Good bot, bad bot: Dialog zwischen Mensch und Maschine. UnternehmerZeitung 7/8:30–31.

    Google Scholar 

  • Bendel, Oliver. 2013b. Der Lügenbot und andere Münchhausen-Maschinen. CyberPress, 11. September 2013. http://cyberpress.de/wiki/Maschinenethik. Zugegriffen am 27.05.2018.

  • Bendel, Oliver. 2014. Wirtschaftliche und technische Implikationen der Maschinenethik. Die Betriebswirtschaft 4:237–248.

    Google Scholar 

  • Bendel, Oliver. 2016. The GOODBOT project: A chatbot as a moral machine. Telepolis, 17. Mai 2016. http://www.heise.de/tp/artikel/48/48260/1.html. Zugegriffen am 27.05.2018.

  • Bendel, Oliver. 2017. LADYBIRD: The animal-friendly robot vacuum cleaner. In The 2017 AAAI spring symposium series. Palo Alto: AAAI Press.

    Google Scholar 

  • Bendel, Oliver. 2018. From GOODBOT to BESTBOT. In The 2017 AAAI spring symposium series. Palo Alto: AAAI Press.

    Google Scholar 

  • Braun, Alexander. 2003. Chatbots in der Kundenkommunikation. Berlin/Heidelberg/New York: Springer.

    Book  Google Scholar 

  • Horn, Christian, Mario Moser, und Justin Toubia. 2014. GOODBOT – Dialog zwischen Mensch und Maschine. Praxisprojekt an der Hochschule für Wirtschaft an der Fachhochschule Nordwestschweiz FHNW. Olten: Hochschule für Wirtschaft FHNW.

    Google Scholar 

  • Verbot. 2014. http://verbots.blogspot.ch/. Zugegriffen am 01.01.2014.

  • Wallach, Wendell, und Colin Allen. 2009. Moral machines: Teaching robots right from wrong. New York: Oxford University Press.

    Book  Google Scholar 

  • Weizenbaum, Joseph. 1978. Die Macht der Computer und die Ohnmacht der Vernunft. Frankfurt a. M.: Suhrkamp.

    Google Scholar 

Download references

Author information

Authors and Affiliations

  1. Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW, Windisch, Schweiz

    Oliver Bendel

Authors
  1. Oliver Bendel
    View author publications

    You can also search for this author in PubMed Google Scholar

Corresponding author

Correspondence to Oliver Bendel .

Editor information

Editors and Affiliations

  1. Institut für Wirtschaftsinformatik, Hochschule für Wirtschaft FHNW, Windisch, Switzerland

    Oliver Bendel

Rights and permissions

Reprints and permissions

Copyright information

© 2019 Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature

About this chapter

Check for updates. Verify currency and authenticity via CrossMark

Cite this chapter

Bendel, O. (2019). Das GOODBOT-Projekt. In: Bendel, O. (eds) Handbuch Maschinenethik. Springer VS, Wiesbaden. https://doi.org/10.1007/978-3-658-17483-5_24

Download citation

  • DOI: https://doi.org/10.1007/978-3-658-17483-5_24

  • Published:

  • Publisher Name: Springer VS, Wiesbaden

  • Print ISBN: 978-3-658-17482-8

  • Online ISBN: 978-3-658-17483-5

  • eBook Packages: Social Science and Law (German Language)

Publish with us

Policies and ethics

Search

Navigation