Skip to main content

2021 | OriginalPaper | Buchkapitel

6. Soziale Robotik und KI

Wie sich Roboter autonom nach Werten und Normen verhalten können

verfasst von : Felix Lindner

Erschienen in: Soziale Roboter

Verlag: Springer Fachmedien Wiesbaden

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Während im öffentlichen Diskurs Künstliche Intelligenz und Robotik häufig ganz selbstverständlich zusammengedacht werden, haben sich historisch zwei separate Disziplinen entwickelt: die Künstliche Intelligenz beschäftigt sich mit der Formalisierung und Algorithmisierung von Schlussfolgern und Problemlösen, und die Robotik befasst sich mit der maschinellen Wahrnehmung der Umwelt sowie der autonomen Ausführung von Handlungen. In diesem Kapitel wird die Soziale Robotik als ein Bindeglied zwischen den beiden Disziplinen aufgefasst. Soziale Roboter sind Roboter, die sich nach den Werten und Normen des sozialen Miteinanders richten. Damit dies möglich wird, müssen Verfahren aus der Robotik um eine soziale Dimension erweitert werden. Eine Möglichkeit besteht darin, Techniken aus der Künstlichen Intelligenz zu verwenden, um soziale Werte und Normen explizit zu modellieren. Der Beitrag thematisiert das sogenannte Value-Alignment-Problem in der Künstlichen Intelligenz im Allgemeinen und demonstriert anhand von sozialer Roboter-Navigation im Speziellen, wie Techniken aus der Künstlichen Intelligenz für die Soziale Robotik genutzt werden können, damit Roboter ihre Handlungen nach menschlichen Werten und Normen ausrichten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
Zurück zum Zitat Abdo N, Stanhiss C, Spinello L, Burgard W (2015) Robot, organize my shelves! Tidying up objects by predicting user preferences. In: 2015 IEEE international conference on robotics and automation (ICRA), Seattle, WA, S 1557–1564 Abdo N, Stanhiss C, Spinello L, Burgard W (2015) Robot, organize my shelves! Tidying up objects by predicting user preferences. In: 2015 IEEE international conference on robotics and automation (ICRA), Seattle, WA, S 1557–1564
Zurück zum Zitat Althaus P, Ishiguro H, Kanda T, Miyshita T, Christensen HI (2004) Navigation for human-robot interaction tasks. In: Proceedings of the 2004 IEEE international conference on robotics and automation (ICRA’04), New Orleans, LA, S 1894–1900 Althaus P, Ishiguro H, Kanda T, Miyshita T, Christensen HI (2004) Navigation for human-robot interaction tasks. In: Proceedings of the 2004 IEEE international conference on robotics and automation (ICRA’04), New Orleans, LA, S 1894–1900
Zurück zum Zitat Amodei D, Olah C, Steinhardt J, Christiano P, Schulman J, Mané D (2016) Concrete problems in AI safety. arXiv:1606.06565 Amodei D, Olah C, Steinhardt J, Christiano P, Schulman J, Mané D (2016) Concrete problems in AI safety. arXiv:1606.06565
Zurück zum Zitat Baader F, Calvanese D, McGuiness D, Nardi D (2007) The description logic handbook. Cambridge University Press, CambridgeCrossRef Baader F, Calvanese D, McGuiness D, Nardi D (2007) The description logic handbook. Cambridge University Press, CambridgeCrossRef
Zurück zum Zitat Bartneck C, Forlizzi J (2004) A design-centered framework for social human-robot interaction. In: IEEE international workshop on robot and human interactive communication (RO-MAN 2004), Kurashiki Bartneck C, Forlizzi J (2004) A design-centered framework for social human-robot interaction. In: IEEE international workshop on robot and human interactive communication (RO-MAN 2004), Kurashiki
Zurück zum Zitat Bonarini A (2020) Communication in human-robot interaction. Curr Robot Rep 1:279–285CrossRef Bonarini A (2020) Communication in human-robot interaction. Curr Robot Rep 1:279–285CrossRef
Zurück zum Zitat Breazeal C, Brooks R (2005) Robot emotion: a functional perspective. In: Fellous J (Hrsg) Who needs emotions. Oxford University Press, Oxford, S 271–310CrossRef Breazeal C, Brooks R (2005) Robot emotion: a functional perspective. In: Fellous J (Hrsg) Who needs emotions. Oxford University Press, Oxford, S 271–310CrossRef
Zurück zum Zitat Bruckschen L, Bungert K, Dengler N, Bennewitz M (2020) Predicting human navigation goals based on Bayesian inference and activity regions. Robot Auton Syst 134:103664CrossRef Bruckschen L, Bungert K, Dengler N, Bennewitz M (2020) Predicting human navigation goals based on Bayesian inference and activity regions. Robot Auton Syst 134:103664CrossRef
Zurück zum Zitat Cakmak M, Takayama L (2013) Towards a comprehensive chore list for demostic robots. In: Proceedings of the 8th ACM/IEEE international conference on human-robot interaction, Tokyo, S 93–94 Cakmak M, Takayama L (2013) Towards a comprehensive chore list for demostic robots. In: Proceedings of the 8th ACM/IEEE international conference on human-robot interaction, Tokyo, S 93–94
Zurück zum Zitat Campbell M, Hoane AJ Jr, Hsu FH (2002) Deep blue. Artif Intell 1–2:52–83MATH Campbell M, Hoane AJ Jr, Hsu FH (2002) Deep blue. Artif Intell 1–2:52–83MATH
Zurück zum Zitat Carlucci FM, Nardi L, Iocchi L, Nardi D (2015) Explicit representation of social norms for social robots. In: 2015 IEEE/RSJ international conference on intelligent robots and systems (IROS), Hamburg, S 4191–4196 Carlucci FM, Nardi L, Iocchi L, Nardi D (2015) Explicit representation of social norms for social robots. In: 2015 IEEE/RSJ international conference on intelligent robots and systems (IROS), Hamburg, S 4191–4196
Zurück zum Zitat Coates A, Abbeel P, Ng AY (2008) Learning for control from multiple demonstrations. In: ICML’08: Proceedings of the 25th international conference on machine learning, Helsinki, S 144–151 Coates A, Abbeel P, Ng AY (2008) Learning for control from multiple demonstrations. In: ICML’08: Proceedings of the 25th international conference on machine learning, Helsinki, S 144–151
Zurück zum Zitat Dennis L, Bentzen MM, Lindner F, Fisher M (2021) Verifiable machine ethics in changing contexts. In: Proceedings of the 35th AAAI conference on artificial intelligence, Virtual Conference, S 11470–11478 Dennis L, Bentzen MM, Lindner F, Fisher M (2021) Verifiable machine ethics in changing contexts. In: Proceedings of the 35th AAAI conference on artificial intelligence, Virtual Conference, S 11470–11478
Zurück zum Zitat Dissing L, Bolander T (2020) Implementing theory of mind on a robot using dynamic epistemic logic. In: Proceedings of the twenty-ninth international joint conference on artificial intelligence (IJCAI), Yokohama, S 1615–1621 Dissing L, Bolander T (2020) Implementing theory of mind on a robot using dynamic epistemic logic. In: Proceedings of the twenty-ninth international joint conference on artificial intelligence (IJCAI), Yokohama, S 1615–1621
Zurück zum Zitat Dragan AD, Lee KT, Srinivasa, SS (2013) Legibility and predictability of robot motion. In: Proceedings of the international conference on human-robot-interaction (HRI’13), Tokyo, S 301–308 Dragan AD, Lee KT, Srinivasa, SS (2013) Legibility and predictability of robot motion. In: Proceedings of the international conference on human-robot-interaction (HRI’13), Tokyo, S 301–308
Zurück zum Zitat Gabriel I (2020) Artificial intelligence, values, and alignment. Mind Mach 30:411–437CrossRef Gabriel I (2020) Artificial intelligence, values, and alignment. Mind Mach 30:411–437CrossRef
Zurück zum Zitat Galindo C, Saffiotti A (2013) Inferring robot goals from violations of semantic knowledge. Robot Auton Syst 61(10):1131–1143CrossRef Galindo C, Saffiotti A (2013) Inferring robot goals from violations of semantic knowledge. Robot Auton Syst 61(10):1131–1143CrossRef
Zurück zum Zitat Galindo C, Fernández-Madrigal JA, González J, Saffiotti A (2008) Robot task planning using semantic maps. Robot Auton Syst 56(11):955–966CrossRef Galindo C, Fernández-Madrigal JA, González J, Saffiotti A (2008) Robot task planning using semantic maps. Robot Auton Syst 56(11):955–966CrossRef
Zurück zum Zitat Hadfield-Menell D, Milli S, Abbeel P, Russell S, Dragan AD (2017) Inverse reward design. In: NIPS’17: proceedings of the 31st international conference on neural information processing systems, Long Beach, CA, S 6768–6777 Hadfield-Menell D, Milli S, Abbeel P, Russell S, Dragan AD (2017) Inverse reward design. In: NIPS’17: proceedings of the 31st international conference on neural information processing systems, Long Beach, CA, S 6768–6777
Zurück zum Zitat Hall ET (1966) The hidden dimension, man’s use of space in public and private. The Bodley Head, London Hall ET (1966) The hidden dimension, man’s use of space in public and private. The Bodley Head, London
Zurück zum Zitat Jokinen K, Wilcock G (2017) Dialogues with social robots. Springer Singapore, SingaporeCrossRef Jokinen K, Wilcock G (2017) Dialogues with social robots. Springer Singapore, SingaporeCrossRef
Zurück zum Zitat Kendon A (1990) Conducting interaction: patterns of behavior and focused encounters. Cambridge University Press, Cambridge Kendon A (1990) Conducting interaction: patterns of behavior and focused encounters. Cambridge University Press, Cambridge
Zurück zum Zitat Kim Y, Mutlu B (2014) How social distance shapes human-robot interaction. Int J Human-Robot Stud 72:783–795CrossRef Kim Y, Mutlu B (2014) How social distance shapes human-robot interaction. Int J Human-Robot Stud 72:783–795CrossRef
Zurück zum Zitat Knox WB, Stone P, Breazeal C (2013) Training a robot via human feedback: a case study. In: Social robotics – ICSR 2013, Bristol, S 460–470 Knox WB, Stone P, Breazeal C (2013) Training a robot via human feedback: a case study. In: Social robotics – ICSR 2013, Bristol, S 460–470
Zurück zum Zitat Koay KL, Walters ML, May A, Dumitriu A, Christianson B, Burke N, Dautenhahn K (2013) Exploring robot etiquette: refining a HRI home companion scenario based on feedback from two artists who lived with robots in the UH robot house. In: Social robotics – ICSR 2013, Bristol, S 290–300 Koay KL, Walters ML, May A, Dumitriu A, Christianson B, Burke N, Dautenhahn K (2013) Exploring robot etiquette: refining a HRI home companion scenario based on feedback from two artists who lived with robots in the UH robot house. In: Social robotics – ICSR 2013, Bristol, S 290–300
Zurück zum Zitat Kostavelis I, Gasteratos A (2015) Semantic mapping for mobile robotics tasks: a survey. Robot Auton Syst 66:86–103CrossRef Kostavelis I, Gasteratos A (2015) Semantic mapping for mobile robotics tasks: a survey. Robot Auton Syst 66:86–103CrossRef
Zurück zum Zitat Kruse T, Pandey A, Alami R, Kirsch A (2013) Human-aware robot navigation: a survey. Robot Auton Syst 61(12):1726–1743CrossRef Kruse T, Pandey A, Alami R, Kirsch A (2013) Human-aware robot navigation: a survey. Robot Auton Syst 61(12):1726–1743CrossRef
Zurück zum Zitat Lam CP, Chou CT, Chiang KH, Fu LC (2011) Human-centered robot naviation – towards a harmoniously human-robot coexisting environment. IEEE Trans Robot 27(1):99–112CrossRef Lam CP, Chou CT, Chiang KH, Fu LC (2011) Human-centered robot naviation – towards a harmoniously human-robot coexisting environment. IEEE Trans Robot 27(1):99–112CrossRef
Zurück zum Zitat Levesque H, Brachman RJ (2004) Knowledge representation and reasoning. Morgan Kaufmann Publishers, BurlingtonMATH Levesque H, Brachman RJ (2004) Knowledge representation and reasoning. Morgan Kaufmann Publishers, BurlingtonMATH
Zurück zum Zitat Lindner F, Eschenbach C (2011) Towards a formalization of social spaces for socially aware robots. In: Spatial information theory (COSIT’11), Belfast, ME, S 283–303 Lindner F, Eschenbach C (2011) Towards a formalization of social spaces for socially aware robots. In: Spatial information theory (COSIT’11), Belfast, ME, S 283–303
Zurück zum Zitat Lindner F, Wächter L, Bentzen MM (2017) Discussions about lying with an ethical reasoning robot. In: Proceedings of the 26th IEEE international symposium on robot and human interactive communication (RO-MAN 2017), Lisbon, S 1445–1450 Lindner F, Wächter L, Bentzen MM (2017) Discussions about lying with an ethical reasoning robot. In: Proceedings of the 26th IEEE international symposium on robot and human interactive communication (RO-MAN 2017), Lisbon, S 1445–1450
Zurück zum Zitat Mutlu B, Forlizzi J (2008) Robots in organizations: workflow, social, and environmental factors in human-robot interaction. In: Proceedings of the 3rd ACM/IEEE international conference on human-robot interaction (HRI’08), Amsterdam, S 287–294 Mutlu B, Forlizzi J (2008) Robots in organizations: workflow, social, and environmental factors in human-robot interaction. In: Proceedings of the 3rd ACM/IEEE international conference on human-robot interaction (HRI’08), Amsterdam, S 287–294
Zurück zum Zitat Mutlu B, Shiwa T, Kanda T, Ishiguro H, Hagita N (2009) Footing in human-robot conversations: how robots might shape participant roles using gaze cues. In: HRI’09: Proceedings of the 4th ACM/IEEE international conference on human-robot interaction, New York, S 61–68 Mutlu B, Shiwa T, Kanda T, Ishiguro H, Hagita N (2009) Footing in human-robot conversations: how robots might shape participant roles using gaze cues. In: HRI’09: Proceedings of the 4th ACM/IEEE international conference on human-robot interaction, New York, S 61–68
Zurück zum Zitat Ng AY, Russell S (2000) Algorithms for inverse reinforcement learning. In: ICML’00: Proceedings of the 17th international conference on machine learning, Stanford, CA, S 663–670 Ng AY, Russell S (2000) Algorithms for inverse reinforcement learning. In: ICML’00: Proceedings of the 17th international conference on machine learning, Stanford, CA, S 663–670
Zurück zum Zitat Nilsson NJ (1984) Shakey the robot. Technical note 323, SRI International Nilsson NJ (1984) Shakey the robot. Technical note 323, SRI International
Zurück zum Zitat Nourbakhsh IR, Bobenage J, Grange S, Lutze R, Meyer R, Soto A (1999) An affective mobile robot educator with a full-time job. Artif Intell 114(1):95–124CrossRef Nourbakhsh IR, Bobenage J, Grange S, Lutze R, Meyer R, Soto A (1999) An affective mobile robot educator with a full-time job. Artif Intell 114(1):95–124CrossRef
Zurück zum Zitat Okada K, Kojika M, Sagawa Y, Ichino T, Sato K, Inaba M (2006) Vision based behavior verification system of humanoid robot for daily environment tasks. In: Proceedings of the 6th IEEE-RAS international conference on humanoid robots, Genova, S 7–12 Okada K, Kojika M, Sagawa Y, Ichino T, Sato K, Inaba M (2006) Vision based behavior verification system of humanoid robot for daily environment tasks. In: Proceedings of the 6th IEEE-RAS international conference on humanoid robots, Genova, S 7–12
Zurück zum Zitat Rockel S, Neumann B, Zhang J, Dubba KSR, Cohn AG, Konecny S, Mansouri M, Pecora F, Saffiotti A, Günther M, Stock S, Hertzberg J, Tomé AM, Pinho A, Lopes LS, von Riegen S, Hotz L (2013) An ontology-based multi-level robot architecture for learning from experiences. Designing intelligent robots: reintegrating AI II: AAAI spring symposium, AAAI Press, Stanford, CA Rockel S, Neumann B, Zhang J, Dubba KSR, Cohn AG, Konecny S, Mansouri M, Pecora F, Saffiotti A, Günther M, Stock S, Hertzberg J, Tomé AM, Pinho A, Lopes LS, von Riegen S, Hotz L (2013) An ontology-based multi-level robot architecture for learning from experiences. Designing intelligent robots: reintegrating AI II: AAAI spring symposium, AAAI Press, Stanford, CA
Zurück zum Zitat Russell S, Norvig P (2016) Artificial intelligence: a modern approach, 3. Aufl. Addison Wesley, BostonMATH Russell S, Norvig P (2016) Artificial intelligence: a modern approach, 3. Aufl. Addison Wesley, BostonMATH
Zurück zum Zitat Russell S, Dewe D, Tegmark M (2015) Research priorities for robust and beneficial artificial intelligence. AI Mag 36(4):105–114 Russell S, Dewe D, Tegmark M (2015) Research priorities for robust and beneficial artificial intelligence. AI Mag 36(4):105–114
Zurück zum Zitat Seibt J, Damholdt MF, Vestergaard C (2020) Integrative social robotics, value-driven design, and transdisciplinarity. Interact Stud 21(1):111–144CrossRef Seibt J, Damholdt MF, Vestergaard C (2020) Integrative social robotics, value-driven design, and transdisciplinarity. Interact Stud 21(1):111–144CrossRef
Zurück zum Zitat Shah R, Krasheninnikov D, Alexander J, Abbeel P, Dragan AD (2019) Preferences implicit in the state of the world. In: International conference on learning representations (ICLR), New Orleans, LA Shah R, Krasheninnikov D, Alexander J, Abbeel P, Dragan AD (2019) Preferences implicit in the state of the world. In: International conference on learning representations (ICLR), New Orleans, LA
Zurück zum Zitat Siegwart R, Nourbakhsh IR, Scaramuzza D (2011) Introduction to autonomous mobile robots. MIT Press, Cambridge, MA Siegwart R, Nourbakhsh IR, Scaramuzza D (2011) Introduction to autonomous mobile robots. MIT Press, Cambridge, MA
Zurück zum Zitat Sisbot EA, Marin-Urias LF, Alami R, Simeon T (2007) A human-aware mobile robot motion planner. IEEE Trans Robot 23(5):874–883CrossRef Sisbot EA, Marin-Urias LF, Alami R, Simeon T (2007) A human-aware mobile robot motion planner. IEEE Trans Robot 23(5):874–883CrossRef
Zurück zum Zitat Tipaldi DG, Arras KO (2011) I want my coffee hot! Learning to find people under spatio-temporal constraints. In: Proceedings of the 2011 international conference on robotics and automation (ICRA), Shanghai, S 1217–1222 Tipaldi DG, Arras KO (2011) I want my coffee hot! Learning to find people under spatio-temporal constraints. In: Proceedings of the 2011 international conference on robotics and automation (ICRA), Shanghai, S 1217–1222
Zurück zum Zitat Tolmeijer S, Weiss A, Hanheide M, Lindner F, Powers TM, Dixon C, Tielman ML (2020) Taxonomy of trust-relevant failures and mitigation strategies. In: HRI’20: Proceedings of the 2020 ACM/IEEE international conference on human-robot interaction, Cambridge, S 3–12 Tolmeijer S, Weiss A, Hanheide M, Lindner F, Powers TM, Dixon C, Tielman ML (2020) Taxonomy of trust-relevant failures and mitigation strategies. In: HRI’20: Proceedings of the 2020 ACM/IEEE international conference on human-robot interaction, Cambridge, S 3–12
Zurück zum Zitat Torta E, Cuijpers RH, Juola JF, van der Pol D (2012) Modeling and testing proxemic behavior for humanoid robots. Int J Humanoid Rob 9(4):1–24 Torta E, Cuijpers RH, Juola JF, van der Pol D (2012) Modeling and testing proxemic behavior for humanoid robots. Int J Humanoid Rob 9(4):1–24
Zurück zum Zitat Volkhardt M, Weinrich C, Gross HM (2013) People tracking on a mobile companion robot. Proceedings of the IEEE international conference on systems, man, and cybernetics (IEEE-SMC 2013), Manchester, S 4354–4359 Volkhardt M, Weinrich C, Gross HM (2013) People tracking on a mobile companion robot. Proceedings of the IEEE international conference on systems, man, and cybernetics (IEEE-SMC 2013), Manchester, S 4354–4359
Zurück zum Zitat Wallach W, Allen C (2010) Moral machines: teaching robots right from wrong. Oxford University Press, Oxford Wallach W, Allen C (2010) Moral machines: teaching robots right from wrong. Oxford University Press, Oxford
Zurück zum Zitat Walters ML, Dautenhahn K, te Boekhorst R, Koay KL, Syrda DS, Nehaniv CL (2009) An empirical framework for human-robot proxemics. In: Proceedings of the symposium on new frontiers in human-robot interaction (AISB’09), Edinburgh, S 144–149 Walters ML, Dautenhahn K, te Boekhorst R, Koay KL, Syrda DS, Nehaniv CL (2009) An empirical framework for human-robot proxemics. In: Proceedings of the symposium on new frontiers in human-robot interaction (AISB’09), Edinburgh, S 144–149
Zurück zum Zitat Yamaoka F, Kanda T, Ishiguro H, Hagita N (2010) A model of proximity control for information-presenting robots. IEEE Trans Robot 26(1):187–195CrossRef Yamaoka F, Kanda T, Ishiguro H, Hagita N (2010) A model of proximity control for information-presenting robots. IEEE Trans Robot 26(1):187–195CrossRef
Metadaten
Titel
Soziale Robotik und KI
verfasst von
Felix Lindner
Copyright-Jahr
2021
DOI
https://doi.org/10.1007/978-3-658-31114-8_6

Premium Partner