nach oben

Erschienen in:

2024 | OriginalPaper | Buchkapitel

Die digitale Verantwortungslücke: Vorschläge zur Haftung für algorithmisches Fehlverhalten

verfasst von : Anna Beckers, Gunther Teubner

Erschienen in: Künstliche Intelligenz, Mensch und Gesellschaft

Verlag: Springer Fachmedien Wiesbaden

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config

KI-gestützte Suche

Aus

Zusammenfassung

Wenn autonome Algorithmen, die innerhalb unterschiedlicher sozio-digitaler Institutionen agieren, Fehlentscheidungen treffen, welche Konsequenzen ergeben sich für die rechtliche Haftung? Zur Entwicklung adäquater Haftungskonzepte rekurriert der Beitrag auf sozio logische und philosophische Theoriestücke 1) der Personifikation nicht-menschlicher Akteure, 2) der Mensch-Maschine-Assoziation als emergentem sozialen System mit Qualitäten eines Kollektivakteurs und 3) der distribuierten Kognition in der Interkonnektivität von Algorithmen.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

über 102.000 Bücher
über 537 Zeitschriften

aus folgenden Fachgebieten:

Automobil + Motoren
Bauwesen + Immobilien
Business IT + Informatik
Elektrotechnik + Elektronik
Energie + Nachhaltigkeit
Finance + Banking
Management + Führung
Marketing + Vertrieb
Maschinenbau + Werkstoffe
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

über 67.000 Bücher
über 340 Zeitschriften

aus folgenden Fachgebieten:

Bauwesen + Immobilien
Business IT + Informatik
Finance + Banking
Management + Führung
Marketing + Vertrieb
Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Jetzt informieren

Vorheriges Kapitel Maschinen lernen nicht! – „Machine learning“-Algorithmen entzaubert

Nächstes Kapitel Normierung, Regulierung, Governance: Wie, von wem und mit welchen Mitteln kann der Einsatz Künstlicher Intelligenz gesellschaftlich gestaltet werden?

Dies ist ein fiktiver Fall, der aber öffentlich zugängliche Informationen zur Recherche der Panama-Papiere so aufbereitet, um die emergenten Eigenschaften einer Mensch-Algorithmen-Assoziation und ihre Rechtsprobleme zu illustrieren, hierzu im Detail: Panama Papers, The Journalists behind the Leak, 25. April 2016, abrufbar unter https://www.sueddeutsche.de/politik/panama-papers-the-journalists-behind-the-leak-1.2966929 (zuletzt besucht am 14.07.2022).

Während im ‚alten‘ Institutionalismus (Santi Romano (1918), Carl Schmitt (1922), Hauriou (1933)) der Begriff der Institution zwischen System, Organisation und Normenensemble oszillierte, stimmen ‚neuer‘ Institutionalismus und Systemtheorie trotz vieler Unterschiede in ihrem Verständnis von Institutionen als Erwartungskomplexe überein: North (1990), S. 3 f.; Luhmann (1965), S. 12 f.

Zur Ko-Produktion unterschiedlicher Sozialsysteme Feenberg (2017), 75; Jasanoff (2004); Winner (1980).

Dies folgt der Forderung nach einer institutionellen Wende in der Vertragsauslegung, die insbesondere für entstehende Institutionen in der digitalen Sphäre relevant wird, Wielsch (2018). Zum ‚institutional turn‘ in den Sozialwissenschaften Roberto Esposito (2022), 33 ff.

Die ökonomische Transaktionskostentheorie von Williamson (1996) arbeitet zwar ähnlich mit einer gleitenden Skala von ‚spot-contracts‘ bis hin zu ‚formal organizations‘, verfehlt aber gerade deren korporative und kollektive Elemente.

Allain, Jessica. 2013. From Jeopardy! to Jaundice: The Medical Liability Implications of Dr. Watson and Other Artificial Intelligence Systems. Louisiana Law Review 73: 1049–1079.

Balkin, Jack. 2015. The Path of Robotics Law. California Law Review Circuit 6: 45–60.

Beardsworth, Thomas, und Kumar, Nishant. 2019. Going to Court Over Losses When Robot Is to Blame, Insurance Journal 7 May 2019.

Beckers, Anna, und Teubner, Gunther. 2021. Three Liability Regimes for Artificial Intelligence: Algorithmic Actants, Hybrids, Crowds Oxford: Hart.

Celeste, Edoardo. 2020. Digital Constitutionalism: The Role of Internet Bills of Rights. Dublin: University College Dublin.

Copp, David. 2007. The Collective Moral Autonomy Thesis. Journal of Social Philosophy 38: 369–388.CrossRef

Diakopoulos, Nicholas. 2019. Automating the News: How Algorithms are Rewriting the Media. Cambridge/Mass.: Harvard University Press.CrossRef

Easterbrook, Frank H., und Fischel, Daniel. 1989. The Corporate Contract. Columbia Law Review 89: 1416–1448.CrossRef

Erdélyi, Olivia J., und Erdélyi, Gabor. 2020. The AI Liability Puzzle and a Fund-Based Work-Around. AIES '20: Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 50–56.

Esposito, Elena. 2017. Artificial Communication? The Production of Contingency by Algorithms. Zeitschrift für Soziologie 46: 249–265.CrossRef

Esposito, Roberto. 2022. Institution und Biopolitik. Zürich: Diaphanes.

Europäisches Parlament. 2020. Zivilrechtliche Haftungsregelung für künstliche Intelligenz. Entschließung vom 20. Oktober 2020 2020/2012(INL).

Feenberg, Andrew. 2017. Technosystem: The Social Life of Reason. Cambridge, MA: Harvard University Press, 2017. Cambridge, MA: Harvard University Press.

Floridi, Luciano, und Sanders, J.W. 2011. On the Morality of Artificial Agents, In Machine Ethics, hrsg. Michael Anderson und Susan L. Anderson, 184–212. Cambridge: Cambridge University Press.

Gabaix, Xavier und David I. Laibson, „A Boundedly Rational Decision Algorithm“, American Economic Review, 90 (2000), 433–438.

Graber, Christoph B.. 2021. How the Law Learns in the Digital Society. Law, Technology and Humans 3: 12–27.CrossRef

Hauriou, Maurice E. 1933. Aux sources du droit: Le Pouvoir, l'ordre et la liberté. Paris: Bloud & Gay.

Hepp, Andreas. 2020. Deep Mediatization: Key Ideas in Media & Cultural Studies. London: Routledge.

Hildebrandt, Mireille. 2015. Smart Technologies and the End(s) of Law. Cheltenham: Edward Elgar.CrossRef

Hughes, Benn, und Williamson, Russell. 2019. When AI Systems Cause Harm: The Application of Civil and Criminal Liability. Digital Business Law – Blog.

Hutchins, Edwin. 1995. Cognition in the Wild. Boston: MIT Press.

Jasanoff, Sheila. 2004. The Idiom of Co-Production’, In States of Knowledge: The Co-production of Science and the Social Order, hrsg. Sheila Jasanoff, 1–12. London: Routledge.

Jensen, Michael, und Meckling, William H. 1976. Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure. Journal of Financial Economics 3: 306–360.CrossRef

Karavas, Vagios. 2009. The Force of Code: Law’s Transformation under Information‐Technological Conditions. German Law Journal 10: 463–481.CrossRef

Konertz, Roman, und Schönhof, Raoul. 2020. Das technische Phänomen „Künstliche Intelligenz“ im allgemeinen Zivilrecht: Eine kritische Betrachtung im Lichte von Autonomie, Determinismus und Vorhersehbarkeit. Baden-Baden: Nomos.

Krafft, Tobias D., Zweig, Katharina A., und König, Pascal D. 2022. How to Regulate Algorithmic Decision-Making: A Framework of Regulatory Requirements for Different Applications. Regulation & Governance 16: 119–136.CrossRef

Latour, Bruno. 2004. Politics of Nature: How to Bring the Sciences into Democracy. Cambridge/Mass.: Harvard University Press.CrossRef

Latour, Bruno. 2007. Eine neue Soziologie für eine neue Gesellschaft: Einführung in die Akteur-Netzwerk-Theorie. Frankfurt: Suhrkamp.

Lewis, Seth C., Sanders, Amy Kristin, und Carmody, Casey. 2019. Libel by Algorithm? Automated Journalism and the Threat of Legal Liability. Journalism & Mass Communication Quarterly 98: 60–81.CrossRef

Linardatos, Dimitrios. 2019. Künstliche Intelligenz und Verantwortung. Zeitschrift für Wirtschaftsrecht 504–509.

Lohsse, Sebastian, Schulze, Reiner und Staudenmayer, Dirk. 2019. Liability for Artificial Intelligence, In Liability for Robotics and in the Internet of Things, hrsg. Sebastian Lohsse, Reiner Schulze und Dirk Staudenmayer, 11–26. Baden-Baden/Oxford: Nomos/Hart.

Loo, Rory van. 2020. The Revival of Respondeat Superior and Evolution of Gatekeeper Liability. Georgetown Law Journal 109: 141–189.

Luhmann, Niklas. 1965. Grundrechte als Institution: Ein Beitrag zur politischen Soziologie. Berlin: Duncker & Humblot.

Luhmann, Niklas. 1987 [1972]. Rechtssoziologie. Opladen: Westdeutscher Verlag.

Luhmann, Niklas. 1997. Die Gesellschaft der Gesellschaft. Frankfurt: Suhrkamp.

Muhle, Florian. 2018. Sozialität von und mit Robotern? Drei soziologische Antworten und eine kommunikationstheoretische Alternative. Zeitschrift für Soziologie 47: 147–163.CrossRef

Nassehi, Armin. 2019. Muster: Theorie der digitalen Gesellschaft. Munich: C.H.Beck.

North, Douglass C.. 1990. Institutions, Institutional Change and Economic Performance Cambridge: Cambridge University Press.

Oster, Jan. 2018. Haftung für Persönlichkeitsverletzungen durch Künstliche Intelligenz. UFITA – Archiv für Medienrecht und Medienwissenschaft 14–52.

Pettit, Philip. 2007. Responsibility Incorporated. Ethics 117: 171–201.CrossRef

Pratt, Nicholas. 2018. HK Invstor Sues Robo-adviser in Potential Landmark Case about AI Liability. Commercial Risk 14 May.

Rahwan, Iyad, et al.. 2019. Machine Behaviour. Nature 568: 477–486.CrossRef

Rauer, Valentin. 2017. Distribuierte Handlungsträgerschaft. Verantwortungsdiffusion als Problem der Digitalisierung sozialen Handelns, In Politik und Verantwortung: Analysen zum Wandel politischer Entscheidungs- und Rechtfertigungspraktiken, Christopher Daase, Julian Junk, Stefan Kroll und Valentin Rauer (ed.), 436–453. Baden–Baden: Nomos.

Reyes, Carla L.. 2021. Autonomous Corporate Personhood. Washington Law Review 96: 1453–1510.

Romano, Santi. 1918. L'ordinamento giuridico. Florenz: Sansoni.

Sanz Bayón, Pablo. 2019. A Legal Framework for Robo-Advisors, In Datenschutz / LegalTech, hrsg. Erich Schweighofer, Franz Kummer, Ahti Saarenpää und Burkhard Schafer, 311–318. Bern: Weblaw.

Schmitt, Carl. 1922. Politische Theologie. München: Duncker & Humblot.

Selznick, Philip, Law, Society and Industrial Justice, Russell Sage, New York 1969.

Strzelczyk, Bret E.. 2018. Rise of the Machines: The Legal Implications for Investor Protection with the Rise of Robo-Advisors. DePaul Business & Commercial Law Journal 16: 54–85.

Teubner, Gunther. 2001. Rechtsirritationen: Zur Koevolution von Rechtsnormen und Produktionsregimes, In Moral und Recht im Diskurs der Moderne: Zur Legitimation gesellschaftlicher Ordnung, hrsg. Günther Dux und Frank Welz, 351–381. Opladen: Leske und Budrich.

Teubner, Gunther. 2004. Netzwerk als Vertragsverbund: Virtuelle Unternehmen, Franchising, Just in Time in sozialwissenschaftlicher und juristischer Sicht. Baden-Baden: Nomos.

Trüstedt, Katrin. 2020. Representing Agency. Law & Literature 32: 195–206.CrossRef

Trüstedt, Katrin. 2022. Stellvertretung: Zur Szene der Person. Konstanz: Konstanz University Press.CrossRef

Unger, Roberto M.. 1996. Legal Analysis as Institutional Imagination. Modern Law Review 59: 1–23.CrossRef

United States Commodity Futures Trading Commission und U.S. Securities & Exchange Commission. 2016. Findings Regarding the Market Events of May 6, 2010. http://www.sec.gov/news/studies/2010/marketevents-report.pdf.

Vesting, Thomas. 2021. Gentleman, Manager, Homo Digitalis: Der Wandel der Rechtssubjektivität in der Moderne. Weilerswist: Velbrück.

Vladeck, David C. 2014. Machines without Principals: Liability Rules and Artificial Intelligence. Washington Law Review 89: 117–150.

Wagner, Gerhard. 1996. Transversale Vernunft und der soziologische Blick: Zur Erinnerung an Montesqieu. Zeitschrift für Soziologie 25: 315–329.CrossRef

Wagner, Gerhard, und Luyken, Lina. 2020. Haftung für Robo Advice, In Festschrift für Christine Windbichler, hrsg. Gregor Bachmann, Stefan Grundmann, Anja Mengel und Kaspar Krolop, 155–176. Berlin: de Gruyter.

Welsch, Wolfgang. 1996. Vernunft: Die zeitgenössische Vernunftkritik und das Konzept der transversalen Vernunft. Frankfurt: Suhrkamp.

Wiedemann, Carolin. 2014. Between Swarm, Network, and Multitude: Anonymous and the Infrastructures of the Common. Distinktion: Scandinavian Journal of Social Theory 15: 309–326.

Wielsch, Dan. 2018. Contract Interpretation Regimes. Modern Law Review 81: 958–988.CrossRef

Williamson, Oliver E.. 1996. Transaktionskostenökonomik. Hamburg: Lit Verlag.

Winner, Langdon. 1980. Do Artifacts Have Politics? Daedalus 109: 121–136.

Yadav, Yesha. 2016. The Failure of Liability in Modern Markets. Virginia Law Review 102: 1031–1100.

Titel: Die digitale Verantwortungslücke: Vorschläge zur Haftung für algorithmisches Fehlverhalten
verfasst von: Anna Beckers
Gunther Teubner
Verlag: Springer Fachmedien Wiesbaden
Buch: Künstliche Intelligenz, Mensch und Gesellschaft
Print ISBN: 978-3-658-43520-2

Electronic ISBN: 978-3-658-43521-9

Copyright-Jahr: 2024
DOI: https://doi.org/10.1007/978-3-658-43521-9_7

Springer Professional

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu Ihrer Lizenz zu erhalten.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Springer Professional "Wirtschaft"

Premium Partner