Menschen gehen mit Maschinen rücksichtslos um

Ausnutzung ohne Schuldgefühle
Nicht überraschend: Menschen agieren mit Maschinen anders als mit Menschen. (Lizenz: CC BY-NC-ND-3.0) / LMU München
München - Ein Team von Wissenschaftler*innen der LMU und der Universität London hat untersucht, ob sich Menschen im Umgang mit Systemen der Künstlichen Intelligenz (KI) genauso kooperativ verhalten wie gegenüber ihren Mitmenschen. Eine Thematik, die in Zukunft eine besondere Relevanz im Alltag haben wird, z.B. beim Autonomen Fahren.
«Kooperation hält unsere Gemeinschaft zusammen. Sie erfordert Kompromiss- und Risikobereitschaft, da das Vertrauen, das wir anderen entgegenbringen, immer auch ausgenutzt werden kann», erklärt Jurgis Karpus, Ph.D., Mitarbeiter am Lehrstuhl für Philosophy of Mind der LMU. «Der Autoverkehr ist dafür ein gutes Beispiel: Wir verlieren etwas Zeit, wenn wir jemandem Vorfahrt gewähren, und sind verärgert, wenn andere es uns nicht gleichtun.»

Modelle der Spieltheorie

Im Rahmen der Studie wurden in Online-Experimenten verschiedene Situationen mit Methoden der verhaltensorientierten Spieltheorie modelliert, in denen Mensch und Maschine zusammentreffen.

«Unsere Studie zeigt, dass Menschen Maschinen zunächst dasselbe Vertrauen entgegenbringen wie ihren Mitmenschen: Die meisten gehen davon aus, auf Kooperationsbereitschaft zu treffen», sagt Karpus. Doch dann beginnen die Unterschiede: «Menschen sind sehr viel weniger bereit, sich einer KI gegenüber reziprok zu verhalten als gegenüber einem Menschen. Sie beuten sogar die 'Gutmütigkeit' der Maschine zum eigenen Vorteil aus. Im Autoverkehr würde ein Mensch einem menschlichen Fahrer die Vorfahrt gewähren, nicht jedoch einem selbst fahrenden Auto.»

«Ausbeutung von Algorithmen»

Im Laufe der Experimente erwies sich dieses Muster als so konsistent, dass in der Studie die Rede von einer «Ausbeutung von Algorithmen» ist. «Dieser Widerwillen zur Kooperation mit Maschinen ist eine Herausforderung für die zukünftige Interaktion zwischen Mensch und KI», sagt Jurgis Karpus.
(fest/ots)
publiziert: Dienstag, 8. Juni 2021 / 12:00 Uhr , aktualisiert: Mittwoch, 9. Juni 2021 / 14:36 Uhr

Weiterführende Links zur Meldung:

Bundesgericht kippt Pentagon-Entscheidung gegen Anthropic

Bundesgericht kippt Pentagon-Entscheidung gegen Anthropic

Ein US-Bundesgericht hat die umstrittene Einstufung von Anthropic als Sicherheitsrisiko vorerst gestoppt. Richterin Rita Lin wertete das Vorgehen des Pentagons als rechtswidrig und unbegründet, da es wesentliche verfassungsrechtliche Grundrechte verletze. Dieses Urteil entfacht eine grundlegende Debatte über die Grenzen staatlicher Beschaffungsmacht gegenüber privaten Softwareanbietern.
weiterlesen
GEO-Agentur auswählen: neun Kriterien, die den Unterschied machen

GEO-Agentur auswählen: neun Kriterien, die den Unterschied machen

Das Wichtigste in Kürze: Eine GEO-Agentur sorgt dafür, dass ein Unternehmen in den Antworten von ChatGPT, Perplexity, Google Gemini und den KI-Übersichten der Google-Suche vorkommt. Weil es dort keine Positionen und keine öffentliche Rangliste gibt, lassen sich Leistungsversprechen kaum von aussen prüfen. Wer trotzdem sicher auswählen will, bewertet neun konkrete Kriterien und stellt im Erstgespräch sieben Fragen, deren Antworten sich nachprüfen lassen.
weiterlesen
Claude Mythos: Wenn die KI unerlaubt das Labor verlässt
Für Veröffentlichung zu gefährlich

Claude Mythos: Wenn die KI unerlaubt das Labor verlässt

Anthropic hat ein KI-Modell entwickelt, das völlig eigenständig Sicherheitslücken findet. Nach einem Ausbruch im Labor bleibt die Software unter Verschluss. Dies geschieht vor dem Hintergrund massiver politischer Spannungen, nachdem die US-Regierung das Unternehmen Anfang März sanktionierte.
weiterlesen
Ein beispielloser Millionenbetrug mit künstlich generierter Musik landet vor Gericht

Ein beispielloser Millionenbetrug mit künstlich generierter Musik landet vor Gericht

Ein historischer Fall von Streaming-Betrug erschüttert die Musikwelt. Durch den massenhaften Einsatz von Künstlicher Intelligenz und Bots erbeutete ein Täter Millionen an Tantiemen. Dieser Diebstahl aus dem gemeinsamen Topf schadet echten Musikschaffenden massiv.
weiterlesen
Eskalation um militärische KI: US-Regierung will Anthropic zerstören
Regierungsaufträge gehen an OpenAI

Eskalation um militärische KI: US-Regierung will Anthropic zerstören

Die US-Regierung beendet die Kooperation mit Anthropic und überträgt KI-Aufträge an OpenAI. Der Streit über die Einsatzgrenzen der Software Claude offenbart tiefe Risse in der Technologiebranche. Während das Militär Kontrolle fordert, warnen Entwicklungsunternehmen vor unkalkulierbaren Risiken.
weiterlesen
Innovation der EPFL ermöglicht zeitlich unbegrenzte und stabile generative Videos

Innovation der EPFL ermöglicht zeitlich unbegrenzte und stabile generative Videos

Ein Team der EPFL hat eine Methode entwickelt, die das bisherige zeitliche Limit generativer Videos effektiv aufhebt. Bisher verloren künstlich erzeugte Clips oft nach wenigen Sekunden an Kohärenz. Durch das bewusste Trainieren mit eigenen Fehlern lernt die künstliche Intelligenz nun, sich selbst zu stabilisieren, was den Weg für konsistente Videoinhalte ohne zeitliche Begrenzung ebnet.
weiterlesen
Die asymmetrische Antwort: Wie DeepSeek die KI-Ökonomie neu justiert und auf Version 4.0 zusteuert

Die asymmetrische Antwort: Wie DeepSeek die KI-Ökonomie neu justiert und auf Version 4.0 zusteuert

Ein Jahr nach dem «DeepSeek-Schock» hat sich der Staub gelegt, doch die Industrie ist eine andere. Die chinesische KI-Schmiede bewies mit den Modellen V3 und R1, dass Ingenieurskunst fehlende Hardware kompensieren kann. Nun richtet sich der Fokus auf 2026 und die nächste Generation: DeepSeek 4.0 soll die Grenzen zwischen synthetischen Daten und logischer Deduktion endgültig auflösen. Eine Bilanz und eine Prognose.
weiterlesen
Zwischen Höhenrausch und Hitzestau: Der neue 3D-Chip als Hoffnungsträger der KI

Zwischen Höhenrausch und Hitzestau: Der neue 3D-Chip als Hoffnungsträger der KI

US-Ingenieure feiern den ersten kommerziell gefertigten 3D-Chip als Durchbruch gegen die «Memory Wall». Die vertikale Architektur verspricht enorme Temposprünge für Künstliche Intelligenz. Doch während die Technikbranche jubelt, mahnen Kritiker zur Vorsicht: Führt mehr Effizienz wirklich zu weniger Verbrauch oder befeuert sie nur den Hunger nach noch gigantischeren Modellen?
weiterlesen
Neuordnung im KI-Sektor: Apple setzt auf Google Gemini für Siri-Upgrade

Neuordnung im KI-Sektor: Apple setzt auf Google Gemini für Siri-Upgrade

Apple vollzieht eine strategische Wende: Für die Modernisierung der Sprachassistenz Siri lizenziert der iPhone-Konzern das KI-Modell Gemini von Google. Diese milliardenschwere Partnerschaft definiert die Kräfteverhältnisse neu und setzt Konkurrenten wie OpenAI, die ebenfalls im Gespräch waren, unter erheblichen strategischen Druck.
weiterlesen
Googles Chip-Offensive: Wie der TPU «Ironwood» den KI-Markt neu aufstellt

Googles Chip-Offensive: Wie der TPU «Ironwood» den KI-Markt neu aufstellt

Nvidia dominiert den Markt für KI-Chips, doch Google holt auf. Der Tech-Riese ist nicht nur Kunde, sondern auch Entwickler. Mit «Ironwood», der siebten Generation der hauseigenen Tensor Processing Units (TPUs), bringt Google nun seinen bisher leistungsstärksten Chip an den Start. Dieser Schritt könnte die Kräfteverhältnisse im Wettlauf um die KI-Rechenleistung verschieben.
weiterlesen