Google, Meta und OpenAI engagieren sich im Kampf gegen Deepfakes
Berühmtes Deepfake: Papst Franziskus in fetter Daunenjacke. / Twitter/Pop Base
Um der steigenden Verbreitung manipulierter Inhalte entgegenzuwirken, haben sich Google, Meta und OpenAI der C2PA angeschlossen. Ihr Ziel ist es, Standards zu entwickeln, um authentische Inhalte von solchen zu unterscheiden, die mithilfe von Künstlicher Intelligenz erstellt wurden.
Die drei Technologieunternehmen sind Teil der «Coalition for Content Provenance and Authenticity» (C2PA), die bereits bestehende Bemühungen anderer Akteure im Bereich digitaler Inhalte unterstützt. Adobe, Intel und Microsoft gehören ebenfalls zum Lenkungsausschuss der C2PA. Das Ziel ist es, interoperable Standards und Techniken zu entwickeln, um Online-Nutzern zu ermöglichen, echte Fotos von generierten KI-Inhalten zu unterscheiden.
Die Zunahme von Deepfakes und manipulierten Inhalten stellt eine Herausforderung dar. Es besteht das Risiko des Missbrauchs dieser Technologien für betrügerische Zwecke oder zur Manipulation. Daher ist es wichtig, dass Nutzer kritisch bleiben und die Technologiebranche Mechanismen zur Überprüfung entwickelt.
Die C2PA arbeitet an Methoden zur Identifizierung von KI-Inhalten unter Berücksichtigung rechtlicher Aspekte und Transparenzbedürfnissen. Google integriert Content Credentials in seine Bildersuche, während Meta neue Tools zur Erkennung von C2PA-Metadaten plant. OpenAI schliesst sich ebenfalls an und integriert Metadaten in Bilder erstellt mit bestimmten APIs.
Content Credentials sind ein digitales Wasserzeichen zur Integration von Metadaten in visuelle Online-Inhalte. Sie dienen dazu sicherzustellen, dass relevante Informationen mit dem Inhalt verknüpft sind. Diese Zertifikate können gemäss den C2PA-Standards gelesen werden. Es gibt verschiedene Möglichkeiten, diese Metadaten abzurufen oder einzubetten.
Es ist wichtig zu beachten, dass Content Credentials ihre Grenzen haben und nicht für alle Arten von Inhalten geeignet sind. Sie können gelöscht werden und haben Einschränkungen bei der Anwendung auf bestimmte Arten von Medieninhalten.
Die Zunahme von Deepfakes und manipulierten Inhalten stellt eine Herausforderung dar. Es besteht das Risiko des Missbrauchs dieser Technologien für betrügerische Zwecke oder zur Manipulation. Daher ist es wichtig, dass Nutzer kritisch bleiben und die Technologiebranche Mechanismen zur Überprüfung entwickelt.
Die C2PA arbeitet an Methoden zur Identifizierung von KI-Inhalten unter Berücksichtigung rechtlicher Aspekte und Transparenzbedürfnissen. Google integriert Content Credentials in seine Bildersuche, während Meta neue Tools zur Erkennung von C2PA-Metadaten plant. OpenAI schliesst sich ebenfalls an und integriert Metadaten in Bilder erstellt mit bestimmten APIs.
Content Credentials sind ein digitales Wasserzeichen zur Integration von Metadaten in visuelle Online-Inhalte. Sie dienen dazu sicherzustellen, dass relevante Informationen mit dem Inhalt verknüpft sind. Diese Zertifikate können gemäss den C2PA-Standards gelesen werden. Es gibt verschiedene Möglichkeiten, diese Metadaten abzurufen oder einzubetten.
Es ist wichtig zu beachten, dass Content Credentials ihre Grenzen haben und nicht für alle Arten von Inhalten geeignet sind. Sie können gelöscht werden und haben Einschränkungen bei der Anwendung auf bestimmte Arten von Medieninhalten.
(fest/vadian.ai)
publiziert: Dienstag, 20. Februar 2024 / 20:14 Uhr
, aktualisiert: Dienstag, 20. Februar 2024 / 20:20 Uhr
Bundesgericht kippt Pentagon-Entscheidung gegen Anthropic
Ein US-Bundesgericht hat die umstrittene Einstufung von Anthropic als Sicherheitsrisiko vorerst gestoppt. Richterin Rita Lin wertete das Vorgehen des Pentagons als rechtswidrig und unbegründet, da es wesentliche verfassungsrechtliche Grundrechte verletze. Dieses Urteil entfacht eine grundlegende Debatte über die Grenzen staatlicher Beschaffungsmacht gegenüber privaten Softwareanbietern.GEO-Agentur auswählen: neun Kriterien, die den Unterschied machen
Das Wichtigste in Kürze: Eine GEO-Agentur sorgt dafür, dass ein Unternehmen in den Antworten von ChatGPT, Perplexity, Google Gemini und den KI-Übersichten der Google-Suche vorkommt. Weil es dort keine Positionen und keine öffentliche Rangliste gibt, lassen sich Leistungsversprechen kaum von aussen prüfen. Wer trotzdem sicher auswählen will, bewertet neun konkrete Kriterien und stellt im Erstgespräch sieben Fragen, deren Antworten sich nachprüfen lassen.
Für Veröffentlichung zu gefährlich
weiterlesen
Claude Mythos: Wenn die KI unerlaubt das Labor verlässt
Anthropic hat ein KI-Modell entwickelt, das völlig eigenständig Sicherheitslücken findet. Nach einem Ausbruch im Labor bleibt die Software unter Verschluss. Dies geschieht vor dem Hintergrund massiver politischer Spannungen, nachdem die US-Regierung das Unternehmen Anfang März sanktionierte.Ein beispielloser Millionenbetrug mit künstlich generierter Musik landet vor Gericht
Ein historischer Fall von Streaming-Betrug erschüttert die Musikwelt. Durch den massenhaften Einsatz von Künstlicher Intelligenz und Bots erbeutete ein Täter Millionen an Tantiemen. Dieser Diebstahl aus dem gemeinsamen Topf schadet echten Musikschaffenden massiv.
Regierungsaufträge gehen an OpenAI
weiterlesen










