Google verrät, wie es mithilfe künstlicher Intelligenz „erfasst“, was geschrieben steht

Google DeepMind verwendet seit Monaten seine Wasserzeichenmethode mit künstlicher Intelligenz (KI) für Gemini-Chatbot-Antworten und stellt das Tool nun jedem KI-Entwickler zur Verfügung.

Google entwickelt Text-Wasserzeichen-Technologie Basierend auf künstlicher Intelligenz, um von Ihren Chatbots generierte Inhalte automatisch aus von Menschen geschriebenen Texten zu identifizieren.

Hey Synth-ID Dies wurde am Mittwoch in einer Studie offiziell vorgestellt veröffentlicht Genau genommen Natur. Ziel dieses Tools ist es, den Missbrauch von Chatbots beispielsweise bei Aktivitäten wie der Verbreitung von Fehlinformationen oder akademischem Betrug zu verhindern.

Google hat beschlossen, eine Version von zu erstellen Open Source dieser TechnologieDies ermöglicht es anderen generativen KI-Unternehmen, ähnliche Wasserzeichen in die Ergebnisse ihrer Sprachmodelle zu integrieren.

Pushmeet KohliEiner der Autoren der Studie erklärte: Neue Weltist die Schaffung von SynthID ein wichtiger Schritt zur Entwicklung effektiverer Tools zur Identifizierung von KI-generierten Inhalten.

„Während SynthID kein Allheilmittel zur Identifizierung von KI-generierten Inhalten ist, stellt es einen wichtigen Baustein für die Entwicklung zuverlässigerer KI-Identifizierungstools dar“, sagte Google DeepMind-Forscher – das KI-Forschungsteam von Google, das das ehemalige Google Brain und DeepMind vereint. „. Von ChatGPT Labs.

Im Mai dieses Jahres gab Google DeepMind bekannt, dass es SynthID auf KI-generierte Text- und Videodienste der KI-Dienste Gemini und Veo von Google angewendet hat. Die jetzt veröffentlichte Studie zeigte, dass dieses Tool Es übertraf zuvor getestete Techniken.

Diese Technik hat sich insbesondere bei … als wirksam erwiesen. Längere Texte.

Experten warnen jedoch, dass SynthID nicht immun gegen Rechenressourcen ist, die Wasserzeichen aus Texten entfernen können.

Er warnte, dass ein „designter Gegner“ mit enormer Rechenleistung diese KI-Wasserzeichen immer noch entfernen könnte Hanlin Zhangvon der Harvard University, in eine neue Welt.