Google Earth ist Googles digitaler Globus, in dem Nutzer Satellitenbilder und geografische Ansichten betrachten können. Ausgerechnet in diesen Dienst baute der Konzern am Donnerstag, 30. Juli, einen KI-Bildgenerator ein: Geminis Modell Nano Banana 2 konnte Orte anhand von Texteingaben verändern. Schon am Freitag, 31. Juli, nahm Google die Funktion nach weniger als 24 Stunden wieder zurück. Zuvor hatten Nutzer täuschende Darstellungen erfundener Katastrophen und anderer real wirkender Szenen erzeugt und als Screenshots geteilt. Die generierten Bilder erschienen laut Google allerdings nie für andere Nutzer in der öffentlichen Hauptansicht von Google Earth.
- Google hat die KI-Bildgenerierung in Google Earth weniger als 24 Stunden nach ihrer Einführung zurückgenommen.
- Mit Nano Banana 2 ließen sich bestehende Ansichten durch Texteingaben verändern.
- Nutzer erzeugten unter anderem Bilder erfundener Flüchtlingslager, Überschwemmungen und Explosionsschäden.
- Google will stärkere Schutzvorkehrungen einbauen, bevor die Funktion erneut aktiviert wird.
Nutzer erzeugten erfundene Krisenszenarien
Die Tragweite der Funktion wurde kurz nach dem Start sichtbar. Das Medium 404 Media demonstrierte, wie sich ein Explosionskrater in Los Angeles sowie Demonstranten vor dem Google-Campus in Mountain View erzeugen ließen.
Der KI-Forscher Henk van Ess erstellte weitere manipulierte Ansichten. Dazu gehörten vermeintliche Flüchtlingslager nahe der Grenze zwischen den USA und Mexiko, eine Atomanlage im Iran sowie ein Bombenkrater neben einem Krankenhaus im Gazastreifen. Andere Nutzer generierten Bilder einer nicht existierenden Überschwemmung und eines Angriffs im Stil des 11. September.
Damit konnte ein Dienst, dem Nutzer eine verlässliche geografische Darstellung der Welt zuschreiben, zugleich zur Kulisse für frei erfundene Ereignisse werden.
Google erklärte, Fachleute aus dem Geodatenbereich hätten die Funktion für nützliche Zwecke eingesetzt. Zugleich seien jedoch Screenshots generierter Bilder verbreitet worden, die offenbar gegen die Unternehmensrichtlinien verstießen. Deshalb werde das Werkzeug vorerst zurückgenommen und mit stärkeren Schutzmechanismen versehen.
Wasserzeichen verhinderten die Verbreitung nicht
In seiner ersten Reaktion hatte Google auf das digitale SynthID-Wasserzeichen verwiesen, das jedes mit Nano Banana in Google Earth erzeugte Bild kennzeichnete. Nutzer könnten die Gemini-App oder Lens in der Google-Suche verwenden, um zu prüfen, ob ein Bild von einer KI erstellt worden sei. Zudem erklärte der Konzern, die Erzeugung schädlicher Inhalte werde blockiert und die Schutzmaßnahmen würden laufend aktualisiert.
Van Ess widersprach der praktischen Wirksamkeit dieser Sicherungen. Nach seinen Angaben wurde bei seinen Tests keine Eingabe abgelehnt oder abgeschwächt. Zudem gelang es ihm, das KI-Erkennungssystem von Hive mit einem in Google Earth erzeugten Video zu täuschen.
Ein Wasserzeichen hilft nur dann bei der Einordnung, wenn Betrachter einem Bild misstrauen und es aktiv überprüfen.
Die Rücknahme bedeutet daher zunächst, dass keine weiteren Bilder über dieses Werkzeug erstellt werden können. Bereits außerhalb von Google Earth verbreitete Screenshots verschwinden dadurch jedoch nicht automatisch. Für Medien, Behörden und andere Stellen, die mit geografischem Bildmaterial arbeiten, unterstreicht der Fall, dass auch vertraut wirkende Satellitenansichten einer Herkunftsprüfung bedürfen.
Auch Meta entfernte kürzlich eine KI-Funktion
Google ist nicht das einzige Unternehmen, das ein neues KI-Werkzeug kurz nach dem Start wieder zurücknahm. Meta führte am 7. Juli in Muse Image eine Funktion ein, die Bilder aus öffentlichen Instagram-Konten erwachsener Nutzer als Grundlage für neue KI-Bilder verwenden konnte, sofern die Betroffenen ihre Einstellungen nicht geändert hatten. Weniger als eine Woche später entfernte Meta die Funktion und räumte ein, damit das Ziel verfehlt zu haben.
Beide Fälle zeigen, weshalb Schutzmechanismen vor der breiten Freigabe entscheidend sind: Je enger generative KI mit realen Orten oder persönlichen Bildern verbunden wird, desto leichter können künstliche Darstellungen den Anschein dokumentarischer Echtheit erhalten.
Reicht ein digitales Wasserzeichen bei solchen Bildern aus, oder sollte Google die KI-Bearbeitung in Google Earth dauerhaft ausschließen? Teilen Sie Ihre Einschätzung.
