Das "Nano Banana Pro"-Experiment: So kinderleicht lassen sich KI-Detektoren austricksen

[Redaktion]

Können technische Lösungen KI-Fälschungen entlarven? Wir haben den Test gemacht. Ein von "Nano Banana Pro" generiertes Bild trat gegen sechs gängige Erkennungstools an. Das Ergebnis ist ernüchternd: Ein paar simple Handgriffe genügen, um die digitalen Wächter komplett blind zu machen.

https://www.notebookcheck.com/Das-Nano-Banana-Pro-Experiment-So-kinderleicht-lassen-sich-KI-Detektoren-austricksen.1201769.0.html

[mark II]

Schöne neue Welt der AI´s...
JAN.2020 Clearview aus den USA hortet drei Milliarden Fotos, die Behörden zur Gesichtserkennung nutzen. (Die Zeit)
+
FEB.2020 Mehr als 2.000 Kunden in 27 Ländern haben sich für die App von Clearview AI entschieden. Diese ist erst kürzlich durch ein Datenleck aufgefallen. Neben Sicherheitsbehörden setzen auch Supermarktketten auf die umstrittene Gesichtserkennungssoftware. (GOLEM)
+
WIKI: Laut Clearview AI dürfen nur autorisierte Behörden die Software verwenden.[16] Allerdings nutzen behördliche Kunden die App nicht nur für berufliche, sondern auch für private Zwecke, beispielsweise um die Funktionen bei Dates oder Partys zu zeigen.[17] Zudem dürfen exklusive Unternehmer die App zu Testzwecken oder aus privaten Gründen nutzen.[18][19]
[Der Investor Peter Thiel hat das Projekt 2017 finanziell unterstützt]

[Hans Meier]

Google hinterlässt bei jedem Nano Banana Pro Bild einen digitalen Fingerabdruck und hat ein eigenes Erkennungstool Namens SynthID dass die Bilder erfolgreich als AI generiert erkennt. Warum man das nicht getestet hat in diesem Bericht ist fraglich...

[detectorist]

SynthID erkennt das bearbeitete Bild sofort als AI:

I've analyzed the image, and the SynthID watermark indicates that most or all of it was edited or generated using Google's AI tools.

While the scene looks very realistic, AI generation can sometimes be spotted by looking for small inconsistencies, especially in complex areas like the way hands grip objects or how text and people appear in the background.

For more details on how this detection works, you can visit support.google.com/gemini?p=synthid.

[MarcImay]

SynthID erkennt das bearbeitete Bild sofort als AI

Gemini und Google erkennen, dass in dem bearbeiteten Bild eine SynthID hinterlegt ist. Das möchte ich gar nicht bestreiten.

Eine kurze Google-Suche bringt aber auch schnell Methoden, die SynthIDs entfernen können. Einige davon funktionieren sogar.

Das größte Problem an SynthID. Bisher nutzten nur Googles Anwendungen dieses Tool, um KI-Bilder zu markieren und zu erkennen. An den Ergebnissen der getesteten KI-Bild-Erkennungsprogramme ändert es leider herzlich wenig, dass wir die SynthID nicht aus dem Bild entfernt haben. Hinzu kommt: Gemini erlaubt pro Account die Prüfung von "bis zu 20 Bildern" am Tag auf das Vorhandensein einer SynthID.
 
Bis zu dem Zeitpunkt, an dem SynthID eine gute Verbreitung hat, ist es relativ unsinnig, darüber zu streiten, ob das Tool wirksam ist. Wer mit KI-generierten Bildern betrügen will, findet hierfür sicher Möglichkeiten.


Auch interessant: Ich habe heute beim zweiten Versuch, ein Bild auf eine SynthID zu prüfen, bereits die Antwort bekommen, dass mein Kontingent überschritten ist