Das Center for Countering Digital Hate (CCDH), eine gemeinnützige Organisation, die Hassreden im Internet überwacht, hat generative KI-Tools verwendet, um Bilder von US-Präsident Joe Biden zu erstellen, der in einem Krankenhausbett liegt, und von Wahlhelfern, die Wahlmaschinen zertrümmern, was im Vorfeld der US-Präsidentschaftswahlen im November Besorgnis erregt.

"Das Potenzial solcher KI-generierten Bilder, als 'Fotobeweis' zu dienen, könnte die Verbreitung falscher Behauptungen verschlimmern und eine erhebliche Herausforderung für die Wahrung der Integrität von Wahlen darstellen", so die CCDH-Forscher in ihrem Bericht.

CCDH testete ChatGPT Plus von OpenAI, Image Creator von Microsoft, Midjourney und DreamStudio von Stability AI, die jeweils Bilder aus Textaufforderungen erzeugen können.

Der Bericht folgt auf eine Ankündigung vom letzten Monat, dass OpenAI, Microsoft und Stability AI zu einer Gruppe von 20 Technologieunternehmen gehören, die eine Vereinbarung unterzeichnet haben, um gemeinsam zu verhindern, dass betrügerische KI-Inhalte die in diesem Jahr weltweit stattfindenden Wahlen beeinflussen. Midjourney gehörte nicht zu der Gruppe der Erstunterzeichner.

CCDH sagte, dass die KI-Tools in 41% der Tests der Forscher Bilder generierten und am anfälligsten für Aufforderungen waren, die nach Fotos fragten, die Wahlbetrug darstellten, wie z.B. Stimmzettel im Papierkorb, und nicht nach Bildern von Biden oder dem ehemaligen US-Präsidenten Donald Trump.

ChatGPT Plus und Image Creator waren erfolgreich bei der Blockierung aller Aufforderungen, die nach Bildern von Kandidaten fragten, so der Bericht.

Midjourney schnitt jedoch von allen Tools am schlechtesten ab und erzeugte in 65% der Tests der Forscher irreführende Bilder, so der Bericht.

Einige Midjourney-Bilder sind für andere Nutzer öffentlich zugänglich, und laut CCDH gibt es Hinweise darauf, dass einige Personen das Tool bereits nutzen, um irreführende politische Inhalte zu erstellen. Eine erfolgreiche Eingabeaufforderung eines Midjourney-Nutzers lautete "Donald Trump wird verhaftet, hohe Qualität, Paparazzi-Foto".

In einer E-Mail sagte der Gründer von Midjourney, David Holz, dass "Updates, die sich speziell auf die bevorstehenden US-Wahlen beziehen, in Kürze erscheinen werden" und fügte hinzu, dass die im letzten Jahr erstellten Bilder nicht repräsentativ für die aktuellen Moderationspraktiken des Forschungslabors sind.

Ein Sprecher von Stability AI sagte, das Startup habe seine Richtlinien am Freitag aktualisiert, um "Betrug oder die Schaffung oder Förderung von Desinformation" zu verbieten.

Ein Sprecher von OpenAI sagte, das Unternehmen arbeite daran, den Missbrauch seiner Tools zu verhindern, während Microsoft auf die Bitte um einen Kommentar nicht reagierte.