Midjourney kann Bilder von Biden und Trump verbieten
Mit dem Aufkommen von Werkzeugen der künstlichen Intelligenz, die schnell veränderte Bilder und Videos erstellen können, ist es einfacher denn je geworden, gefälschte Bilder zu produzieren, um im Vorfeld der bevorstehenden US-Präsidentschaftswahlen politische Desinformationen zu verbreiten. Nach Angaben von Bloomberg schlägt Midjourney vor, politische Bilder ganz zu verbieten. David Holtz, CEO von Midjourney, hat Berichten zufolge den Nutzern in einem Discord-Chat mitgeteilt, dass das Unternehmen kurz davor steht, Bilder wie die von Biden und Trump innerhalb der nächsten 12 Monate zu verbieten.
“Ich weiß, dass es Spaß macht, Trump-Bilder zu machen – ich mache Trump-Bilder”, sagte er den Nutzern, die an der Sitzung teilnahmen. “Trump ist ästhetisch sehr interessant. Aber es ist wahrscheinlich besser, es nicht zu tun – es ist besser, während dieser Wahl ein wenig abgelenkt zu sein. Wir werden sehen.”
Wie Bloomberg berichtet, haben Menschen die künstliche Intelligenz des Unternehmens bereits genutzt, um Fälschungen über Trumps Verhaftung zu erstellen. Das Unternehmen hat die kostenlosen Testversionen seines KI-Bildgenerators eingestellt, nachdem die Bilder – zusammen mit der berüchtigten Fake News über den Papst, der einen Mantel im Balenciaga-Stil trug – viral gingen.
Das Unternehmen verfügt bereits über Regeln, die die Schaffung “irreführender öffentlicher Figuren” und “Bilder von Ereignissen”, die “zur Irreführung geeignet sind”, verbieten. Bloomberg war jedoch immer noch in der Lage, mit der alten Version des Midjourney-Systems modifizierte Bilder von Trump zu erstellen, die mit Spaghetti bedeckt waren, während die neue Version sich weigerte, modifizierte Bilder des ehemaligen Präsidenten zu erzeugen. Selbst wenn Midjourney Bilder von berühmten Politikern verbietet, schützt es seine Plattform natürlich nur davor, den Zorn der Kritiker auf sich zu ziehen und in dieser Wahlsaison im Rampenlicht zu stehen. Dies wird den Einsatz von Instrumenten der künstlichen Intelligenz in politischen Desinformationskampagnen oder die Verbreitung von gefälschten Informationen zur Manipulation von Wahlen im Allgemeinen nicht verhindern.
Auch andere Technologieunternehmen haben Maßnahmen ergriffen, um politische Desinformation zu verhindern oder zumindest leichter zu erkennen. ChatGPT wird bald Markierung von Bildern, die mit DALL-E 3 erstellt wurden, und Meta arbeitet an der Entwicklung einer Technologie, die erkennen und markieren kann, ob ein Bild, Video oder Audioclip mit künstlicher Intelligenz erstellt wurde.
