Apple entfernt Apps, die KI nutzen, um Mädchen auszuziehen, aus dem App Store
Nach Berichten über den problematischen Einsatz von künstlicher Intelligenz zur Erstellung unangemessener Bilder auf Huawei-Telefonen hat Apple ähnliche Maßnahmen ergriffen, um Apps aus dem App Store zu entfernen, die generative KI zur Erstellung gefälschter Nacktbilder verwendeten.
Diese Programme wurden als “Kunstgeneratoren” angepriesen, die jede junge Dame kostenlos ausziehen konnten. Die Entfernung der betreffenden Software erfolgte, nachdem das Redaktionsteam von 404 Media Links zu den besagten Anwendungen und deren Werbung gefunden und geteilt hatte.
Es ist bemerkenswert, dass diese Apps seit 2022 im AppStore verfügbar sind. Die Entwickler bewarben ihre “Geisteskinder” auf Webseiten für Erwachsene. Später wurde den “Machern” erlaubt, im App Store zu bleiben, vorausgesetzt, dass die Werbung von solchen Seiten entfernt wurde, aber mindestens eine dieser Software zeigte bis Anfang dieses Jahres weiterhin unangemessene Inhalte an (die App wurde erst kürzlich aus dem Google PlayStore entfernt).
Dieser Vorfall wirft die Frage nach reaktiver Moderation und der Möglichkeit auf, dass Entwickler alle möglichen Schlupflöcher ausnutzen. Das Thema ist zum denkbar ungünstigsten Zeitpunkt für Apple aufgetaucht – in Vorbereitung auf das WWDC 2024 Forum, auf dem wichtige Ankündigungen zur künstlichen Intelligenz für iOS 18 und Siri erwartet werden.
Der Vorfall beeinträchtigt auch Apples Bemühungen, sich einen Ruf als verantwortungsbewusstes Unternehmen im Bereich der Entwicklung künstlicher Intelligenz aufzubauen, einschließlich der ethischen Lizenzierung von Trainingsdaten. Eine verspätete Entfernung von NCI-Anwendungen kann sich negativ auf dieses Image auswirken.
