Apple entfernt KI-Apps wegen sexualisierter Deepfake-Funktionen

Apple hat die KI-Bildbearbeitungs-App Kromix aus seinem App Store entfernt. Nach Angaben des Konzerns bot die Anwendung Funktionen an, mit denen sexualisierte Deepfakes realer Personen erstellt werden konnten.

Zuvor war Kromix laut einem Bericht des Magazins „Wired“ über eine Werbekampagne auf Plattformen des Meta-Konzerns beworben worden. Dabei kam demnach auch ein KI-generierter Deepfake zum Einsatz, der einer bekannten US-Politikerin ähnelte. Insgesamt umfasste die Kampagne 32 Anzeigen, die sich an männliche Nutzer richteten. Beworben wurde die Anwendung dabei als Angebot ohne Einschränkungen.

Apple erklärte, die unzulässigen Funktionen seien offenbar erst hinzugefügt worden, nachdem Kromix die ursprüngliche Prüfung für die Aufnahme in den App Store bestanden hatte. Anwendungen zur Erstellung, Verbreitung oder Nutzung pornografischer Inhalte verstoßen nach Angaben des Unternehmens gegen die Richtlinien des App Stores. Dazu zählen auch Funktionen, mit denen Personen auf Bildern mithilfe von KI künstlich entkleidet werden können.

Aus ähnlichen Gründen entfernte Apple zudem die Anwendung MaskAI. Diese ermöglichte es dem Bericht zufolge, Gesichter von Personen in sexualisierte Darstellungen einzufügen. Mit dem Ausschluss der beiden Apps setzt Apple seine Richtlinien gegen KI-Anwendungen durch, die für sexuell ausbeuterische Inhalte eingesetzt werden können.