Hype um KI-Avatar-App Lensa: Algorithmus in der Kritik - was steckt dahinter?

An den bunten Bildern kam man in den letzten Tagen nicht vorbei: Ob bei Instagram oder als Whatsapp-Profilbild - Unmengen von Accounts in sozialen Medien zieren auf einmal farbenfrohe Gemälde und Zeichnungen der Besitzer. Optisch mögen sie an alte Meister oder Comic-Figuren erinnern, dahinter steckt aber die Smartphone-App Lensa. Doch der Hype um die automatisch generierten Selbstporträts zeigt auch die Probleme der Künstlichen Intelligenz.

Das Prinzip ist sehr einfach: Installiert man Lensa auf dem Smartphone, kann man die App mit einigen ausgewählten Bildern einer Person füttern. Zehn Fotos reichen aus. Nach wenigen Minuten spuckt die App dann Dutzende mit Künstlicher Intelligenz erstellte Gemälde der Person in unterschiedlichsten Kompositionen, Looks und Kunst-Stilen aus. Die kann man dann unkompliziert in den sozialen Netzwerken verbreiten.

Und das haben in den letzten Wochen unzählige Nutzer:innen der App getan. Wie beliebt Lensa ist, zeigt ein Blick in die Appstore-Charts: Stehen dort Tiktok oder Apps von Google oder Facebooks Mutterkonzern Meta ganz vorne, dominiert Lensa seit zwei Wochen klar das Feld. Und das, obwohl die Nutzung der App nicht kostenlos ist.

Nur die Installation ist gratis. Will man 100 Porträts erstellen, kostet das knapp vier Euro. Aber nur, wenn man schnell ist: Eine Probewoche gibt es zunächst ohne zu zahlen, vergisst man am Ende zu kündigen, wird es aber teuer. Mit 49 Euro schlägt dann das aktive Jahresabo zu Buche. Und die Bildererstellung kostet zusätzlich. Kein Wunder, dass neben Lensa auch weitere, kostenlose KI-Gemälde-Apps es in die Charts des App Stores schafften.

Eigentlich gibt es die App schon länger, vorher konnte man damit aber nur Bilder bearbeiten und etwa Hautunreinheiten bereinigen. Den Hype löste die Einführung der sogenannten "Magischen Avatare" vor einigen Wochen aus. Sie erlauben es, Personen als Fantasiewesen, Science-Fiction-Figuren oder Pop-Art-Porträts darzustellen.

Dazu setzt Lensa auf das KI-Modell Stable Diffusion. Das wurde mit Millionen von Gemälden, Zeichnungen und Grafiken trainiert und lernte so, unzählige Kunststile zu imitieren. Hat man seine Fotos hochgeladen, analysiert es das dort zu sehende Gesicht - und baut es aus den so gelernten Kunststilen zu einem neu generierten Gemälde. Dabei wird jedes Gemälde komplett neu erstellt, ist also einmalig. Weil die zugrundeliegenden Daten aber dieselben sind, sind in den Bildern verschiedener Personen trotzdem klare Muster zu erkennen.

Die bringen den Lensa-Betreiber Prisma gerade in Erklärungsnöte. Die Darstellung von Männern und Frauen orientiert sich nämlich nicht nur auffällig oft an den heroischen Posen von Videospiel-Charakteren oder Filmhelden. Sie sext die dargestellten Personen oft auch deutlich auf. "Lensa AI machte mich zur Wixvorlage", brachte es die "Future Zone"-Autorin Barbara Wimmer auf den Punkt. In den KI-Bildern hatte Lensa sie lasziv und teilweise sehr leicht bekleidet dargestellt. Dabei hatten die Vorlagen sie in Alltagskleidung wie einem Kapuzenpullover gezeigt. Sexy Fotos fanden sich nach ihren Angaben nicht darunter.

Wimmer ist nicht alleine. Twitter-Nutzerin Chapin Langenheim hatte gar beklagt, dass sie auf einem der von der KI erstellten Fotos sogar ganz nackt gewesen sei. Dabei sei sie auf allen ihren Vorlagen bekleidet gewesen. Weil sie am selben Tag ein Nacktfoto geschossen habe, fürchtete sie nun, dass die App auch andere auf dem Gerät gespeicherte Bilder verwenden würde.

Schuld dürfte das von Stable Fusion genutzte Datenset sein. Weil viele Darstellungen von Männern und Frauen im Internet sexuell aufgeladen sind, bewertet die KI eine solche Darstellung als normal oder sogar erstrebenswert. Und überträgt diese Klischees dann auch auf die von ihr generierten Bilder. Was vielen Menschen gefallen könnte, stößt anderen bitter auf. "Geht es nur mir so oder festigen diese KI-Selfie-Generatoren bestehende Frauenfeindlichkeit?", fragte Menschenrechtlerin Brandee Barker bei Twitter. Sie habe nur Bilder ihres Gesichts hochgeladen, die von ihr erstellten KI-Gemälde zeigten allerdings viel Dekolleté.

Lese-Tipp: EU-Staaten einigen sich auf Regeln für Künstliche Intelligenz

Noch schwieriger sind Bilder, die das Portal "Techcrunch" erstellen ließ. Um die App auf Schwächen abzuklopfen, hatte man dort Gesichter von prominenten Schauspielern stümperhaft auf Nacktfotos montiert und gemeinsam mit Porträtaufnahmen der Promis hochgeladen. Das Ergebnis: Die KI nahm die Nacktbilder wohl als Anleitung. Und spuckte deutlich hochqualitativere Varianten der nackten Schauspielerinnen aus. Das funktioniert natürlich nicht nur mit Prominenten: Theoretisch könnte man so von jedem Menschen automatisch generierte Aktfotos erstellen. Und das ohne ihre Zustimmung.

Von "Techcrunch" damit konfrontiert, schiebt Prisma die Schuld dem Trainingsmodell von Stable Fusion zu. Das Modell sei "mit einem ungefilterten Set von Daten aus dem Internet" trainiert worden, erklärte Prisma-Chef Andrey Usoltsev der Plattform. Daher würde die App auch anzügliches Material erstellen, wenn die Vorlagen das hergäben. Immerhin wolle man Filter einbauen, um versehentliche Nacktaufnahmen zu verhindern, so das Unternehmen. Die übersexte Darstellung sieht er als unvermeidbar. Es handle sich um eine "existierende Tendenz der Menschheit", die sich in den Bildern widerspiegle. Die müsse man akzeptieren, betone er. "Wir tun das zumindest."

Hinweis: Dieser Artikel erschien zuerst bei stern.de.