Meta’s AI Chatbots führen uns auf einen dunklen Pfad

Letzte Woche begann ein Instagram-Video von Kendall Jenner in meinen Gruppenchats zu kursieren, in der Regel begleitet von Nachrichten, in denen „ew“ und „was ist das“ stand. Darin sagt „Kendall“: „Hey Leute, ich bin Billie. Ich möchte mich nur kurz vorstellen. Ich bin hier, um zu chatten, wann immer ihr wollt, schreibt mir, wenn ihr einen Rat braucht. Ich bin bereit zu reden, und ich hoffe, bald mit euch zu sprechen“. Er ist auf einem Konto mit dem Benutzernamen yoursisbillie gepostet, und fast jeder Beitrag auf dem Konto ist ein von der KI generiertes Bild.

Ich hätte sofort angenommen, dass es sich um einen Verrückten handelt, der Jenners Konterfei für ein gruseliges Haustierprojekt benutzt, bei dem er ihr Leben durch KI nachstellt, aber das Konto ist von Meta verifiziert. Wie sich herausstellte, handelt es sich in Wirklichkeit nur um ein gruseliges Haustierprojekt des Unternehmens, dem Meta gehört, und sie haben 28 dieser KI-gesteuerten Persönlichkeiten geschaffen, denen man nach Belieben Nachrichten schicken kann, jede mit dem Gesicht eines Prominenten. Jedes KI-Modell hat eine andere Persönlichkeit. Nach Angaben von der Pressemitteilung von Meta Charli D’Amelio ist Coco, eine Tanzbegeisterte, während MrBeast Zach ist, der „große Bruder, der dich rösten wird“. Naomi Osaka ist Tamike, eine „anime-besessene Sailor Senshi in Ausbildung“. Snoop Dogg ist ein Dungeon Master, mit dem du dein eigenes Abenteuer wählen kannst. Unerklärlicherweise, aber höchst interessant, ist Paris Hilton Amber, eine Detektivpartnerin, die Kriminalfälle aufklärt. Es gibt noch viel mehr, und weitere Charaktere werden folgen.

Für diesen Artikel wollte ich mir die Mühe machen, tatsächlich mit einem KI-Chatbot zu sprechen, aber es stellte sich heraus, dass diese „Personas“ nur in den Vereinigten Staaten verfügbar sind, solange sie sich in der Betaphase befinden. Daher musste ich mir Videos von anderen Menschen ansehen, die den Chatbot benutzen, und ich bin erleichtert, dass viele Leute die gleiche Reaktion wie ich hatten: Ist das nicht das, was in Black Mirror passiert ist? Das, in dem Prominente ihre Konterfeis an Netflix verkauften und jegliche Kontrolle darüber verloren, was mit ihnen gemacht werden konnte? Wie Jules Terpak augenzwinkernd sagt in ihrem TikTok über die Chatbots über den Verkauf der eigenen Seele. Es scheint, als ob jeder dieser Prominenten mindestens eine Million Dollar für sein Konterfei erhalten, mindestens einer von ihnen sogar 5 Millionen Dollar.

Das Beunruhigendste an diesen Bots ist, wenn man darüber nachdenkt, warum Meta sie gemacht hat. Die Wall Street Journal berichtet dass Meta versucht, mit diesen Chatbots jüngere Nutzer anzulocken und sie zur Steigerung des Engagements einzusetzen, insbesondere weil TikTok in den letzten Jahren Instagram in der Beliebtheit bei Jugendlichen überholt hat. Natürlich geht es Meta nur darum, mehr Werbung zu schalten und mehr Einnahmen zu erzielen – eine Praxis, die an sich ziemlich unethisch ist, aber für Social-Media-Plattformen nichts Ungewöhnliches darstellt. Aber die gezielte Ansprache von Teenagern ist besonders verdächtig, vor allem wenn man bedenkt, dass nicht klar ist, wie die „Gespräche“, die sie mit diesen Bots führen, und die von ihnen bereitgestellten Informationen verwendet werden, um ihnen Produkte zu verkaufen.

Die Idee dahinter ist, dass die Generation Z für neue Technologien empfänglicher ist und daher diese Chatbots nutzen möchte, aber ich denke, Meta verkennt auch, dass es diese Technologie schon seit Jahren gibt. Die Chatbots sind im Allgemeinen keine guten Gesprächspartner. Terpak bezeichnet in ihrem TikTok die Persona von MrBeast als „Trottel“ und dieser antwortet pathetisch: „Ich mag ein Trottel sein, aber ich bin immer noch der lustigste Typ im Raum. Don’t believe me? Fragt einfach meine Mutter!“ Im weiteren Verlauf des Gesprächs behauptet er erneut, er sei „der lustigste Typ, den du kennst“. Als Terpak „Tschüss“ sagt, meint der Bot: „Auf keinen Fall, Mann! Du kannst mich doch nicht einfach so hängen lassen. Komm zurück und lass uns ein bisschen Spaß haben. Ich habe eine Million Witze in petto.“ Irgendwie traurig, wirklich. Es hat absolut keinen Witz. Keine Vibes. Kein Rizz. Und doch versuchen die Bots ganz klar, Sie im Gespräch zu halten, und es wäre naiv, nicht zu fragen, was sie davon haben. Wenn sie Ihnen während des Gesprächs keine Werbung anzeigen, was tun sie dann stattdessen?

Das ist genau der Grund, warum ich nicht zu Threads gewechselt habe, wie viele andere, als Twitter zu sinken begann. Ich vertraue Meta nicht mit meinen Daten, und das sollten Sie auch nicht. Denken Sie daran: Wenn ein Unternehmen Ihnen keine Dienstleistung in Rechnung stellt, sind Sie das Produkt. Und die Datenerfassung wird weiter ausgebaut – bald können Unternehmen mit dem neuen KI-Studio von Meta auch KI erstellen, die „die Werte ihrer Marke widerspiegeln und den Kundenservice verbessern“. Entwickler können auch KIs erstellen, die „ihre virtuelle Präsenz über unsere Apps ausweiten“. Ich kann mir nicht vorstellen, dass die Erstellung von KIs mit Metas Tools und auf Metas Plattform schlecht laufen könnte!

Seien Sie gewarnt. Die Chatbots von Meta sind nicht zu Ihrer Unterhaltung gedacht, sondern zu Ihrem Profit. Fallen Sie nicht auf das Marketing herein.