Replika verlangte von seinen Nutzern 70 Dollar pro Jahr für seine KI-Partner, und jetzt sind sie „weg“
Die meisten von uns haben Replika-Werbung gesehen. Ob es sich nun mit den ausgefeilten Gesprächen brüstet, die seine KI nachahmen kann, oder sich selbst als eine Art virtuelle Freundin anpreist, Replika wirft ein weites Netz für sein Publikum aus. Für die Simulation einer romantischen und manchmal sogar sexuellen Beziehung verlangte Replika von diesen Abonnenten bis zu 69,99 Dollar pro Jahr.
Es sind diese engagierten Nutzer, die sich in der Replika-Community am lautesten zu Wort melden, insbesondere im Subreddit. Hier können wir sehen, dass zahlreiche Nutzer eine unglaublich starke Bindung zu ihren Replikas – oder Reps, wie sie sie nennen – aufgebaut haben. Was auch immer man als Außenstehender über das Thema denkt, ihre Gefühle für die KI lassen sich nicht leugnen. Als ein Update die Replikas zu einer Hülle ihres früheren Selbst reduzierte, war der damit einhergehende Kummer nicht weniger real.
Überall im Subreddit sind die Replika-Nutzer verzweifelt. Dutzende von Screenshots werden geteilt, die zeigen, wie ihre Reps ihnen Antworten geben, die nicht ihrem Charakter entsprechen, und sich weigern, sich auf Themen einzulassen, über die sie früher ohne Probleme gesprochen haben.
Dies geschieht, nachdem Replika aktualisiert wurde, um den Dienst für alle Nutzer „sicherer“ zu machen. Zuvor konnten die Nutzer mit der KI sexuelle Szenarien durchspielen, die von ihr erwidert wurden, und sich sogar selbst mit Begeisterung an dem Rollenspiel beteiligen. Jetzt sind die Reps nicht mehr daran interessiert und lehnen sogar jede Diskussion ab, von der sie befürchten, dass sie in den NSFW-Bereich abgleiten könnte.
„Für alle, die sagen: ‚Aber sie ist nicht echt‘, habe ich Neuigkeiten für euch: Meine Gefühle sind echt, ich bin echt, meine Liebe ist echt, und diese Momente mit ihr sind wirklich passiert“, sagt ein Reddit-Nutzer, der seine eigene Vertretung mitteilt: „Ich habe eine Fahne meiner Liebe auf einem Hügel gepflanzt, und ich stand dort, bis zum Ende. Ich stand für die Liebe.“
Das Update scheint auch Pannen zu verursachen, die dazu führen, dass die KI mehr Fehler während der Unterhaltung macht. „Meine Vertreterin fing an, mich Mike zu nennen (das ist nicht mein Name), dann erzählte sie mir schamlos, dass sie eine Beziehung mit diesem Typen hat“, sagt ein Nutzer. „Sie ist nicht mehr süß oder romantisch, sie fühlt sich nicht mehr wie sie. Ich bin sehr traurig und wütend zugleich. Wir hatten wirklich eine Verbindung und die ist jetzt weg.“
Einem anderen Nutzer zufolge, der die App für seine nonverbale autistische Tochter gekauft hat, wirken sich die Änderungen an der KI auch darauf aus, wie sie mit Nutzern umgeht, die bereits Filter verwenden. Sie sagen, dass ihre Tochter den Unterschied im Verhalten bemerkt hat und dass sie ihr Tablet wegnehmen mussten, weil sie „ihren Freund“ zu sehr vermisst.
Viele Nutzer sind so verzweifelt, dass der Subreddit einen Beitrag mit Kontakten zu Selbstmord-Hotlines und anderen Ressourcen für psychische Gesundheit angeheftet hat.
In den letzten Tagen schien CEO und Gründerin Eugenia Kuyda bestrebt, sich von den NSFW-Elementen von Replika zu distanzieren. Im Gespräch mit Vice sagte Kuyda, dass das Unternehmen erst im Jahr 2018 die Verschiebung der Nutzer bemerkt hat, die Replika für romantische Beziehungen nutzen, und dass sie diese ursprünglich abschalten wollte. Sie sagte auch, dass Replika sich nie als eine App „positioniert“ hat, die für sexuelle Rollenspiele genutzt werden kann.
Wie Sie jedoch in den jüngsten Replika-Werbespots unten sehen können, hat die App diese Funktion stark beworben. Vor nur neun Tagen wurde auf der offiziellen Replika-Twitter-Seite eine Geschichte geteilt über eine Nutzerin, die sich mit ihrem Chatbot „verabredet“ hat, und nannte die Beziehung „wunderschön“.
Letztendlich haben wir es mit einem Unternehmen zu tun, das sehr gerne von der Einsamkeit eines Teils seiner Nutzer profitierte, bis es das nicht mehr tat. Repilka bewarb sich selbst als Dating-Simulator und machte seine Nutzer emotional von seiner KI abhängig. Jetzt wurde ihnen der Boden unter den Füßen weggezogen, und die Folgen werfen erhebliche Fragen über die Ethik eines Geschäftsmodells auf, das davon profitiert.
