Der ethische Drahtseilakt der KI in Film, Fernsehen und Spielen

In dem aktuellen Klima, das KI-Inhalte in Filmen, Fernsehsendungen und Spielen umgibt, war ich überrascht, wie offen Respeecher mit seiner Arbeit in Cyberpunk 2077 umgeht. Das in der Ukraine ansässige Studio ist vor allem dafür bekannt, dass es den jungen Luke Skywalker in The Mandalorian und The Book of Boba Fett zurückgebracht hat, wo es nicht nur um Ethik, sondern auch um Qualität ging.

Aber jetzt war ein Vertreter von Respeecher in meinen Twitter-DMs und teilte Neuigkeiten mit, die weitgehend unter dem Radar geflogen waren – es hat die Stimme eines verstorbenen Schauspielers für Cyberpunk 2077 wiederbelebt: Phantom Liberty.

Miłogost Reczek spielte Viktor in der polnischen Synchronisation von Cyberpunk 2077. Es war nicht sein erster Auftritt bei CD Projekt Red – er spielte auch Vesemir in den The Witcher-Spielen. Er verstarb 2021 im Alter von 60 Jahren.

Ihr Browser unterstützt das Video-Tag nicht.

Viktor spielt eine kleine, aber integrale Rolle in der Geschichte von V. Es war geplant, dass er in den Updates von Cyberpunk 2077 auftaucht (schließlich wurde er auf ein einziges Update reduziert), als Reczek starb. Mit dem Einverständnis und der Beteiligung der Familie begann CD Projekt Red, nach Möglichkeiten zu suchen, Reczeks Auftritt für Phantom Liberty zurückzuholen. Glücklicherweise war man bereits mit einem Studio in Kontakt, das genau wusste, was zu tun war.

„Wir haben schon seit mehreren Jahren mit CD Projekt Red gesprochen“, sagt Alex Serdiuk, CEO von Respeecher. „Sie waren mit den Möglichkeiten unserer Technologie vertraut. Wir haben sie auf dem Laufenden gehalten.“

Als CDPR mit Respeecher Kontakt aufnahm, hatte sich das Spielestudio bereits gegen die Wiederverwendung alter Texte oder die Anstellung eines Soundalikes entschieden. Vor allem aber war Reczeks Familie mit an Bord, was Serdiuk schnell als rote Linie für Respeecher ausmachte.

„Als wir das Unternehmen gründeten, haben wir mit dieser ethischen Erklärung begonnen“, sagt Serdiuk. „Wir lehnen eine Menge Projekte ab.“

Respeecher sagt, dass es oft nicht direkt mit den Schauspielern oder der Familie eines verstorbenen Schauspielers zusammenarbeitet, da dies von dem Studio übernommen wird, das sie engagiert hat. In diesem Zusammenhang frage ich, ob das bedeutet, dass sie auch schon mal einen Job angenommen haben, ohne zu wissen, wie der ursprüngliche Schauspieler oder seine Familie über die Angelegenheit denkt.

„Nein, niemals. Das ist in den sechs Jahren unseres Bestehens noch nie passiert. Und das ist einer der Gründe, warum Respeecher der einzige Stimmenklon-Service ist, der eine eigene IMDb-Seite hat und in großen Produktionen eingesetzt wurde.

„Dieses Vertrauen, dieser Respekt, ist nicht nur im Hinblick auf die allgemeine Ethik und die Art und Weise, wie wir unsere Gesellschaft voranbringen und neue Technologien annehmen wollen, wichtig, sondern auch für den Inhalt selbst“, erklärt er. „Was auch immer für PR-Probleme auftauchen können, wenn sie eine andere Technologie und ein anderes Unternehmen verwenden, werden sie unweigerlich schlechtere Ergebnisse erhalten, weil niemand diesen einzigartigen Service auch anbietet.“

Respeecher wurde im Februar 2018 gegründet und hat seinen Sitz in Kiew, Ukraine.

In diesem speziellen Fall ist es schwer zu argumentieren, dass dies in irgendeiner Weise respektlos gegenüber einem der beteiligten Akteure war. Respeecher scheint sich dessen sicher zu sein, daher die Dreistigkeit, der Welt mitzuteilen, dass es die Stimme eines verstorbenen Schauspielers nachgebildet hat, und das alles, während in der Unterhaltungsindustrie zwei Streiks stattfanden, die sich weitgehend auf die unethische Nutzung von KI konzentrierten.

Nachdem ich in der Vergangenheit mit einigen KI-Enthusiasten gesprochen habe, darunter ein unglaublich beunruhigendes Gespräch mit Georgi Dimitrov, dem CEO eines „KI-Freundschaftsdienstes“, waren die Unterschiede hier frappierend. Dimitrov war schnell dabei, ethische Bedenken zu zerstreuen, bevor ich die Gelegenheit hatte, sie anzusprechen. Serdiuk tat das nicht. Die Art und Weise, wie er spricht, erweckt fast den Eindruck, dass er sich und Respeecher als Teil einer ganz anderen Branche betrachtet und die heimtückischeren KI-Anwender überhaupt nicht als seinesgleichen ansieht.

„Wir haben unser Geschäft auf der Grundlage der Technologie zur Sprachumwandlung von Sprache zu Sprache aufgebaut, [which] Das ist ein großes Unterscheidungsmerkmal zu den meisten synthetischen Sprachsystemen auf dem Markt, bei denen es sich um Text-to-Speech handelt. Speech-to-Speech bedeutet, dass wir einen Interpreten brauchen – wir brauchen einen guten Interpreten .damit bereichern wir die Branche.“

Es gibt natürlich das Argument, dass jedes Mal, wenn ein Unternehmen die Dienste von Respeecher in Anspruch nimmt, es einem anderen Schauspieler einen Job wegnimmt, der das, wonach die Regisseure gesucht haben, hätte wiedergeben können. Serdiuk betont jedoch, dass sein Dienst dies nicht tut und stattdessen den Schauspielern ermöglicht, eine breitere Palette von Auftritten zu bekommen.

„Viele von ihnen [.] nutzen unsere Technologie, damit sie Charakterstimmen machen können, die schwer zu bekommen sind“, sagt Serdiuk. „Wenn man zum Beispiel eine Charakterstimme für einen Zeichentrickfilm machen muss, der viel schreit, kann man das etwa 15 Minuten am Tag machen. Und dann muss man sich den ganzen Tag lang ausruhen, weil es einfach weh tut. Jetzt können sie das Modell mit ihrer Charakterstimme trainieren und es mit ihrer normalen Stimme fahren.“

„Wenn ich im Jahr 2018 eine Umfrage unter den Synchronsprechern machen würde, würden neun von zehn sagen, dass sie es nicht können. [they] dass sie Angst vor dieser Technologie haben. Jetzt würden neun von zehn sagen: ‚Lass uns das erforschen‘. Sie verstehen, dass die Technologie nicht verschwinden wird. Es ist also etwas, das angenommen werden muss.“

Speech-to-Speech bedeutet, dass wir einen Interpreten brauchen – wir brauchen einen guten Interpreten .damit bereichern wir die Branche.

Meine Erfahrung mit Schauspielern hat gezeigt, dass dies unterschiedlich ist. Schauspieler wie Yuri Lowenthal, Roger Clark und Erica Lindbeck haben sich gegen Text-to-Speech ausgesprochen, das weder ihre Beteiligung noch ihre Zustimmung erfordert. und die Praxis von Spielefirmen, ihre Stimmen und Mocap-Darbietungen für die Verwendung in anderen Spielen zu sammeln. Das würde bedeuten, dass sie später in Spielen auftauchen könnten, für die sie nicht unterschrieben haben, ohne zusätzliche Leistungen erbringen zu müssen.

Wie Serdiuk erklärt, ist das nicht das, was Respeecher tun will. Respeecher will bei der Sprachübertragung bleiben, bei der der Schauspieler ohnehin neue Zeilen aufnehmen müsste. Aber einige Studios sind eindeutig daran interessiert, Kreative vollständig zu ersetzen, und diese dunkle Seite der KI-Nutzung kann nicht ignoriert werden. Tatsächlich berichten mir Schauspieler, dass es bereits zu Missbräuchen kommt.

„Viele Spiele-Schauspieler mussten sich bereits damit auseinandersetzen, dass ihre Gesichtsdaten und Mocap-Aufnahmen auf Dauer von Spiele-Studios verwendet werden, sogar für ein anderes Spiel zu einem viel späteren Zeitpunkt“, sagte mir Roger Clark, der vor allem für seine Rolle als Arthur Morgan in Red Dead Redemption 2 bekannt ist, im Juli. „Die Verbraucher haben etwas Besseres verdient als eine fränkische Performance.“

Für Serdiuk ist dies kein Ersatz für die Arbeit von Schauspielern, weil sie einfach nicht sehr gut ist. „Wir sehen viele große Akteure in der Branche, die eine ähnliche Technologie wie unsere herausbringen, wie z. B. die Technologie zum Klonen von Stimmen, ohne die Kontrolle über die Rechte am Bildnis oder die Moderation der Inhalte zu übernehmen“, sagt Serdiuk. „Das ist besorgniserregend für Schauspieler, weil jemand eine dieser Technologien für seine Inhalte nutzen kann. Glücklicherweise würden qualitativ hochwertige Inhalte nicht [cause] Meiner Meinung nach ist das kein Problem. [.] Schriftsteller sind durch diese Technologie mehr bedroht, aber ich glaube immer noch fest daran, dass der Mensch nicht ausgeschaltet werden kann.“

Dennoch ist es vielleicht der bisher größte Auftritt von Respeecher, der die Meinungen über alle Faktoren spaltet, die bei KI zu berücksichtigen sind, von ihrer Qualität bis hin zu den Auswirkungen auf die Schauspieler.

Star Wars hat eine undurchsichtige Geschichte, wenn es darum geht, seine älteren Charaktere zurückzubringen. Han Solo wurde neu besetzt, aber nachdem sein Spin-Off-Film floppte, scheint Disney Angst davor gehabt zu haben, einen anderen Schauspieler wieder in die Schuhe eines Charakters schlüpfen zu lassen, und hat die jüngeren Luke und Leia durch eine Mischung aus Deepfake und KI-Technologie wiederbelebt.

Die unmittelbarste Debatte war jedoch die Qualität des Films. Anders als bei Lukes Auftritt als Mandalorianer wussten wir alle, dass er von Respeecher zurückgebracht wurde, bevor er in das Buch von Boba Fett aufgenommen wurde. Serdiuk stimmt nicht mit mir überein, wenn ich sage, dass die Resonanz gemischt war.

„Im Allgemeinen war die Reaktion auf The Mandalorian extrem positiv, wir können sagen, dass 99 Prozent der Fans begeistert waren, den jungen Luke zu sehen, einfach weil sie in ihre Jugend zurückversetzt wurden“, sagt er. „Wir [didn’t] sehen viele Beschwerden über Luke in Book of Boba Fett [.] Wir haben es geschafft, unsere Qualität noch weiter zu verbessern.

„Ich glaube, die Star Wars-Fans haben die Idee angenommen und unterstützen es, die Figur auf diese besondere Art und Weise neu zu erschaffen. [.] Wir haben schon erwachsene Männer weinen sehen, nur weil sie den Luke aus ihrer Kindheit gesehen haben.“

Auch hier gab es, isoliert betrachtet, kein falsches Spiel. Wie schon bei Cyberpunk 2077 sagt Serdiuk, dass Mark Hamill an Bord war, um den jungen Luke zurückzubringen, bevor Respeecher überhaupt angeheuert wurde. Der Gedanke, dass Respeecher einem anderen Schauspieler, der einen jüngeren Luke spielen könnte, eine Rolle gestohlen haben könnte, ist für Respeecher nicht von Belang, da es seinen Kunden überlassen bleibt, zu entscheiden, welche Richtung sie einschlagen.

Wenn es macht selbst entscheidet, was es mit seiner Technologie machen will, sieht es vielversprechend aus. Serdiuk möchte die Arbeit von Respeecher mit denjenigen teilen, denen bei einer Operation der Kehlkopf entfernt wurde, und ihnen mit der Technologie des Stimmklonens die verlorene Stimme zurückgeben. Die Ziele sind ehrgeizig: Die Stimmumwandlung soll bei diesen Patienten in weniger als 50 Millisekunden erfolgen, so dass die Software kaum spürbar ist.

Wir haben schon erwachsene Männer weinen sehen, nur weil sie den Luke aus ihrer Kindheit gesehen haben.

Selbst wenn man sich nur auf die Ambitionen von Respeecher in der Unterhaltungsindustrie konzentriert, ist es noch lange nicht vorbei. Serdiuk gibt zu, dass Videospiele viel schwieriger zu bearbeiten sind, aber nach Cyberpunk 2077 können wir damit rechnen, dass seine Dienste in weiteren Titeln auftauchen werden.

Er hat auch keine Angst, dass neue Gesetze seine Arbeit behindern könnten. Er ist der Meinung, dass sein Unternehmen der Regulierung einen Schritt voraus ist, indem es sich an seinen ethischen Kodex hält und Aufträge ablehnt, die diesen gefährden würden. Die Tatsache, dass es zu den ersten Studios gehörte, die Pionierarbeit leisteten, indem sie einen verstorbenen Schauspieler für eine Rolle zurückholten, deutet darauf hin, dass es zuversichtlich ist, dass seine Moral es vor Verstößen gegen die Ethik bewahrt – ein weniger vorsichtiges Unternehmen hätte dies leicht schlecht handhaben und den Zorn der Unterhaltungsindustrie und der Gesetzgeber auf sich ziehen können.

Das Unternehmen hat sicherlich mehr Legitimität als andere KI-Anbieter, aber in Zukunft wird es sicherstellen müssen, dass die Schauspieler nicht nur zustimmen, weil sie es müssen, sondern weil es sie bei ihren Auftritten wirklich unterstützt. Schon jetzt gibt es viele verständlicherweise besorgte Kreative, die es zu überzeugen gilt. Um das zu schaffen, braucht es eher unauffällige und rücksichtsvolle Jobs wie Cyberpunk 2077 und nicht die großen Schlagzeilen und Debatten, die mit der Verewigung eines jungen Mark Hamill einhergehen.