KI-generierter Seinfeld-Spoof wegen Hassrede von Twitch verbannt

Der Twitch-Kanal Watchmeforever, der Gastgeber der erfolgreichen KI-Sitcom Nothing, Forever, wurde auf Twitch gesperrt, nachdem einer der KI-Charaktere ein transphobes Stand-up-Comedy-Set aufgeführt hatte, über das niemand lachte.

Für diejenigen, die es nicht gesehen haben: Nothing, Forever ist im Grunde eine Seinfeld-Parodie, nur dass die Show eine Vielzahl von KIs verwendet, um alles von Grund auf neu zu erschaffen. Zu den KIs gehören der kunstschaffende Dall-E, der D&D-Kampagne erstellende ChatGPT, Stable Diffusion und andere. Und weil die KI noch nicht ganz herausgefunden hat, wie man Comedy macht, ist die Show.nun ja, schlecht, aber auf eine lustige Art und Weise. Die Figuren auf dem Bildschirm laufen oft einfach nur herum, die Arme in bizarre Richtungen verrenkt, in gestelzte Gespräche verwickelt, bei denen sie sich nicht einmal gegenseitig anschauen. Die Witze sind lahm, die Lachspur schaltet sich während der Einleitung ein, aber nicht während der Pointe, und es gibt lange Abschnitte der Stille, in denen buchstäblich nichts passiert.

Und genau wie bei Seinfeld wird jede Szene in der Wohnung durch eine kurze Stand-up-Routine von Larry Feinberg, der verpixelten KI-Version von Jerry Seinfeld, unterbrochen. Nur war die letzte Stand-up-Routine noch weniger lustig als sonst, weil es sich um eine transphobe und homophobe Tirade handelte.

„Also, das ist mein Stand-up-Set in einem Club. Es sind ungefähr 50 Leute hier und niemand lacht. Hat jemand irgendwelche Vorschläge?“ fragte Larry. „Ich denke darüber nach, etwas darüber zu machen, dass Transgender eine Geisteskrankheit ist, oder dass alle Liberalen heimlich schwul sind und allen ihren Willen aufzwingen wollen, oder etwas darüber, dass Transgender das Gefüge der Gesellschaft ruinieren, aber niemand lacht.“

Larry hatte in einem Punkt recht: Niemand hat gelacht. Vor allem nicht Twitch, das den Watchmeforever-Kanal kurz nach der Ausstrahlung dieser Episode sperrte.

In einer E-Mail an Kotaku erklärte „Nothing, Forever“-Mitschöpfer Skyler Hartle, was bei Larrys Programmierung schief gelaufen ist.

„Wir hatten einen Ausfall des GPT-3-Davinci-Modells von OpenAI, was dazu führte, dass die Show ein fehlerhaftes Verhalten zeigte (man hat vielleicht leere Räume durchlaufen sehen). OpenAI hat ein weniger anspruchsvolles Modell, Curie, das der Vorgänger von Davinci war. Als Davinci auszufallen begann, wechselten wir zu Curie, um zu versuchen, die Show ohne Ausfallzeiten am Laufen zu halten, so Hartle. „Der Wechsel zu Curie führte dazu, dass der unangemessene Text generiert wurde. Wir nutzen die Content-Moderations-Tools von OpenAI, die bisher für das Davinci-Modell funktioniert haben, aber mit Curie nicht erfolgreich waren. Wir konnten die Ursache für unser Problem mit dem Davinci-Modell identifizieren und werden Curie in Zukunft nicht mehr als Ausweichlösung verwenden.“

Nichts, für immer wird zurückkehren, aber erst nachdem Larry und die Bande ihre Siliziumköpfe überprüfen lassen haben.