OpenAI remt Sora af na rel rond gebruik van Martin Luther King

Zoals Uncle Ben ooit zei: “With great power comes great responsibility.” Dat geldt dus ook voor AI. Helaas blijkt dat voor sommigen nog altijd lastig. Niet iedereen gebruikt Sora op een nette manier. Daarom ziet OpenAI zich genoodzaakt in te grijpen en zet het de mogelijkheid om video’s te maken met Martin Luther King Jr. tijdelijk stop.

Sora, het AI-model van OpenAI dat hyperrealistische video’s kan genereren op basis van tekst, is nog maar net publiek beschikbaar en heeft nu al zijn eerste rel te pakken. Het platform stroomt vol met video’s waarin historische figuren bizarre dingen doen — en die zijn niet altijd even netjes of gepast.

Ook Martin Luther King Jr. komt regelmatig voorbij. Zo duikt de bekende burgerrechtenactivist op in video’s waarin hij apengeluiden maakt of worstelt met andere historische figuren. Tot grote teleurstelling van zijn nabestaanden. Zijn dochter, Dr. Bernice King, deed eerder al een oproep op Instagram om hiermee te stoppen.

OpenAI grijpt in en beperkt mogelijkheden Sora

Naast het aanspreken van gebruikers gingen de nabestaanden ook in gesprek met OpenAI. Inmiddels heeft het bedrijf achter Sora laten weten teleurgesteld te zijn in hoe sommige gebruikers respectloze video’s maken van Dr. Martin Luther King Jr. Om te voorkomen dat dit blijft gebeuren, pauzeert OpenAI de mogelijkheid om video’s te maken met de man die een droom had.

De pauze volgt op toenemende kritiek op Sora. Want hoewel het indrukwekkend is dat de tool binnen seconden levensechte video’s kan maken, is er ook een keerzijde: het internet staat inmiddels vol met AI-video’s van overleden beroemdheden — van Whitney Houston tot Bob Ross.

Humor of heiligschennis?

Omdat niet iedereen zorgvuldig omgaat met de mogelijkheid om bekende figuren uit het verleden tot leven te wekken via Sora, kijkt het bedrijf naar manieren om dit te reguleren. Zo wordt er gedacht aan een soort opt-out-systeem, waarbij nabestaanden of rechthebbenden kunnen aangeven dat hun gelijkenis niet meer mag worden gebruikt.

Handig, maar ook ingewikkeld. Want waar trek je de grens tussen satire, kunst en misbruik? Wat voor de één humor is, is voor de ander heiligschennis. Het is aan OpenAI om een balans te vinden tussen artistieke vrijheid en morele verantwoordelijkheid. En dat lijkt in deze tijd een bijna onmogelijke opgave.

Meer AI-nieuws en mis niets met onze Bright-app.