OpenAI heeft een tool onthuld die stemmen kan nabootsen. Het bedrijf achter chatbot ChatGPT heeft de eerste resultaten gedeeld van tests voor de nieuwe functie, maar wil de controle voorlopig strak in de hand houden om misleiding en namaak van audio te voorkomen.
Het bedrijf begon in 2022 met de ontwikkeling van de tool genaamd Voice Engine. In wezen kan het model iemands toespraak dupliceren op basis van een audiofragment van vijftien seconden en tekstinvoer.
“We erkennen dat het genereren van spraak die lijkt op de stemmen van mensen ernstige risico’s met zich meebrengt, die vooral groot zijn in een verkiezingsjaar”, schreef het bedrijf in een blogpost.
Andere AI-technologie is al gebruikt om stemmen te manipuleren. In januari was er bijvoorbeeld een door AI geproduceerde audio-opname die klonk als de stem van de Amerikaanse president Joe Biden. In deze opname werden Democratische kiezers opgeroepen niet te stemmen tijdens de voorverkiezingen in de staat New Hampshire.
Externe deskundigen
OpenAI heeft de tool gedeeld met tien ontwikkelaars. Het bedrijf zal eerst feedback vragen aan externe experts alvorens te beslissen of de functie op grotere schaal wordt vrijgegeven. OpenAI werkt onder meer samen met Amerikaanse en internationale overheidspartners, media en onderwijsinstellingen om ervoor te zorgen dat hun feedback wordt meegenomen tijdens het bouwproces.
Een van de ontwikkelingspartners gebruikt de technologie om patiënten te helpen hun stem terug te krijgen. Mensen die niet kunnen praten, kunnen nu een stem gebruiken die niet klinkt als een robot, maar realistisch en met emotie is, aldus OpenAI. Ook kan de technologie nuttig zijn voor video- en podcastmakers om hun content te vertalen en zo meer mensen te bereiken.
In het testprogramma vereist OpenAI dat zijn partners akkoord gaan met het gebruiksbeleid, toestemming verkrijgen van de oorspronkelijke spreker voordat ze hun stem gebruiken, en aan luisteraars bekendmaken dat de stemmen die ze horen door AI zijn gegenereerd.
