De software, genaamd ‘Voice Engine’, kan een stem nabootsen op basis van een opname van vijftien seconden. “We erkennen dat het vermogen om stemmen te genereren die lijken op die van individuen ernstige risico’s met zich meebrengt, vooral in een (Amerikaans, red.) verkiezingsjaar”, aldus het bedrijf.
OpenAI zegt een “voorzichtige en geïnformeerde aanpak” te hebben gekozen. Zo is expliciete toestemming vereist van de persoon wiens stem wordt gekloond en moet duidelijk worden vermeld dat de stem door kunstmatige intelligentie is gegenereerd. Daarnaast krijgt elk product ook een watermerk.
Tijdens de Democratische voorverkiezingen in New Hampshire ontstond er opschudding nadat een gekloonde versie van de stem van Joe Biden mensen opriep niet naar de stembus te gaan. In de nasleep heeft de Amerikaanse regering regelgeving aangenomen die telefoongesprekken die door kunstmatige intelligentie worden gegenereerd, verbiedt.
