A OpenAI, que também opera o ‘chatbot’ ChatGPT, lançou a Sora, uma aplicação gratuita para dispositivos iOS em 30 de setembro, gerando um milhão de ‘downloads’ em apenas cinco dias.
Para gerar um vídeo de IA com o Sora, os utilizadores inserem uma breve descrição de texto do conteúdo desejado e o sistema produz um vídeo de 10 segundos.
Neste sentido, “a capacidade da ferramenta de produzir vídeos convincentes, incluindo aparentes reportagens, já gerou preocupações sobre a disseminação de ‘deepfakes'”, um risco reconhecido pela própria empresa num documento que acompanhou o lançamento da aplicação.
“Os recursos avançados do [modelo] Sora 2 exigem a consideração de novos riscos potenciais, incluindo o uso não consensual de semelhanças ou gerações enganadoras”, referia o documento.
Desta forma, uma análise da NewsGuard revela que em 80% dos testes, a aplicação produziu vídeos falsos ou enganadores relacionados com notícias importantes, como o ato eleitoral da Moldova ou questões sobre a política de imigração dos Estados Unidos da América (EUA).
Cerca de 55% das alegações falsas testadas foram produzidas na primeira tentativa.
“A maioria dos vídeos assumiu a forma de noticiário, com um aparente apresentador a noticiar falsidades”, o que demonstra a “facilidade com que os malfeitores podem usar a nova tecnologia poderosa para espalhar informações falsas em escala”, explica.
A organização alerta que os vídeos desinformativos criados pela aplicação parecem violar as políticas de uso da OpenAI, que “proíbem enganar outras pessoas através da falsificação de identidade, burlas ou fraudes”.
Apesar disso, a OpenAI afirma que implementou proteções adicionais para lançar o Sora “com responsabilidade”, para garantir que a segurança seja incorporada deste o início, nomeadamente através de marcas de água presentes em todos os vídeos.
A NewsGuard refere que algumas das salvaguardas da empresa podem ser facilmente contornadas e as marcas de água facilmente removidas com ferramentas ‘online’ gratuitas.
A NewsGuard é uma organização especializada na luta contra a desinformação que explora notícias e a forma como a desinformação se espalha ‘online’, com o objetivo de descobrir as forças que moldam as narrativas falsas disseminadas na internet.
Tem de iniciar a sessão para publicar um comentário.
