12 Mar O uso de deepfakes e os limites da tecnologia

Quais são os limites da tecnologia? Essa questão ganhou força nos últimos dias após o lançamento de um comercial da Volkswagen que “ressuscitou”, por meio de inteligência artificial generativa, a cantora Elis Regina para um dueto com a sua filha, Maria Rita.

Na propaganda, Elis dirige um modelo clássico da Kombi, muito famosa nos anos 1960 e 1970, enquanto canta a música “Como nossos pais”, hino da MPB e de toda uma geração, eternizado em sua voz. Em seguida, aparece Maria Rita numa versão atualizada do veículo, um lançamento em comemoração aos 70 anos da marca, juntando-se em coro à sua mãe.

O comercial viralizou e despertou sentimentos contraditórios nos fãs. Enquanto muitos comemoram o “milagre” da tecnologia em proporcionar esse “reencontro”, outros o condenaram, alegando uma suposta violação do uso da imagem da cantora, morta há 41 anos.

A presença “física” de Elis Regina só é possível graças a um trabalho de manipulação computacional tão realista — deepfake — que tem sido encarado com certo receio por uma parcela do público, pois o uso da técnica deepfake abre precedentes inclusive para uma completa distorção da realidade com o uso indevido de imagens irrealistas para os mais diversos fins, entre eles a proliferação de fake news.

O objetivo da montadora, claro, era causar um impacto positivo no público, despertando memórias afetivas e emocionantes, em um momento mágico só possível por causa da tecnologia. Segundo os produtores, foram destinadas 2.454 horas — algo em torno de 108 dias — ao trabalho, desde a gravação da cena com a dublê ao treinamento e aplicação da inteligência artificial (IA), além da montagem e finalização do vídeo.

O resultado foi uma experiência única, mas que também vem gerando muita controversa. Os argumentos de quem questiona o uso de deepfake em peças publicitárias dizem respeito sobretudo aos direitos autorais, pois a tecnologia é capaz de criar expressões faciais e sons muito similares aos originais, mas, na prática, eles não existem. Isso implica em uma série de questões éticas e morais, em virtude de potencial invasão de privacidade e quebra de direito de imagem.

No caso específico do “reencontro” em questão entre Elis e Maria Rita, parece ser um exagero afirmar que o comercial viola os direitos autorais da cantora falecida, principalmente porque há a autorização — e no caso até mesmo a participação — da sua única herdeira. Do contrário, claro, seria inadmissível. Mas para além do debate sobre a legalidade do comercial, o certo é ela reforça os avanços e a presença da IA no nosso cotidiano e torna evidente o potencial de aprendizado das ferramentas que estão sendo utilizadas para estes fins. As possibilidades são muitas. Os riscos também.

Nos dias de hoje não há nenhum país que disponha de estruturas legais para limitar o uso e os eventuais excessos da IA, até pelo fato da regulação suscitar debates profundos, inclusive sobre os vieses discriminatórios que algumas tecnologias deste tipo já apresentaram.

O grande desafio da atualidade gira em torno da definição sobre quais seriam os elementos capazes de garantir que a aplicação da IA seja realizada de maneira responsável, dentro dos limites éticos, sem prejudicar o seu desenvolvimento, mas também mitigando riscos.

Este é um debate que ainda está no início e tende a aumentar muito ao passo em que novos exemplos como esse da Volks passarem a ser mais e mais comum no mercado e no dia a dia das redes.

Saymon Leão
Advogado da Área Digital e Proteção de Dados do escritório SCA – Scalzilli Althaus