A confiança cega na inteligência artificial pode levar a uma série de problemas, especialmente quando se trata de questões éticas e de credibilidade. Um dos riscos mais evidentes é o plágio. Com o acesso fácil a grandes volumes de informações, os algoritmos podem facilmente reproduzir conteúdos sem citar fontes, comprometendo a originalidade e a integridade intelectual. Além disso, a disseminação de reuniões virtuais utilizando vídeos e áudios falsos é outra preocupação crescente.
Com o avanço da tecnologia de geração de imagens e áudio, é cada vez mais difícil discernir entre o real e o fabricado. Isso pode resultar em decisões tomadas com base em informações manipuladas, levando a consequências desastrosas para empresas e organizações. É ampla a gama atual de ferramentas que, a partir de parâmetros originais e humanos, como imagem e voz, conseguem criar, seja de forma induzida, seja de forma regenerativa, verdadeiros humanoides virtuais, que reproduzem com alto grau de credibilidade a pessoa “copiada”.
A credibilidade de uma empresa ou negócio também pode ser severamente prejudicada ao se confiar cegamente na inteligência artificial sem realizar verificações adequadas. A divulgação de informações falsas ou manipuladas pode minar a confiança dos clientes, investidores e parceiros comerciais, causando danos irreparáveis à reputação e ao sucesso comercial. Portanto, é essencial que as empresas adotem uma abordagem cautelosa ao utilizar inteligência artificial, garantindo que haja supervisão humana adequada e sistemas de verificação de qualidade em vigor. A transparência e a responsabilidade são fundamentais para mitigar os riscos associados ao uso dessa tecnologia e manter a integridade e a credibilidade em todas as operações empresariais.
Não tem sido poucos os exemplos de como a inteligência artificial vem sendo utilizada para criar ilusões e fraudes. Um exemplo alarmante do perigo do uso indiscriminado da inteligência artificial é o caso de deepfake ocorrido na China recentemente, onde um empregado de alto acesso em certa empresa foi enganado, a partir da inteligência artificial, para transferir a quantia de 25 milhões de dólares para criminosos.
O golpe se deu da seguinte maneira: Com o uso das ferramentas de inteligência artificial os fraudadores criaram uma reunião virtual com o dito empregado, pessoa real. Na reunião, participaram outros “empregados”, que na verdade eram criações geradas por inteligência artificial a partir de parâmetros reais (voz e imagem) de outros empregados da empresa. O empregado “real”, na verdade, conversava por áudio e vídeo com robôs! Nesse incidente, os golpistas utilizaram a tecnologia para criar uma ilusão de realidade e transmitirem uma mensagem persuasiva, imitando a voz e a aparência da equipe e de um executivo de alto escalão da empresa. O empregado, induzido a erro, possuía amplo acesso aos fundos financeiros, e confiando na autenticidade da mensagem, realizou a transferência do grande montante sem suspeitar da fraude.
Levantamentos de empresas e instituições de análise indicam que, no ano passado, 16 intervenções políticas foram verificadas no mundo, criando falsas informações para levar o eleitorado ao engano! Na Eslováquia, por exemplo, no final do ano passado (setembro de 2023), nas eleições parlamentares havia um candidato de ordem progressista e outro que contava com apoio Russo. Às vésperas das eleições viralizou uma imagem do candidato progressista, acompanhada de um áudio que simulava sua voz, no qual estaria ele negociando vantagens indevidas. Nas eleições, o dito partido progressista teve um pior resultado, que embora não se possa provar a atribuição à notícia falsa, criada com ares de credibilidade, tudo indica que esta gerou um grande impacto.
Outro exemplo muito claro foi, no ano de 2023, quando uma imagem do Papa Francisco, vestindo um vistoso e caríssimo casaco branco viralizou, a imagem teve mais de 750 milhões de visualizações em 40 minutos após publicada! Mas ele jamais vestiu um casaco de tal marca, tão vistoso, chamativo, e sobretudo, caro!!
Atento a isso, no âmbito legislativo, no Brasil tramita o projeto de lei 2.338/2023 dispõe sobre o uso da inteligência artificial, especialmente no segmento da política, mas já se sabe que, mesmo que aprovada a Lei, não poderá ser validada para as eleições deste ano!!
Se antes as montagens falsas eram toscas, mais pareciam piadas e viravam verdadeiros ‘memes” de humor, hoje o acesso aos sistemas de inteligência artificial regenerativa é muito acessível, criando materiais que acabam sendo críveis, e convencendo as pessoas. Vemos que o serviço de criação de imagens, áudios e vídeos falsos, à partir de imagens e vozes reais, já é vendido e disponibilizado a partir de apenas cinco dólares mês!! Próximo a R$ 25,00.
Estes casos ilustram como a confiança cega na inteligência artificial pode levar a consequências desastrosas. A capacidade de criar vídeos e áudios falsos que são extremamente convincentes está muito facilitada, e isto torna ainda mais difícil para as pessoas em geral discernirem entre o real e o fabricado.
Em um ambiente empresarial, isso pode resultar em perdas financeiras significativas, danos à reputação e até mesmo repercussões legais. Portanto, é imperativo que as empresas estejam vigilantes e implementem medidas rigorosas de segurança e verificação ao lidar com tecnologias de inteligência artificial. A educação dos funcionários sobre os riscos associados ao uso dessas tecnologias e a implementação de protocolos de verificação robustos são essenciais para evitar que incidentes como o caso do deepfake na China ocorram novamente.
O equilíbrio entre a inovação tecnológica e a segurança deve ser priorizado para proteger os interesses e a credibilidade das empresas.
Por Roberto Maldaner