Foto: Pixabay Quem nunca procurou um termo que não conhecia em alguma Inteligência Artificial (IA) que jogue a primeira pedra.
Mas você já se perguntou se aquela informação recebida era verdadeira ou não?
Primeiro você precisa entender que a Inteligência Artificial generativa tem dois objetivos principais:
- Dar respostas;
- Se comunicar o mais próximo de como um ser humano se comunica.
Por isso as IAs estão sendo treinadas com nossos dados pessoais de comportamento e modo de falar.
Partindo do primeiro objetivo, dar respostas, essas não necessariamente serão corretas.
Mas as pessoas acham que tudo que a IA responde é correto, porque ela buscou informações na internet inteira.
Devo esclarecer que essa premissa é falsa.
Ela não busca na internet inteira, mas busca na internet e aqui vem a segunda pergunta: Quem disse que tudo que está escrito na internet é verdadeiro?
E aqui temos o paradoxo da IA.
Ela sempre trará uma resposta, mas não quer dizer que essa resposta é correta.
Faça um teste agora de um assunto que você, contador, domina com profundidade e pergunta para uma IA generativa a resposta, como se você fosse leigo no assunto.
Esta articulista é especialista em Lei Geral de Proteção de Dados (LGPD) , inclusive coordenadora de Curso de Pós Graduação na modalidade MBA nessa área.
Perguntei a uma IA Generativa sobre a Lei Geral de Proteção de Dados e ela me trouxe respostas completamente erradas, informando conceitos do Regulamento Europeu de Proteção de Dados que não se aplica no Brasil.
Assim, fica um alerta, se você não dominar muito bem um assunto, não confie nas respostas das Inteligências Artificiais, você pode ser levado a erro por elas.
E aqui trago dois casos bem alarmantes sobre os erros das IAs Generativas.
O primeiro, divulgado mais no mundo jurídico, foi de um juiz que deu uma sentença de primeiro grau, baseada em pesquisa feita em uma IA Generetiva.
A IA trouxe o fundamento jurídico e a jurisprudência, só tem um problema, a legislação e a jurisprudência não existiam, nem sequer o número do processo citado da jurisprudência, foi tudo inventado pela IA.
E aqui temos o segundo problema: saiu uma pesquisa recente que a IA, na medida em que se desenvolve, têm cada dia mais MENTIDO.
Isso mesmo que você leu, a Inteligência Artificial Generativa, à medida que está evoluindo, está mentindo.
Uma nova pesquisa publicada pela revista Nature revela que grandes modelos de linguagem (LLMs) que vêm ficando mais poderosos acabam fazendo as IAs ‘mentirem’ com mais frequência. De certa forma, as inteligências artificiais estariam se tornando menos confiáveis conforme se tornam mais “experts” em tudo.
Mas voltando ao caso da sentença, imagina o quadro: um juiz dá uma sentença errada, com base nas respostas de uma IA que inventou dados e a parte prejudicada ainda tem que pagar para recorrer.
Para quem não sabe, para recorrer de uma sentença, há a necessidade de pagar o que se chama tecnicamente de custas de preparo do recurso.
Então o juiz erra porque dá uma sentença com base em dados inventados pela IA e a parte é prejudicada duas vezes, ao ter uma sentença com dados que não existem e ainda ter que pagar para recorrer.
E aqui se abre uma questão ética.
Até que ponto as decisões dos gestores corporativos estão sendo tomadas por eles mesmos e até que ponto eles estão baseando suas decisões em pesquisas feitas nas inteligências artificiais que podem mentir?
Fica aqui uma boa reflexão.
