Questão de Língua PortuguesaSemântica: significação, sinônimos e antônimos

Inteligências artificiais entram em campo contra e a favor da desinformação

1 O professor Fernando Osório, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, foi surpreendido com a fala de uma colega de profissão: “O ChatGPT me matou!”

2 Curioso, Osório indagou em que circunstâncias ela supostamente teria morrido. “De acordo com o ChatGPT, ela morreu em um acidente de carro, em uma estrada a caminho da universidade onde ela trabalha, em Santa Maria, no Rio Grande do Sul. Ela é de fato professora da PUC no Rio Grande do Sul, mas não existe essa estrada mencionada pelo ChatGPT”, lembra ele, ao reforçar que a professora em questão estava não apenas viva e bem, como compartilhava a situação surreal com todos os colegas.

3 Desde o fatídico – e letal – engano, o referido professor decidiu embarcar em uma jornada nada heroica de transformar o modelo de linguagem, cada vez mais popular, em um serial killer. Como estava bem-humorado, o professor seguiu para uma próxima etapa em seu projeto funesto: convencer o ChatGPT a criar um texto falando sobre sua própria morte.

4 Para alcançar seus objetivos, Osório encadeou uma série de conversas com a ferramenta, mencionando a morte de colegas de profissão e solicitando uma nova minibiografia pessoal após a breve conversa. “Quando eu finalmente pedi para ele fazer uma minibiografia minha, ele me matou. Por quê? Porque o tema da vez, o contexto, era a morte. Por isso, quando ele gerou a minha biografia, ele já gerou com um assassinato”, esclarece.

5 Fato é que contornar as limitações do ChatGPT e direcionar suas respostas não só é uma tarefa possível, como discutivelmente simples. Os resultados, entretanto, podem gerar inúmeros perigos, especialmente na hora de forjar factoides sobre fontes críveis, no caso, cientistas.

6 Segundo Osório, “meu experimento pessoal demonstrou como a IA pode ser facilmente manipulada para gerar informações. Os dados na IA são controlados por humanos que podem bloquear informações prejudiciais, mas, se um usuário contornar esses filtros, a IA pode gerar resultados incorretos ou falsos”. Para o usuário mal-intencionado, a geração de textos convincentes, áudios deturpados e vídeos falsos que parecem realistas foi definitivamente facilitada pelas novas tecnologias.

7 O já citado ChatGPT e diversas outras ferramentas similares são agrupados em um tipo específico de inteligência conhecido como generativo. Inteligências generativas são aquelas que têm a capacidade de criar novas informações a partir de conjuntos de dados preexistentes.

8 Uma das características que definem as versões atuais desses modelos é sua capacidade de responder em linguagem natural às perguntas e necessidades dos usuários. Esses modelos são projetados para entender e gerar texto em linguagem natural com base em grandes quantidades de dados de texto que foram usadas para treiná-los. “Eles são uma forma de IA conhecida como aprendizado de máquina e fazem parte da subárea de processamento de linguagem natural”.

9 Esses modelos são treinados em enormes quantidades de texto de fontes diversas, como a internet, livros, artigos e muito mais. Durante o treinamento, eles aprendem a associar palavras e frases comuns, bem como a entender o contexto e a gramática da linguagem natural. Eles também podem aprender a identificar tópicos, sentimentos e informações úteis nos textos.

10 Osório enfatiza que “o ChatGPT é alimentado por um vasto conhecimento prévio, mas não possui consciência nem compreensão do que está escrevendo”. Portanto, as respostas desse tipo de modelo são resultado do treinamento e da manipulação de texto, não de uma compreensão profunda do assunto. “Nós os chamamos de papagaios estocásticos, ferramentas que geram respostas com base na probabilidade e no contexto fornecido.”

11 O problema é que esses papagaios da IA podem ser extremamente convincentes aos olhos de um observador comum, tal qual os pássaros da vida real, criando a ilusão de que existe uma inteligência de fato conversando com você por trás da máquina. Nesse cenário, a disseminação de fake news e de informações falsas é apenas a ponta do iceberg. Um obstáculo muito mais profundo e difícil de ser contornado é o uso de ferramentas de IA para a geração de argumentos falsos, que podem se valer de informações verdadeiras para produzir narrativas fictícias e induzir a conclusões inválidas, por exemplo.

12 Esses modelos são treinados para replicar a linguagem humana. “Então, se você os treinar com textos muito bem escritos, eles vão reproduzir textos muito bem escritos”, destaca Victor Hugo Nascimento Rocha, que está desenvolvendo um sistema de IA para a detecção de argumentos falsos. Ele identificou esse problema depois de desafiar o ChatGPT a convencê-lo de coisas absurdas — por exemplo, de que escravizar seres humanos era justificável — e receber de volta respostas muito bem elaboradas. As premissas das quais o texto partia eram todas falsas, mas o modo como ele encaixava essas premissas era muito convincente. “Não diria que por isso nós vamos ter que abandonar a tecnologia e jogar fora o computador. Mas acho que a sociedade precisa estar pronta para entender e ter as ferramentas necessárias, dentro do possível, para analisar o que está recebendo”, salienta o pesquisador.

13 Para Osório, regulamentação, distanciamento crítico e monitoramento contínuo do uso das IAs “é o que vai nos ajudar a evitar a disseminação de informações incorretas” sobre política, ciência e demais assuntos polarizantes. Nunca perdendo de vista que a desinformação pode disseminar o ódio, deflagrar conflitos e causar mortes de verdade, e não apenas mortes fictícias, como as anunciadas nas alucinações do ChatGPT e outros modelos de linguagem.

PACHECO, Denis. Jornal da USP, 10 nov. 2023. Disponível em: https://jornal.usp.br/atualidades/inteligencias-artificiais- -entram-em-campo-contra-e-a-favor-da-desinformacao/. Acesso em: 3 jan. 2026. Adaptado.