O ChatGPT é opaco até mesmo para seus desenvolvedores, o que o torna potencialmente incontrolável

Enquanto assombra o mundo, a inteligência artificial (IA) geradora de linguagem, como o pioneiro ChatGPT, representa também riscos ainda não inteiramente mensurados para cidadãos e para a sociedade, conforme alertou em estudo recente a Organização para Cooperação e Desenvolvimento Econômico (OCDE). A advertência vem em boa hora: o fato de que a inteligência artificial já é uma realidade e tende a se tornar predominante em diversos setores demanda um arcabouço ético e legal específico para essa maravilha tecnológica.

Como se sabe, o ChatGPT, lançado em novembro do ano passado, pode produzir conteúdo e gerar textos, trabalho que até agora apenas seres humanos eram capazes de fazer. E logo despertou reações variadas que vão do entusiasmo com suas possibilidades de uso até o receio de que a nova tecnologia possa sair do controle e representar ameaça real nas relações sociais e no mundo do trabalho.

O documento não chega a pedir a suspensão das pesquisas que permitiram o desenvolvimento do ChatGPT e de produtos similares, como fez recentemente o instituto Future of Life, em carta assinada por milhares de empresários, pesquisadores e acadêmicos − entre eles, o dono da Tesla, SpaceX e Twitter, Elon Musk, e o historiador israelense Yuval Noah Harari. Mas o recém-lançado relatório AI Language Models: Technological, Socio-Economic and Policy Considerations (Modelos de linguagem de IA: considerações tecnológicas, socioeconômicas e políticas, em tradução livre) deixa claro que a nova tecnologia tem pontos obscuros e que é preciso agir para mitigar riscos.

Uma das preocupações diz respeito ao próprio mecanismo de funcionamento da inteligência artificial, o chamado processamento de linguagem natural − que é, em essência, o que possibilita ao ChatGPT escrever e interagir com desenvoltura comparável à de um ser humano. O documento destaca que o mecanismo é “opaco e complexo”, a ponto de que até mesmo seus desenvolvedores não compreendem inteiramente os processos que levam a determinados resultados. Ora, não é preciso ser especialista para perceber o quanto isso pode ser perigoso: o que está em questão, nas palavras do relatório, é a criação de cenários de “imprevisibilidade” e até mesmo de “incapacidade de restringir o comportamento” da máquina.

Outro aspecto sensível diz respeito ao conteúdo gerado pela inteligência artificial. A depender de quem desenvolve os sistemas e, claro, dos dados utilizados, as respostas podem variar enormemente. Isso abre caminho para todo tipo de distorção: desde erros factuais, algo que se verifica no ChatGPT, até a disseminação de preconceitos e desinformação. Corretamente, o relatório observa que tais riscos são agravados, de um lado, pelo fato de que os usuários tendem a confiar nas informações geradas pela inteligência artificial, e de outro, porque a inteligência artificial pode dar escala industrial à produção de notícias falsas.

O potencial de danos é enorme, uma verdadeira ameaça às democracias. Como bem lembra a publicação da OCDE, a inteligência artificial tem capacidade de articular textos de forma convincente, mesmo quando usa dados incorretos − as chamadas “alucinações” dos sistemas de IA. Ora, tal característica potencializa o risco de disseminação de fake news a ponto de pôr em xeque muitos dos esforços até aqui empreendidos para conter a enxurrada de mentiras que se alastram pela internet. O relatório chama a atenção ainda para possíveis violações de privacidade, inclusive com o vazamento de informações confidenciais. “Os modelos de linguagem de IA apresentam riscos para os direitos humanos”, diz o documento.

Tudo o que diz respeito à inteligência artificial geradora de linguagem ainda é muito recente, e seus impactos são desconhecidos, mas isso não impede que, a partir de alertas como o da OCDE, se discuta desde já um arcabouço jurídico e ético sólido para que essa maravilha tecnológica não se torne um pesadelo para a humanidade.