Wikipédia será escrita por IA? Fundador diz que é preciso cautela

Em meio à crescente substituição da força humana pelas capacidades demonstradas pela IA generativa nas companhias, como produzir textos e códigos – incluindo todos os problemas que muito antes eram discutidos ao lançamento do ChatGPT por pesquisadores da área –, não é difícil pensar que essa mesma realidade seja aplicada à maioria dos materiais disponíveis na web lido por nós. Um “futuro” no qual Jimmy Wales, um dos fundadores da Wikipédia, já passou muito tempo pensando.

“A discussão na comunidade da Wikipédia que vi até agora é… as pessoas são cautelosas no sentido de que estamos conscientes de que os modelos existentes não são suficientemente bons, mas também intrigadas porque parece haver muitas possibilidades aqui”, disse Wales em entrevista ao Evening Standard.

“Acho que ainda estamos muito longe de: ‘ChatGPT, por favor escreva uma entrada na Wikipédia sobre a construção do estado do império’, mas não sei a que distância estamos disso, certamente mais perto do que eu pensava há dois anos”, acredita ele.

Imagem: Zachary McCune / Wikimedia Foundation, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

As palavras céticas do norte-americano são baseadas na própria experiência com a tecnologia, que ainda demonstra muitas falhas (não apenas do lado técnico, como o próprio CEO da OpenAI admitiu recentemente).

“Um dos problemas que existe com o ChatGPT é o que eles chamam no campo de ‘alucinação’ — eu o chamo de mentira”, pontuou.

“Ele tem a tendência de apenas inventar coisas do nada, o que é muito ruim para a Wikipédia — isso simplesmente não é bom. Temos que ter muito cuidado com isso”.

A capacidade de modelos de linguagem como ChatGPT de alucinar tem sido um dos principais pontos de preocupação quanto ao uso desenfreado do chatbot. Wales se juntou ao grupo de pessoas que têm visto isso ocorrer.

Imagem: Ociacia/Shutterstok.com

Casos não faltam. Em fevereiro, David Smerdon, economista da Universidade de Queensland, perguntou ao ChatGPT qual era o trabalho de economia mais citado de todos os tempos. De acordo com a resposta da IA, “o artigo mais citado de todos os tempos era ‘The Theory of Economic History’, de Douglass North e Robert Thomas, que foi publicado no The Journal of Economic History em 1969”.

A resposta soava perfeitamente plausível. Mas quando Smerdon foi procurar o artigo ao qual se referia, para verificar se era tão popular quanto o ChatGPT afirmava ser, ele descobriu que não existia tal artigo. Os autores eram reais, os escritores publicados, e a revista também era real. Mas o nome do artigo foi completamente forjado.

Além de inventar, Wales diz a tecnologia muitas vezes não consegue detectar as contradições internas em sua própria escrita.

“Perguntei ao ChatGPT, um avião colidiu com o prédio do estado do império? E ele disse que ‘não, um avião não caiu no Empire State Building'”, conta o entrevistado.

“Mas então ele continuou dizendo, ‘há um edifício famoso em Nova York e uma das coisas mais famosas que aconteceu foi quando um bombardeiro B25 bateu no edifício do Empire State’.

“Eu disse, um bombardeiro B25 é um tipo de avião? ‘Disse’. – então eu disse que você estava errado quando disse que um avião não bateu nele.

“E ele disse, ‘você está certo, peço desculpas pelo meu erro'”.

As inverdades contadas pela IA têm produzido problemas no mundo real com os quais as pessoas já estão tendo que lidar, envolvendo processos por difamação contra OpenAI.

IA poderia ajudar a aprimorar a Wikipédia? 

O papel que tal tecnologia poderia desempenhar nos próximos meses já tem sido discutidas inúmeras vezes.

“Eu acho que há algumas oportunidades interessantes para assistência humana onde se você tivesse uma IA que fosse treinada no corpus certo de coisas – para dizer, por exemplo, aqui estão duas entradas da Wikipédia, verificá-las e ver se há alguma declaração que se contradiga e identificar tensões em que um artigo sem dizer algo ligeiramente diferente do outro”, disse Wales.

“Um humano poderia detectar isso, mas você teria que ler os dois artigos lado a lado e pensar bem – se você automatizar a alimentação para que você saiba centenas de exemplos, acho que nossa comunidade poderia achar isso bastante útil”.

Críticas à Wikipédia

Ao longo dos anos, uma das críticas à maior enciclopédia do mundo tem sido a margem de preconceito tanto na forma como seus voluntários descrevem determinados assuntos quanto à escolha de quais tópicos merecem mais ou menos destaque.

Imagem: Om Siva Prakash/Unsplash

O exército de voluntários da Wikipédia é formado em maioria por homens e brancos, o que inevitavelmente, ou mesmo inadvertidamente, faz com que a interpretação de eventos mundiais seja sob uma perspectiva centrada nesse tipo de viés.

Ao sugerir que a IA pudesse de alguma forma neutralizar esse víes humano, Wales rebate. “Sabemos que muito trabalho de IA se deparou com preconceitos muito rapidamente, porque se você treinar uma IA sobre dados tendenciosos, então ela vai apenas seguir esse preconceito, e muitas pessoas no mundo da IA estão focadas nesse problema e estão cientes disso”, respondeu.

Enquanto acabar com o preconceito não é algo digno de uma IA, uma vez que o resultado disso será apenas o de exacerbar e perpetuá-lo, a utilidade dela poderia ser na detecção de itens que estão faltando na enciclopédia, juntando entradas Wiki correspondentes e identificando as lacunas. 

No entanto, para Wales, há outro entrave para isso ocorrer. “Usar IA para triplicar o número de entradas da Wikipedia não aumentaria nossos custos operacionais em mais de £ 1 mil por ano”, calcula.