O que a IA não vai fazer

IA é provavelmente o tema mais abordado nas postagens das redes sociais atualmente. Quando ela não é o objeto do conteúdo, é partícipe na formulação dele. Parece que não há mais condição de produzir algo que valha a pena sem participação da IA. Será? Fica a provocação.

Podemos até pensar que isso subiu a régua da qualidade dos conteúdos, pois, de fato, infográficos com design sofisticados são bem mais persuasivos. Mas admitir que o uso de IA nos trouxe essa superioridade é praticamente o mesmo que admitir a baixa qualidade (ou inferioridade) do que se produzia antes dela. Será esta a realidade?

Aparentemente a melhoria produzida pela IA tem dois aspectos principais, sobretudo em relação às LLM – Large Language Models:

·       A apresentação conta com recursos de design e linguísticos que não são dominados pela maioria das pessoas e isso, realmente, proporciona uma melhor apresentação.

·       A velocidade da produção é assustadoramente superior à velocidade que uma pessoa produziria conteúdo similar.

Mas há outras características na produção da IA, especificamente das LLMs:

·       Uma abrangência enorme, associada a uma superficialidade em relação ao conteúdo disponível para ela.

·       Uma necessidade de estimulação específica e cuidadosa para aprofundar conteúdos. Relaciona-se com o que muita gente chama de engenharia de prornpt.

A superficialidade acaba sendo mascarada pela abrangência. O fato da IA, a partir de um questionamento proposto, apresentar conteúdos desconhecidos pelo interlocutor dá a ele a impressão de que ela “conhece muito” do tema. Mas não há ali profundidade, apenas um acesso a conteúdos novos para a pessoa que a usa. Isso, claro, já é algo muito louvável, útil e importante. Não estou desqualificando a IA, mas apenas analisando friamente a questão.

Se o conteúdo é interpretado como profundo, alguma coisa está errada, mas não com a IA. Confundir abrangência ou extensão com profundidade é um equívoco comum para quem não tem domínio do processo de produção de conhecimento.

Para atingir profundidade em algum tema, a IA precisa ser provocada pela pessoa com quem interage. É a pessoa quem direciona a produção de conteúdos mais profundos. Mas a IA pode ajudar muito, pois, em muitos casos, para chegar à profundidade, é preciso vincular conhecimentos a partir da abrangência. O avanço nesta direção (profundidade) depende da intuição (direcionamento) humana. A abrangência de conteúdo pode ser estímulo para isso, mas não é a mesma coisa.

Ainda que se possa simular estatisticamente algum aspecto da profundidade, pois a IA pode ser incitada a gerar milhões de questões sobre algum conteúdo e acabar acertando alguma direção  de aprofundamento, em geral ela só o fará se for dirigida.

Este direcionamento nasce do espírito humano. Sem um questionamento bem formulado, a IA não criará questões direcionadoras, apenas especulações formuladas com base linguística (e não conceitual). As questões que comumente ela nos sugere são estatisticamente selecionadas e, conforme o contexto, sem nexo (a não ser estatístico de base linguística).

Se você pede para que ela correlacione dois temas, ela o fará. Mas a correlação não necessariamente será expressão de um fenômeno real, mas apenas uma possibilidade linguística estatisticamente construída. É nessas horas que pessoas produzem absurdos com a IA e os apresentam como conhecimento. E o design da apresentação (incluindo a redação linguisticamente sofisticada) é tão persuasivo que pode convencer muita gente.

É claro que os usuários mais treinados com a IAM sabem condicioná-la para um uso mais efetivo. Isso reduz o risco, mas não elimina, pois a natureza dos processos da IA não mudou, apenas foi condicionado.

Experimente propor a seguinte questão para uma IA: “Que relação existe entre uma xícara de areia do Deserto Saara e a tensão psicológica de um traficante numa operação, sabidamente monitorada pelas autoridades, nos guetos de Nova York?”.

Eu fiz isso e recebi respostas hilárias que variam do efeito borboleta a uma correlação entre o ângulo de repouso da areia e o limite da tensão psíquica do traficante, com direito ao uso de termos sofisticados como entropia física e a homeostase psicológica. Na realidade um paralelo entre a formatação estruturalmente similar de conceitos conhecidos, mas que não corresponde a uma correlação entre os conceitos em si.

Veja que a IA tem resposta para tudo, mas a lucidez ou estupidez do direcionamento é humano, bem como a aceitação dele como hipótese de pesquisa.

O exemplo que apresentei é caricato, mas há questões colocadas à IA que são seriamente pertinentes. Isso, entretanto, não garante que a resposta será também. Além de um direcionamento bem construído, é preciso ter critério para avaliar a resposta. Critério não é avaliar se há algum nexo, pois ela sempre indicará algum, mas se o nexo proposto é conceitualmente adequado à direção pretendida, ou se tem outra natureza. A direção proposta para uma pesquisa carrega um viés conceitual que precisa ser respeitado, caso contrário, o conhecimento gerado é fruto de jogo de azar e não de reflexão.

A produção de conhecimento mais profundo depende ainda desse direcionamento humano. A IA não vai substitui-lo porque lucidez e estupidez são atributos ainda genuinamente humanos.