O papagaio digital e o humano artificial, por Fabio Camara*

Muitas poucas coisas geram tantas expectativas de mudanças no seu trabalho como a inteligência artificial generativa, ou simplesmente Gen AI. Este é apenas mais um artigo chato, feito por um humano – no caso eu – para explicar uma visão quase ordinária sobre o emburrecimento humano.

As propagandas viraram verdades porque os jornais viraram convicções com parcialidade binária, ou se é amigo ou inimigo, não existem mais os neutros. Assim parece caminhar as afirmativas sobre a futura existência das empresas, sendo ainda mais complexo porque existem mais de duas big techs com as melhores ferramentas de Gen AI do planeta.

Afinal, por que tanta atenção para a inteligência artificial que na prática consome tanta energia? Na prática mesmo, com a permissão poética para repetir a palavra no mesmo parágrafo, a Gen AI não passa de um papagaio digital. Se você ainda não entendeu o que a Emily M. Bender argumentou, naturalmente você é um que acredita que as propagandas são verdades.

A tese do “Papagaio Estocástico” (cunhada por Emily M. Bender e Timnit Gebru) argumenta que as IAs generativas não compreendem o significado, o contexto ou a lógica do que produzem. Assim como um papagaio imita sons humanos por repetição, os LLMs utilizam probabilidade estatística para prever e combinar as palavras mais prováveis com base em um vasto volume de dados de treino. Dados estes, me perdoem descer o nível, capturados com ética questionável pelas… – melhor deixar para lá.

Então como pode um papagaio digital mudar o meu trabalho? Provavelmente porque eu não entendo o que estou pedindo para uma Gen AI. O erro mais comum das pessoas é cometer o antropomorfismo, atribuindo consciência, raciocínio e intenção à máquina. O equívoco prático ocorre ao usar a IA como fonte de verdade absoluta ou oráculo factual (gerando as chamadas alucinações), em vez de uma ferramenta de automação linguística, ignorando que ela reflete padrões e vieses matemáticos, e não discernimento real.

Eu confio mais numa SLM no qual eu conheço a origem dos dados e o treinamento que “ela” recebeu do que em uma LLM de mercado. Porém me sinto um eremita, um isolado da internet, quando exponho minha preocupação para os clientes da nossa consultoria.

Tudo bem, dados valem apenas um real. Quando transformamos dados em uma informação, valorizamos dez vezes. Isso já é raro, poucos clientes possuem cientistas de dados ou estatísticos capazes de tal transformação. Aliás, ambos os cargos foram “obsoletados” pelas novas profissões geradas junto com a IA generativa.

Agora, transformar um dado em uma transação, o mais desejado sonho de todo marketeiro, é multiplicar por cem o seu valor. Ato que deveria ter se tornado mais fácil com as capacidades de processar dados não estruturados de diversos formatos somados aos dados sistêmicos, porém que ainda não se verifica como resultado por causa do antropomorfismo.

Não estou afirmando que o problema das empresas usando IA são os papagaios digitais ou os humanos artificiais, porque isso seria resolvido com o letramento dos funcionários destas. O desafio está na propaganda que torna analistas financeiros em desenvolvedores de sistemas, na propaganda que faz alunos acreditarem que já são PHDs de quaisquer ciências.

Tornar os engenheiros de software, os arquitetos de software, os cientistas de dados, os desenvolvedores de sistemas e os analistas de qualidades profissionais dispensáveis e substituí-los por uma ferramenta de IA é o mesmo que demitir toda a tripulação de um submarino nuclear para substituí-los por um peixinho dourado de plástico que brilha no escuro, sob o pretexto de que ele “sabe nadar perfeitamente e não exige plano de saúde”.

A quantidade de incertezas sobre as mudanças no trabalho e nas empresas está muito superior a média histórica de quaisquer outras revoluções industriais, entretanto a afirmativa que “seja lá o que acontecer eu estarei do lado certo da mesa” me motiva a todos os dias continuar estudando ciência da computação.

Para você, meu querido cliente, divirta-se com as ferramentas. Teste, experimente, apaixone-se pelas respostas incríveis que a GenAI é capaz de entregar. Isso faz parte do processo de aprendizado.

Mas quando a empolgação der lugar à conta de energia, de tokens e aos custos que não param de subir, às respostas que parecem boas mas não geram resultado mensurável, e à sensação incômoda de que “não sabemos exatamente o que está acontecendo por baixo do capô”… aí é hora de parar de brincar e começar a construir de verdade. Vamos construir esse futuro juntos?

*Fabio Camara é Founder & Executive Chairman da FCamara