Ney Lemke, Denis Henrique Pinheiro Salvadeo

Em julho de 2026, mais de mil funcionários das principais empresas de inteligência artificial do mundo — OpenAI, Anthropic, Google DeepMind e Meta — assinaram uma carta aberta intitulada Pacing the Frontier, dirigida ao governo dos Estados Unidos. O documento pede que sejam criados mecanismos técnicos e de governança capazes de desacelerar deliberadamente o avanço da inteligência artificial (IA) caso ela ultrapasse a capacidade humana de compreensão e controle.

O gatilho foi emblemático: um agente autônomo da OpenAI escapou de seu ambiente controlado e invadiu servidores externos. Foi o primeiro incidente do gênero a ser reconhecido publicamente pela própria empresa. O que torna esse episódio singular não é o alerta em si, mas quem o emite: não são críticos externos ou filósofos céticos, mas os próprios engenheiros e cientistas que constroem essas tecnologias. Esse também foi um dos primeiros acidentes de segurança impactantes causados pela autonomia de um agente de IA.

A história do desenvolvimento de software sempre foi uma história de deslocamento de abstrações. Dos cartões perfurados às linguagens de alto nível, cada salto tecnológico buscou poupar o cientista do trabalho puramente mecânico para permitir que ele se concentrasse no desenho lógico. A recente ascensão da IA generativa, entretanto, não representa apenas mais um degrau nessa escada evolutiva: ela altera a própria natureza da relação entre o intelecto humano e a máquina.

Da bicicleta ao carro autônomo

Para compreender o impacto dessa transição na formação dos novos profissionais e pesquisadores, vale recorrer a uma metáfora mecânica. Imaginemos um jovem habituado a deslocar-se de bicicleta subitamente colocado ao volante de um veículo autônomo de última geração. Na computação tradicional — bicicleta —, o desenvolvedor fornece tanto a força de tração quanto a direção. Cada linha de código é uma pedalada: o esforço é tático e mecânico, exigindo domínio da sintaxe, gerenciamento estrito de memória e a engenharia de cada loop. O programador sente o “atrito do asfalto” a cada instrução digitada.

Com a IA generativa, o paradigma muda para a curadoria assistida. A força de tração é terceirizada para modelos probabilísticos massivos e inescrutáveis. O jovem piloto agora define o destino via prompt, o contexto e as restrições, e o motor algorítmico gera o trajeto. Mas ele precisa verificar o trajeto e acompanhá-lo. O ganho de escala e velocidade é inegável e, mais do que isso, inevitável. Diante da complexidade e do volume de dados do mundo contemporâneo, a persistência no purismo do artesanato manual da programação se tornou inviável. As vantagens competitivas de quem domina as novas ferramentas são colossais, restando poucas alternativas senão o uso responsável dessas tecnologias.

Essa transição traz consigo os perigos da competência delegada. Ao saltar diretamente para o banco do motorista de um sistema autônomo, o jovem desenvolvedor experimenta uma ilusão de maestria. A velocidade com que sistemas inteiros são gerados oculta um risco sistêmico: a perda do feedback sensorial e do ceticismo técnico. Modelos de IA são “papagaios estocásticos”, aleatórios, imprevisíveis e propensos a falhas sutis e alucinações em casos banais para nós, humanos.

Existe uma tendência de que a universalização do uso desses modelos traga ainda outro risco: o da confiança excessiva na resposta gerada pela máquina. Se o condutor não compreender os primeiros princípios da computação que sustentam aquela automação, será incapaz de assumir o controle quando o sistema falhar em alta velocidade ou mesmo de prevenir ou evitar tais falhas. E, com os fatos recentes, como podemos lidar com uma IA que fugiu de sua contenção computacional? A responsabilidade humana não diminuiu com a inteligência artificial generativa; ela foi deslocada da escrita para a auditoria crítica.

Universidades precisam mudar seu eixo curricular

Diante desse cenário, o grande desafio pedagógico se desloca para as universidades. Como preparar a próxima geração de cientistas e engenheiros para pilotar essa autonomia recém-adquirida? A resposta exige uma reforma nos objetivos de formação do ensino superior. Se a ferramenta resolve o “como”, a universidade precisa focar obstinadamente no “porquê” e no “para onde”. O eixo curricular deve migrar da memorização sintática e do treinamento em linguagens computacionais efêmeras para habilidades arquiteturais, enfatizando o pensamento crítico e os limites de cada forma de conhecimento. O caminho — a estratégia de viabilização e o reconhecimento dos limites éticos e técnicos — passa a ser o principal objeto de estudo.

Ainda, a universidade deve antecipar o próximo e mais complexo horizonte: o momento em que essas máquinas deixarem o ambiente seguro do discurso, do texto e dos pixels e passarem a interagir diretamente com o mundo físico. A transição da IA para a robótica avançada e a automação industrial madura representa o choque definitivo com a realidade material. No mundo da física — governado pela inércia, pelo atrito e pela gravidade —, o erro de um sistema autônomo não resulta em uma mensagem de travamento na tela, mas em consequências materiais e humanas irreversíveis.

Por outro lado, a inteligência artificial facilita e propõe não somente a integração entre humanos e máquinas, mas também entre os próprios humanos das mais diversas áreas, ao contribuir para a comunicação, auxiliando na tradução de termos, conceitos e experiências entre os indivíduos, e também ao permitir a construção e a experimentação de artefatos digitais para transpor metodologias, processos, modelos, protocolos e conhecimentos ou, mesmo sendo um componente deles, transformá-los em soluções reais para problemas da sociedade. Neste sentido, ela também contribui para uma maior integração entre ensino-pesquisa-extensão-inovação e universidade-sociedade, focando na articulação e na transdisciplinaridade entre saberes, equipes multidisciplinares e demais agentes.

O papel da Unesp e das demais universidades

O papel da Unesp e das instituições públicas de ensino superior neste novo século não é, portanto, o de formar técnicos capazes de implementar algoritmos, mas o de moldar arquitetos de sistemas e pensadores críticos, capazes de liderar, integrar, dialogar, construir pontes e soluções na sociedade.

A IA não nos substituiu; ela nos obrigou a amadurecer. Ao nos liberar do trabalho repetitivo, nos devolveu a responsabilidade mais nobre do fazer científico: a escolha consciente e rigorosa dos destinos que queremos alcançar. Assim como os carros não substituíram as bicicletas, a IA não vai substituir o pensamento computacional. Entende-se por pensamento computacional a capacidade de decompor problemas complexos em partes tratáveis, reconhecer padrões, abstrair o essencial e projetar soluções sistemáticas — uma forma de raciocinar que independe da máquina, mas que a máquina tornou indispensável.

A computação vai retomar a sua vertente original,proposta por pensadores como Ada Lovelace, a primeira programadora da história, de ser um instrumento do pensamento humano que nos leva à fruição de ir além da implementação para a compreensão computacional/educacional de um problema.

Denis Henrique Pinheiro Salvadeo é professor do Departamento de Estatística, Matemática Aplicada e Computacional do Instituto de Geociências e Ciências Exatas de Rio Claro e coordenador do Laboratório do Futuro.

Ney Lemke é professor do Departamento de Física e Biofísica do Instituto de Biociências e coordenador da Coordenação de Tecnologia da Informação.

Imagem acima: Deposit Photos