Richard Sutton, um dos nomes mais influentes da inteligência artificial, voltou a questionar a aposta exclusiva no aumento do poder computacional como principal caminho para o avanço da tecnologia. Em declarações que circularam nesta semana em plataformas como o X, o pesquisador criticou a dependência dos grandes modelos de linguagem (LLMs) e defendeu agentes equipados com modelos de mundo, capazes de aprender continuamente com a própria experiência.
A posição de Sutton se relaciona à chamada “Bitter Lesson”, conceito pelo qual ele já havia defendido métodos gerais beneficiados pelo aumento da capacidade computacional. Agora, porém, o pesquisador reforça que essa visão não significa concentrar todos os esforços em um único tipo de modelo. Para ele, o foco predominante nos LLMs e no uso intensivo de dados sintéticos pode ignorar a complexidade do mundo real.
Segundo Sutton, simulações e dados gerados artificialmente representam apenas uma pequena fração dessa complexidade e podem limitar o que os sistemas conseguem aprender. Por isso, ele voltou a defender o desenvolvimento de agentes com modelos internos do mundo, capazes de aprender continuamente em interação com o ambiente, sem depender apenas de um pré-treinamento estático realizado em grandes bases de texto.
“O aprendizado contínuo sem destruir conhecimento antigo é o que realmente precisamos”, afirmou Sutton. Na avaliação do pesquisador, os modelos atuais praticamente não evoluem depois de treinados, o que cria limitações para aplicações que exigem adaptação constante, como robótica, automação e sistemas cognitivos em ambientes dinâmicos.
As críticas surgem em um momento em que a indústria de IA investe bilhões de dólares em data centers, chips especializados e no treinamento de modelos cada vez maiores. A estratégia predominante parte da expectativa de que dobrar ou triplicar o tamanho dos modelos e dos conjuntos de dados produzirá, por si só, capacidades emergentes mais avançadas.
Ao afirmar que a ciência da IA “está longe de estar concluída” e que novos métodos são necessários, Sutton pressiona laboratórios e empresas a diversificarem suas estratégias. A mensagem questiona diretamente os grupos que estruturaram seus planos tecnológicos em torno da escalabilidade, mas também fortalece equipes que desenvolvem arquiteturas e algoritmos alternativos, sobretudo nas áreas de aprendizado contínuo e agentes autônomos.
As declarações repercutiram entre pesquisadores. Jerry Tworek, que deixou um grande laboratório de IA para fundar a Core Automation, concorda parcialmente com a crítica. Para ele, o problema não está na escalabilidade em si, mas na ideia de que qualquer algoritmo pode crescer indefinidamente apenas com o aumento da computação.
“A lição amarga ainda vale, mas, quanto mais computação, mais o algoritmo importa”, afirmou Tworek. Ele argumenta que alguns algoritmos apresentam bom desempenho quando ampliados, enquanto outros atingem limitações, e que muitas possibilidades de escalabilidade ainda não foram testadas. Na visão do pesquisador, o sucesso recente dos transformadores criou um viés que pode levar ao descarte prematuro de ideias que não parecem escalar da mesma maneira.
Jayden Teoh reforçou essa avaliação e afirmou que a “Bitter Lesson” vem sendo usada para justificar o abandono apressado de linhas de pesquisa promissoras. “Uma ideia não precisa sobreviver à escalabilidade para ser importante para o progresso da IA”, declarou. Teoh lembrou que diversos avanços da área só foram possíveis graças a abordagens que posteriormente foram substituídas por métodos mais gerais, sem que isso tornasse as iniciativas anteriores equivocadas.
Na prática, as críticas de Sutton e os alertas de Tworek e Teoh apontam para o risco de uma geração de cientistas deixar de lado soluções criativas, novas formas de representação e métodos de aprendizado por não se encaixarem no modelo dominante de LLMs cada vez maiores.
O debate também já se reflete no mercado. Um levantamento recente citado em relatórios especializados identificou pelo menos 45 novos laboratórios de IA que apostam explicitamente em métodos além da escalabilidade tradicional. Esses grupos trabalham com aprendizado contínuo, agentes autônomos e modelos de mundo, em uma trajetória diferente daquela seguida por grande parte das big techs.
A Core Automation, fundada por Tworek, é um desses exemplos. A empresa concentra esforços em algoritmos de aprendizado que não dependem exclusivamente do pré-treinamento massivo nem do aprendizado por reforço clássico. O Oak Lab, iniciativa liderada por Sutton, segue uma linha semelhante e pesquisa formas de permitir que as máquinas acumulem conhecimento ao longo do tempo sem esquecer o que já aprenderam.
Esses novos laboratórios partem da premissa de que sistemas muito mais capazes são possíveis, mas que a fórmula atual — baseada em LLMs gigantes treinados com textos da internet e refinados por meio de instruções humanas — provavelmente não será suficiente, sozinha, para alcançar esse objetivo. Para esses pesquisadores, a próxima etapa envolve agentes que interajam com o mundo, aprendam com erros e acertos em tempo real e atualizem suas representações internas sem perder conhecimentos anteriores.
Do outro lado do debate, executivos dos principais laboratórios de IA continuam confiantes na escalabilidade dos LLMs. Sam Altman, CEO da OpenAI, afirmou que não há sinais claros de esgotamento desse caminho. “A escalabilidade dos LLMs está longe de estar esgotada”, declarou.
Altman citou como evidência um modelo da OpenAI que, segundo ele, refutou recentemente uma conjectura matemática que vinha desafiando pesquisadores havia anos. Para o executivo, o resultado indica que o aumento da capacidade dos modelos e do volume de dados ainda pode abrir novas fronteiras, especialmente em tarefas de raciocínio complexo. Ele reconhece a utilidade dos modelos de mundo, inclusive na robótica, mas considera essas abordagens complementares ao avanço dos LLMs.
Dario Amodei, CEO da Anthropic, também defendeu a estratégia. “O progresso da escalabilidade é um arco-íris sem fim”, afirmou, ao descrever sua avaliação de que cada aumento no tamanho dos modelos e na quantidade de dados tem produzido capacidades imprevistas. Altman e Amodei lideram empresas cuja estratégia técnica central depende de modelos cada vez maiores, o que torna suas declarações também uma sinalização para investidores e equipes internas de que a rota atual ainda pode oferecer resultados.
Essa confiança sustenta investimentos expressivos em infraestrutura de nuvem, chips especializados em IA e parcerias no setor de energia para atender ao consumo elétrico dos supermodelos. A agenda, no entanto, começa a enfrentar pressões relacionadas a limitações físicas e ao aumento dos custos.
A reafirmação de Sutton sobre os limites da escalabilidade simples coloca a indústria de IA diante de um dilema estratégico. Grandes empresas que já comprometeram recursos significativos com infraestrutura para LLMs podem enfrentar dificuldades para justificar uma mudança brusca de direção. Ao mesmo tempo, a busca por resultados mais robustos em ambientes reais, como fábricas, hospitais, operações logísticas e sistemas de robótica, favorece abordagens capazes de aprender continuamente e lidar com situações imprevisíveis.
Para startups e novos laboratórios, o cenário amplia as oportunidades de investimento em aprendizado adaptativo, memória de longo prazo para agentes e integração entre percepção, ação e linguagem. A criação de pelo menos 45 grupos dedicados a essas áreas sugere que uma parcela de talentos e capital começa a se mover nessa direção.
No curto prazo, o setor tende a permanecer dividido entre dois caminhos: um grupo que continuará ampliando os LLMs e outro que testará arquiteturas e formas de aprendizado voltadas à interação contínua com o mundo. A expectativa de vários pesquisadores é que essas frentes possam convergir no futuro, combinando a capacidade de escala dos grandes modelos com agentes capazes de aprender com a própria experiência — proposta que Sutton apresenta como um possível próximo passo para a inteligência artificial.
Fonte: Miraí Broadcast