Estamos vendo os primeiros passos para uma superinteligência artificial?

Os modelos de IA mais avançados já conseguem escrever e aperfeiçoar seu próprio software. A questão que se impõe é se esse autoaperfeiçoamento pode, algum dia, desencadear uma verdadeira superinteligência.

Uma resposta remonta a 1965, quando o estatístico Irving John Good apresentou a ideia de uma “máquina ultrainteligente”. Good postulou que, quando um computador atingisse um nível suficientemente sofisticado, ele rapidamente se melhoraria sozinho. Se essa ideia parecer improvável, basta relembrar o caso do AlphaGo Zero, um sistema desenvolvido pela DeepMind em 2017 para jogar o antigo jogo de tabuleiro Go. Sem dados baseados em partidas humanas, o AlphaGo Zero jogou contra si mesmo milhões de vezes, alcançando, em poucos dias, um aprimoramento que demandaria uma vida inteira a um ser humano – o que lhe permitiu derrotar versões anteriores que já haviam superado os melhores jogadores do mundo. Segundo Good, qualquer sistema inteligente o suficiente para reescrever sua própria programação geraria iterações sucessivas, cada uma mais inteligente que a anterior, desencadeando uma “explosão de inteligência”.

A questão, então, é: estamos realmente próximos de construir um sistema capaz de autoaperfeiçoamento autônomo? Embora os sistemas com “explosão de inteligência”, como imaginados por Good, ainda não estejam entre nós, computadores que se aperfeiçoam de forma mais limitada já existem. Por exemplo, sistemas como o Codex da OpenAI e o Claude Code da Anthropic podem, de maneira independente, criar ou atualizar códigos por períodos prolongados – às vezes durante mais de uma hora. Em mãos de desenvolvedores habilidosos, esses sistemas são capazes de reorganizar grandes bases de código ou até mesmo esboçar novas formas de estruturar um software.

No entanto, por que um modelo que alimenta o ChatGPT não se reprogramou sozinho, evoluindo silenciosamente para uma ultrainteligência? A resposta parece residir no fato de que esses sistemas, embora impressionantes, ainda dependem da intervenção humana para definir objetivos, planejar experimentos e determinar quais alterações representam um progresso real. Eles não evoluem de forma independente e robusta, o que faz com que as previsões sobre uma superinteligência iminente pareçam, em muitos momentos, exageradas – a menos, é claro, que os atuais sistemas estejam mais próximos do autoaperfeiçoamento em um espectro mais amplo de habilidades do que aparentam.

Uma área em que estes sistemas já ultrapassam as capacidades humanas é na absorção e manipulação de informações. Os modelos mais avançados foram treinados com uma quantidade de texto que superaria o que qualquer ser humano conseguiria ler em toda uma vida – englobando poesia, história e ciências. Eles também conseguem acompanhar trechos de texto muito mais extensos durante suas operações. Com sistemas comercialmente disponíveis, como o ChatGPT e o Gemini, é possível carregar um conjunto de livros para que a inteligência artificial sintetize e critique seu conteúdo em um tempo que levaria semanas a um humano. Embora os resultados nem sempre sejam totalmente corretos ou perspicazes, isso demonstra, em princípio, que um sistema desse tipo poderia analisar sua própria documentação, registros e código, propondo mudanças em uma velocidade e escala que nenhuma equipe de engenharia alcançaria.

O raciocínio ainda é a área em que esses sistemas apresentam maiores limitações – embora já haja exceções em domínios bem específicos. Sistemas como o AlphaDev da DeepMind descobriram novos algoritmos mais eficientes para tarefas como ordenação, resultados esses que passaram a ser utilizados em códigos do mundo real e que vão além de uma mera imitação estatística. Outros modelos têm se destacado em problemas formais de matemática e em questões de nível avançado na ciência, resistindo a simples associações de padrões. Ainda que os debates sobre os benchmarks sejam constantes, não há dúvida de que alguns sistemas de IA já são capazes de encontrar soluções que os humanos não haviam identificado anteriormente.

Se tais habilidades já estão presentes, surge a pergunta: qual seria a peça que está faltando? Uma possível resposta é a inteligência artificial geral (AGI) – aquela capacidade de raciocínio dinâmica e flexível que permite aos humanos aprenderem em um campo e aplicarem o conhecimento em outro. Conforme já discutido em outras ocasiões, estamos constantemente redefinindo o que significa AGI à medida que as máquinas dominam novas competências. Mas, no que diz respeito à questão da superinteligência, o que realmente importa não é o rótulo que usamos, e sim se um sistema consegue redesenhar e aprimorar seu próprio funcionamento de forma confiável.

Isso nos remete à ideia de “explosão de inteligência” de Good. Se um dia construirmos sistemas capazes de raciocínio flexível e semelhante ao humano em múltiplos domínios, o que os distinguirá de uma superinteligência? Os modelos avançados já são treinados com mais conhecimento científico e literário do que qualquer ser humano, possuem uma memória de trabalho muito superior e demonstram habilidades de raciocínio extraordinárias em áreas específicas. Quando, enfim, essa peça faltante do raciocínio flexível for integrada – permitindo que os sistemas apliquem essas habilidades de forma autônoma na revisão de seus próprios códigos, dados e processos de treinamento – o salto para um desempenho totalmente superior ao humano poderá ser alcançado de maneira mais rápida do que imaginamos.

Nem todos concordam com essa perspectiva. Alguns pesquisadores acreditam que ainda não compreendemos de forma fundamental o que é a inteligência e que essa peça faltante pode demorar mais do que o esperado para ser desenvolvida. Outros são daqueles que afirmam que a AGI será alcançada em poucos anos, o que poderá levar a avanços que ultrapassem em muito as capacidades humanas. Em 2024, o CEO da OpenAI chegou a sugerir publicamente que a superinteligência poderia chegar “em poucos milhares de dias”.

Se essa ideia remete demasiadamente à ficção científica, vale considerar que empresas de IA realizam testes de segurança rotineiramente para garantir que seus sistemas não entrem em um loop de autoaperfeiçoamento descontrolado. Grupos independentes de avaliação de segurança têm medido, por exemplo, o tempo que um modelo consegue sustentar uma tarefa complexa antes de falhar – com resultados que, mesmo apresentando avanços significativos em relação às versões anteriores, ainda não chegam à situação imaginada por Good. Empresas como a Anthropic realizam testes semelhantes, deixando claro que, embora seus sistemas melhorem trechos do “próximo” modelo com autonomia crescente, ainda não se chega a uma autoaperfeiçoamento completo.

Se a AGI vier a ser alcançada – e se, à essa base de imensa informação, memória de trabalho vasta e velocidade extraordinária, acrescentarmos um julgamento semelhante ao humano – a ideia de Good de um rápido autoaperfeiçoamento deixará de soar como ficção científica. A verdadeira questão, então, é se vamos nos limitar a uma inteligência “apenas humana” ou correr o risco de extrapolar esses limites.