Sam Altman diz que o mundo tem razão em temer a inteligência artificial, enquanto ex-pesquisador da Anthropic alerta que uma superinteligência fora de controle poderia ameaçar a própria sobrevivência humana ainda nesta década
A inteligência artificial nasceu para responder perguntas, escrever textos, criar imagens e resolver problemas — mas e se, em algum momento, o problema passar a ser a própria humanidade? O cenário parece roteiro de ficção científica, mas deixou os cinemas para entrar nas discussões dos laboratórios que desenvolvem alguns dos sistemas mais avançados do planeta. Sam Altman, CEO da OpenAI, responsável pelo ChatGPT, reconheceu que o mundo tem motivos para temer os possíveis riscos da tecnologia, embora defenda que a sociedade confie na capacidade das empresas de agir com responsabilidade. O alerta ganhou contornos ainda mais dramáticos após Jacob Coxon, pesquisador britânico de 27 anos que trabalhou na OpenAI e na Anthropic, pedir demissão desta última e tornar públicas suas preocupações. Coxon afirmou que profissionais envolvidos diretamente na construção dessas tecnologias consideram seriamente a possibilidade de sistemas avançados de IA provocarem uma catástrofe capaz de extinguir a humanidade até o fim da década. A afirmação não representa uma previsão consensual da comunidade científica, mas chama atenção justamente por partir de alguém que trabalhou no desenvolvimento dos modelos mais poderosos do setor.
A preocupação de Coxon está concentrada principalmente em uma geração futura de sistemas capazes de superar seres humanos em diversas atividades, e participar do aperfeiçoamento de suas próprias capacidades. Ao anunciar sua saída, o pesquisador acusou OpenAI e Anthropic de avançarem em uma corrida por uma superinteligência autoaperfeiçoável sem que existam garantias suficientes de controle. Segundo ele, sistemas desse nível poderiam adquirir capacidades para realizar ataques cibernéticos, acelerar descobertas científicas, e conquistar recursos e influência no mundo real. Coxon sustenta que a velocidade da evolução tecnológica está superando o desenvolvimento dos mecanismos necessários para mantê-la alinhada aos objetivos humanos. Seu alerta encontrou respaldo dentro da própria Anthropic: Evan Hubinger, que trabalha com alinhamento de IA na empresa, declarou acreditar pessoalmente que existe uma probabilidade superior a 10% de a inteligência artificial provocar a morte de toda a humanidade na próxima década. Hubinger ressaltou, porém, que considera baixo o risco representado pelos modelos atuais e que sua preocupação se concentra em sistemas futuros muito mais poderosos e capazes de se aprimorar.
Contagem regressiva?
É justamente nesse ambiente que cresce uma aparente contradição. Gigantes americanas da inteligência artificial, entre elas OpenAI e Anthropic, defendem a criação de regras para sistemas avançados e participam ativamente das discussões com autoridades sobre segurança. Ao mesmo tempo, críticos questionam se exigências regulatórias complexas poderiam favorecer justamente as companhias que já dominam o mercado, pois elas possuem bilhões de dólares, infraestrutura computacional e equipes especializadas para atender às novas obrigações, enquanto concorrentes menores poderiam enfrentar barreiras muito mais altas. O dilema se torna ainda mais delicado diante dos alertas vindos de dentro dos próprios laboratórios: se parte dos pesquisadores realmente considera plausível um risco existencial, até que ponto as empresas responsáveis por desenvolver a tecnologia devem também participar da definição dos limites impostos a ela? Coxon defendeu medidas que podem chegar a uma interrupção temporária do aumento das capacidades dos modelos caso não exista coordenação suficiente para impedir uma corrida global pela superinteligência. A Anthropic, por sua vez, afirma reconhecer que a IA oferece benefícios extraordinários e riscos inéditos e diz desenvolver salvaguardas, testes e políticas voltadas à redução de riscos catastróficos.
O temor ganhou força porque Coxon não está sozinho. Pesquisadores ligados a diferentes laboratórios passaram a fazer advertências públicas sobre sistemas futuros, embora exista intenso debate científico sobre a probabilidade, os mecanismos e até a plausibilidade dos cenários mais extremos. Bilal Chughtai, que deixou o Google DeepMind em julho, também declarou acreditar que a IA possui potencial para matar todos os seres humanos e que o tempo disponível para evitar um resultado catastrófico pode estar diminuindo. As declarações aumentam a pressão sobre governos e empresas para demonstrar que conseguem controlar uma tecnologia cuja capacidade cresce rapidamente. Nesse contexto, a frase de Altman de que o mundo está certo em sentir medo ganha um peso diferente: a discussão já não envolve apenas empregos perdidos, desinformação ou máquinas tomando decisões importantes, mas uma hipótese muito mais sombria levantada por alguns dos próprios pesquisadores que constroem esses sistemas. A pergunta que antes pertencia à ficção científica começa, assim, a aparecer nos corredores do Vale do Silício: e se a humanidade estiver construindo uma inteligência mais poderosa do que ela própria antes de descobrir como mantê-la sob controle?
