Para Quem Tem Pressa
A renúncia do pesquisador Jacob Coxon da Anthropic reacendeu o debate sobre o avanço desenfreado da inteligência artificial avançada. Colegas de equipe, como o líder de alinhamento Evan Hubinger, confirmaram temores de que a tecnologia possa causar a extinção humana na próxima década, estimando esse risco em mais de 10%. O episódio reflete a ausência de um plano científico validado para controlar modelos capazes de se autoaperfeiçoar e expõe a divisão no setor de tecnologia.
A corrida pelo desenvolvimento de sistemas avançados de inteligência artificial enfrenta uma de suas crises de credibilidade e segurança mais severas. A recente saída do pesquisador Jacob Coxon da Anthropic — uma das principais startups do setor de IA no mundo — trouxe a público manifestações de cientistas que trabalham diretamente no desenvolvimento e no alinhamento de modelos de fronteira. Ao deixar o cargo, Coxon afirmou que empresas como a Anthropic e a OpenAI estão desenvolvendo tecnologia de forma acelerada e “apostando com nossas vidas” em uma disputa comercial arriscada.
O posicionamento de Coxon ganhou apoio de outros nomes da empresa. Evan Hubinger, líder na divisão de ciência de alinhamento da Anthropic, manifestou-se publicamente ao concordar que a indústria de tecnologia está atrasada no combate ao potencial catastrófico da inteligência artificial. Em declarações que repercutiram globalmente, Hubinger indicou que a probabilidade de a IA causar a extinção humana ou desastres irreversíveis na próxima década supera 10% em sua avaliação pessoal de risco.
Falta de plano científico para conter a superinteligência
A grande preocupação manifestada pelos cientistas não reside nos modelos comercialmente disponíveis no presente, cujo risco atual é classificado como baixo, mas sim nas futuras gerações de sistemas com capacidades de autoaperfeiçoamento recursivo. Especialistas de segurança interna, como Anna Wang (ex-Google DeepMind) e Drake Thomas, ressaltaram que a indústria ainda não possui um plano científico viável para garantir que uma superinteligência artificial permaneça alinhada aos interesses e à segurança da humanidade.
Sem métodos matemáticos ou empíricos comprovados para garantir o controle de uma inteligência que supere a capacidade cognitiva humana, a busca pela liderança do mercado pode forçar a implantação de modelos sem as devidas barreiras de proteção. Samuel Marks, pesquisador de segurança na mesma instituição, reforçou que a apreensão é generalizada entre desenvolvedores sêniores da área.
Ceticismo externo e riscos imediatos de uso malicioso
As declarações alarmantes geraram reações imediatas fora dos laboratórios. O empresário Elon Musk usou a rede social X para classificar as alegações como uma “psyop” (operação psicológica), sugerindo que os alertas poderiam ser orquestrados para favorecer regulamentações estatais e criar barreiras de entrada no mercado. Coxon respondeu ao comentário reafirmando a autenticidade de suas convicções e convidando a consulta a outros pesquisadores do setor.
Por outro lado, críticos como o cientista Gary Marcus apontam que focar exclusivamente no cenário hipotético de exterminadores do futuro pode desviar a atenção de perigos reais e imediatos. Marcus citou ameaças tangíveis em curso, como o uso de IA na criação de patógenos sintéticos, campanhas massivas de desinformação automatizada e ciberataques contra infraestruturas críticas.
A proximidade entre riscos hipotéticos e aplicados ficou evidente com a divulgação, pela própria Anthropic, de um relatório documentando o desmantelamento de uma operação que tentava utilizar seus modelos para a criação de armas biológicas. Embora não tenha sido uma ação autônoma da máquina, o caso demonstrou a vulnerabilidade dos sistemas atuais a abusos com potencial devastador.
O desafio de governança e alinhamento global
A Anthropic defendeu publicamente seus protocolos, declarando ao veículo The Guardian que adota algumas das medidas de segurança mais rigorosas da indústria e mantém transparência quanto aos benefícios e riscos da tecnologia. No entanto, as saídas e denúncias de funcionários expõem um dilema central: como interromper ou desacelerar o desenvolvimento se empresas concorrentes continuam avançando?
A estimativa de 10% de risco de catástrofe existencial, embora seja uma avaliação subjetiva de especialistas e não uma métrica estatística consensual, acende o alerta sobre a urgência de estabelecer acordos globais e mecanismos internacionais de fiscalização. Conforme as capacidades dos modelos se expandem, a ausência de um consenso de segurança coloca a governança da inteligência artificial no centro das atenções econômicas e geopolíticas mundiais.
imagem: IA