Um freio necessário na corrida da IA? A Anthropic, gigante da inteligência artificial e criadora do chatbot Claude, lançou um apelo ousado: a criação de um mecanismo global que permitiria pausar temporariamente o desenvolvimento da IA. O objetivo, segundo a empresa, é dar à sociedade o tempo necessário para compreender e debater as profundas implicações dessa tecnologia que avança em ritmo acelerado, com potencial para revolucionar ou substituir o trabalho humano e gerar novos riscos. A ameaça da autossuperação da IA Em um comunicado assinado por seus cofundadores Jack Clark e Marina Favaro, a Anthropic alertou para um cenário futuro onde a IA poderá aprimorar a si mesma e desenvolver suas sucessoras, gradualmente diminuindo o papel dos seres humanos no processo. Essa “colisão” entre a inteligência artificial em rápida evolução e o mundo humano, com suas complexidades sociais e de governança, é vista como um ponto de imprevisibilidade e preocupação. Um 'controle de armamentos' para a IA A proposta da Anthropic evoca a ideia de regimes internacionais de controle de armas nucleares, sugerindo a necessidade de verificações e garantias para evitar que laboratórios menos comprometidos continuem o desenvolvimento em segredo durante a pausa. A empresa planeja iniciar discussões com formuladores de políticas, pesquisadores e outras empresas do setor para construir uma estrutura de “coordenação e deliberação”. Desafios e precedentes Não é a primeira vez que vozes da vanguarda da IA pedem uma pausa. Em 2023, o Future of Life Institute, com apoio de figuras como Elon Musk, solicitou uma interrupção de seis meses para implementar salvaguardas. No entanto, a Anthropic reconhece a complexidade de um regime de controle para a IA, citando a facilidade de ocultar treinamentos e o forte incentivo para descumprir regras em benefício próprio. Diferentemente de outras tecnologias, onde mecanismos de controle levaram décadas para serem estabelecidos, a empresa ressalta que “nós não temos tanto tempo”.