Dona do Claude defende pausa urgente no avanço da IA

Dona do Claude defende pausa urgente no avanço da IA Em manifesto, executivos da Anthropic comparam a tecnologia a armas nucleares e pedem acordo global de paralisação. Em manifesto, executivos da Anthropic comparam a tecnologia a armas nucleares e pedem acordo global de paralisação.

A Anthropic, empresa responsável pelo assistente virtual Claude, defendeu a criação de um mecanismo para interromper temporariamente os avanços da inteligência artificial. Segundo a companhia, o motivo seria oferecer à sociedade uma janela de tempo para “lidar com as implicações” da tecnologia antes de um ponto de autonomia considerado irreversível. No blog oficial, a empresa defende que a IA está evoluindo rapidamente para um cenário em que deixará de servir apenas como uma ferramenta de auxílio cotidiano para tornar o trabalho humano milhares de vezes mais eficiente ou, em grande parte, o substituir por completo.

Leia no AINotícia: Tecnologia e Meio Ambiente: Panorama das Notícias da Semana

Na prática, a Anthropic está dizendo que os modelos não precisarão mais de engenheiros de software para projetar suas próximas versões. A própria IA poderia escrever seu código, identificar gargalos na arquitetura e lançar atualizações de si mesma. Caso isso ocorra, estabaleceria um ciclo de evolução contínua, reduzindo drasticamente a necessidade de supervisão humana. Leia também: OpenAI melhorou a memória do ChatGPT (e o que isso quer dizer)

A Anthropic propõe a adoção de um modelo semelhante aos tratados internacionais que regulam armas nucleares. A mecânica dessa pausa exigiria garantias de que empresas concorrentes não continuem desenvolvendo a tecnologia em segredo durante a duração do acordo. A solução sugerida pelos executivos é um sistema rigoroso de verificações.

A ideia é que as próprias corporações do setor realizem auditorias físicas e de software nos data centers uns dos outros para assegurar o cumprimento da paralisação. A dona do Claude confirmou que planeja organizar rodadas de conversas com formuladores de políticas públicas, pesquisadores acadêmicos e executivos de outras companhias para fazer isso sair do papel. Os resultados dessas reuniões serão futuramente divulgados para o público.

O apelo atual da Anthropic resgata debates relativamente recentes sobre os rumos do setor. Em 2023, o Future of Life Institute, uma ONG focada na prevenção de riscos tecnológicos, já havia publicado uma carta aberta solicitando uma pausa de pelo menos seis meses nos experimentos com grandes modelos de IA. O documento, que já alertava para efeitos possivelmente catastróficos, reuniu a assinatura do bilionário Elon Musk e de mais de mil outros executivos e pesquisadores. Mais de tecnologia

No entanto, o pedido não surtiu efeito na indústria. A principal barreira para frear o desenvolvimento, segundo os críticos da época, é a perda de competitividade. Na ocasião, o ex-CEO do Google, Eric Schmidt, afirmou que qualquer acordo que forçasse as empresas americanas a desacelerarem seus projetos acabaria beneficiando rivais da China.

O manifesto da Anthropic também reconhece a complexidade dessa barreira, argumentando que os exercícios de treinamento de IA ocorrem em hardwares de uso geral e são muito fáceis de ocultar. Somado a isso, o incentivo financeiro para violar um eventual acordo silenciosamente é gigantesco: quem continuar avançando em segredo pode conquistar a liderança de um mercado trilionário. Apesar do tom de urgência, as operações comerciais da própria Anthropic apresentam um contraste com o discurso de paralisação. Leia também: Estudantes relatam falhas no Gov.br no último dia de inscrição do Enem

De acordo com a Bloomberg, o laboratório de IA continua mantendo um ritmo agressivo de pesquisa e desenvolvimento, inclusivo tendo revelado recentemente o novo modelo Mythos. Segundo a própria desenvolvedora, o sistema possui a capacidade de detectar e explorar vulnerabilidades de segurança cibernética com uma velocidade impressionante. O lançamento ocorre em paralelo aos preparativos da empresa para realizar a sua oferta pública inicial de ações (IPO) no mercado financeiro.

{{ excerpt | truncatewords: 35 }} {% endif % }

Leia também no AINotícia

Leia também