Como centenas de conversas privadas com chat de IA Claude acabaram disponíveis

Centenas de conversas de usuários com o popular chatbot de inteligência artificial (IA) da Anthropic, Claude, foram encontrados abertos para praticamente qualquer pessoa online.

Leia no AINotícia: Mundo: Panorama com política, narcotráfico e protestos

Os links para os chats, alguns dos quais incluíam informações pessoais e profissionais, apareciam se um usuário de um mecanismo de busca como o Google usasse um termo de pesquisa específico do site.

A possibilidade de pesquisar os registros de bate-papo foi removida durante o fim de semana, mas muitos foram salvos e amplamente compartilhados online.

"Quando alguém compartilha uma conversa, está tornando esse conteúdo publicamente acessível e, como outros conteúdos públicos da web, ele pode ser arquivado por serviços de terceiros", acrescentou a porta-voz. Leia também: 'Dragão das nuvens que cospe fogo': a assustadora tempestade provocada

A opção de compartilhamento do Claude informa ao usuário que "qualquer pessoa com o link" pode visualizar o conteúdo, mas não afirma explicitamente que o link pode acabar nos resultados de pesquisa no Google.

Usuários do Reddit descobriram inicialmente os chats disponíveis publicamente, que abrangiam mais de 200 conversas com o Claude em pelo menos 25 páginas de resultados de pesquisa— algumas ocorridas há apenas algumas semanas.

Nas conversas, os usuários solicitaram que o chatbot respondesse a uma ampla gama de tópicos. Mais de mundo

Em uma conversa de abril, um usuário pediu ao chat que redigisse uma postagem de blog inédita sobre segurança na nuvem, incluindo detalhes de um projeto corporativo. Em outra, do mês passado, um usuário perguntou ao Claude como "se tornar a Raposa de Nove Caudas?", antes de esclarecer que queria se transformar literalmente de humano na criatura.

Outras conversas com o Claude incluíram usuários buscando ajuda com seus currículos, incluindo nomes, informações de contato e histórico profissional. Alguns usuários chegaram a realizar o que parecia ser pesquisa confidencial para seus trabalhos, como na área da saúde, incluindo transcrições de conversas privadas.

Quando a OpenAI enfrentou, no ano passado, um problema quase idêntico com a disponibilização pública dos registros de bate-papo do ChatGPT, a empresa acabou alterando a forma como esses registros eram acessados. Leia também: "Cabeça fria, 'diplomacia zen' e nada de bate-boca público. Lula poderia seguir

O Grok, o chatbot de IA do X, plataforma social pertencente a Elon Musk, também teve centenas de milhares de registros de bate-papo disponibilizados publicamente no ano passado por meio de buscas online.

Um porta-voz do Google esclareceu à BBC que a empresa não controla "quais páginas são tornadas públicas na web", afirmando que essa ação parte dos próprios sites.

"Oferecemos aos proprietários de sites controles claros para que decidam se as páginas podem ser rastreadas ou indexadas, e sempre respeitamos essas diretrizes."

Como a indexação dos registros de bate-papo não está mais ocorrendo nos resultados de busca, é provável que a Anthropic tenha usado ferramentas disponíveis para bloquear rapidamente os links dos registros de bate-papo nos resultados de pesquisa.

O processo do Google para que um proprietário de site bloqueie um link é simples, mas deve ser iniciado pelo próprio proprietário do site.

• Usamos inteligência artificial para traduzir esta reportagem, originalmente escrita em inglês. O texto foi revisado por um jornalista da BBC antes da publicação. Saiba mais aqui sobre como a BBC está usando a inteligência artificial (link para texto em inglês).