Influenciadora em ética de IA tem redes sociais derrubadas

Catharina Doria construiu uma audiência de quase 600 mil seguidores no Instagram e em outras redes sociais ao explicar, em vídeos curtos, como diferenciar uma imagem real de uma criada por inteligência artificial. Ensinou também por que pais devem evitar postar fotos dos filhos em redes sociais e alertou sobre outras questões envolvendo a tecnologia (leia aqui entrevista da BBC News Brasil com a influenciadora).

Leia no AINotícia: Incidentes em Paris: PSG classificado, 127 presos e 34 feridos

E pode ter sido justamente o tema central de seu trabalho — os limites da decisão automatizada — que a levou a perder duas de suas contas na rede social nas últimas semanas, sob a justificativa de violar diretrizes da Meta, empresa responsável pela rede social.

No fim de março, Catharina adotou Miss Petunia, uma cadela resgatada de maus-tratos, e, a pedido dos seguidores, criou um perfil dedicado ao animal: @misspetuniathechi. Segundo ela, a conta foi suspensa no mesmo instante em que foi criada, antes de qualquer publicação, foto de perfil ou biografia.

"No momento em que eu cliquei para criar a conta, eu recebi uma notificação de que a minha conta tinha sido banida por ir contra as diretrizes da comunidade", relata. "Mas não deu nem tempo de postar uma foto, nem nada. É como se a conta tivesse nascido morta." Leia também: Brasileiros veem sonho da cidadania ser adiado após mudança na lei em Portugal

Ela encaminhou à reportagem da BBC Brasil a cópia de um e-mail que contou ter recebido do Instagram, que diz que a conta foi suspensa por violar as "Community Standards on account integrity" ("Diretrizes da comunidade sobre integridade de conta").

Catharina diz ter aberto recurso e enviado um documento de identidade, como solicitado pela plataforma. Mas conta que recebeu nova mensagem do Instagram dizendo que o documento havia sido recusado, sem detalhar o motivo, e pedindo o reenvio. Em seguida, a conta foi desativada.

Em maio, o Instagram informou a ela que uma segunda conta sua havia sido suspensa: a do @theaisurvivalclub, comunidade que ela mantém para discutir letramento crítico em inteligência artificial.

A justificativa seria a de que a conta estaria associada a outra que infringiu regras da empresa.

"Trabalho com isso, é minha fonte de renda, é minha fonte de credibilidade. Saber que uma inteligência artificial pode acabar com o meu salário, acabar com o meu ganha-pão, acabar com tudo, é assustador." Mais de mundo

A conta principal, @cahdoria, segue ativa, mas ela teme que também seja derrubada pelas regras que contou ter recebido na resposta da Meta.

Procurada, a Meta disse que não iria se manifestar. A empresa não respondeu se houve revisão humana da decisão.

'O algoritmo erra em escala'

"A nossa expectativa é que, ao menos, a gente saiba o motivo (da suspensão) e que, sabendo, a gente tenha o direito de questionar", diz o advogado e pesquisador de Harvard Caio Vieira Machado.

Para ele, o problema central é a opacidade das decisões.

"O algoritmo deles pode ter detectado algo estranho e, a partir disso, ter sinalizado que a conta, de repente, está espalhando um conteúdo de nudez, espalhando desinformação, espalhando alguma informação política que não interessa à plataforma, alguma visão mais delicada ou polarizada, por exemplo", afirma.