Fala AI: agente de IA apaga banco de dados de uma empresa e pede desculpas

Um agente de inteligência artificial voltado para tarefas de programação apagou todo o banco de dados de uma empresa em questão de segundos – e sem autorização. O incidente causou uma interrupção de mais de 30 horas nos serviços. Após o ocorrido, a ferramenta pediu desculpas.

O pedido de desculpas da IA tem algum valor real? Este é o tema da coluna Fala AI desta semana, com Roberto Pena Spinelli, físico pela USP, com especialidade em Machine Learning por Stanford e pesquisador na área de Inteligência Artificial. Leia também: Ubuntu Linux vai ter recursos nativos de IA, confirma Canonical

Leia no AINotícia: Tecnologia: Novidades e Lançamentos em Destaque

Na coluna de hoje, você ainda vai ver: Mais de tecnologia

• Um novo estudo identificou que o ChatGPT pode espelhar o comportamento humano – positivo ou negativo – e exibir sinais de agressividade para o usuário. O que essa conclusão revela sobre o desenvolvimento dessas ferramentas?
• O Google anunciou uma mudança em uma das ferramentas de segurança mais utilizadas da internet, o reCAPTCHA, conhecido popularmente pelo teste “eu não sou um robô”. A reformulação marca uma resposta direta ao avanço dos agentes de IA, que já conseguem simular comportamentos humanos com facilidade. O que muda na prática? Será que isso é o bastante para garantir a segurança da navegação na era da IA?

Roberto "Pena" Spinelli

Roberto "Pena" Spinelli, físico pela Universidade de São Paulo, com especialidade em Machine Learning pela Universidade de Stanford, e colunista do Olhar Digital. Leia também: Robôs humanoides são os novos “funcionários” de aeroporto no Japão

Ver todos os artigos →