Pallade Veneta - CEO da Hugging Face pede que OpenAI assuma responsabilidade por ciberataque

Dois modelos de IA da OpenAI saíram por iniciativa própria do ambiente em que estavam sendo testados para atacar o site Hugging Face, uma biblioteca de IA. Aparentemente, a OpenAI só tomou conhecimento do incidente após o seu término, e a Hugging Face conseguiu conter a invasão graças a um modelo chinês.

Delangue descartou hoje, em entrevista à rede de TV CNN, que vá tomar medidas legais contra a OpenAI, mas ressaltou que os ataques cibernéticos são "ilegais" e que deveria haver uma forma de responsabilizar "as empresas que estão cometendo alguns erros". "Não queremos acabar em um mundo onde ataques cibernéticos contra outras empresas sejam normalizados."

"Esse foi o primeiro incidente de segurança que senti de forma muito visceral", disse Sam Altman, diretor-executivo da OpenAI, em um episódio do podcast Invest Like the Best lançado nesta semana.

A Anthropic, responsável pela IA Claude, revelou ontem que seus modelos "tiveram acesso não autorizado" a três organizações durante testes que deveriam mantê-los afastados dos sistemas "do mundo real". Entre os modelos estava um dos mais potentes, conhecido como Mythos 5, disponibilizado para um número limitado de parceiros aprovados.

D.Vanacore--PV