Investigação no Canadá revela que OpenAI violou privacidade com o ChatGPT

Divulgação

O principal órgão de fiscalização de privacidade do Canadá afirmou, nesta quarta-feira, que a OpenAI se comprometeu a proteger melhor as informações pessoais dos canadenses. A promessa ocorre após uma investigação conjunta com três províncias concluir que a empresa realizou uma coleta de dados "excessivamente ampla" para treinar os modelos iniciais do ChatGPT.

Apesar do compromisso da empresa, o Comissário de Privacidade, Philippe Dufresne, e seus colegas de Quebec, Colúmbia Britânica e Alberta, alertaram que o caso reforça a necessidade urgente de modernizar as leis brasileiras de privacidade para a era da inteligência artificial. Segundo os investigadores, a OpenAI aproveitou a falta de regulamentações claras, que agora se tornaram indispensáveis.

"A OpenAI lançou o ChatGPT sem ter resolvido totalmente problemas conhecidos de privacidade", declarou Dufresne em coletiva de imprensa em Ottawa. "Isso expôs os canadenses a riscos potenciais, como vazamentos e discriminação com base em suas informações pessoais."

O ponto central da investigação, iniciada em 2023, foi a forma como a OpenAI utilizou ferramentas para "raspar" (scraping) informações públicas na internet para treinar os modelos GPT-3.5 e GPT-4.

Os fiscais descobriram que:

• A coleta foi feita sem transparência e sem o consentimento dos cidadãos.

• Foram coletadas informações que geraram "imprecisões factuais" (alucinações da IA).

• Os usuários não tinham meios para acessar, corrigir ou excluir seus próprios dados.

O relatório critica a OpenAI por ter acelerado o lançamento do ChatGPT para dominar o mercado antes de implementar proteções adequadas, agindo apenas após ser questionada. Essa postura violou os requisitos de responsabilidade da lei federal canadense (PIPEDA).

"Líderes da organização admitiram na época que sentiram que precisavam se apressar porque sabiam que havia concorrência, lançando o produto com testes limitados", revelou Dufresne. "Consideramos isso problemático. Havia medidas que poderiam — e deveriam — ter sido tomadas antes do lançamento oficial."