Uso de Inteligência Artificial no trabalho e na escola está crescendo no Canadá: 'risco potencial', alerta pesquisa

75% dos usuários disseram estar “profundamente” preocupados com informações enganosas ou falsas geradas pela IA; apesar disso, 70% disseram que pretendem continuar usando essas ferramentas

THE CANADIAN PRESS/AP-Richard Drew

 

Uma pesquisa recente da KPMG, uma empresa canadense de auditoria, impostos e consultoria, revelou que as pessoas no Canadá estão obtendo maior produtividade usando Inteligência Artificial generativa, mas há preocupações de que alguns usuários possam estar inserindo informações confidenciais em prompts de IA, que são os comandos usados.

Dos 5.140 entrevistados na pesquisa, 1.052 (20%) deles reconheceram que usaram IA generativa no trabalho e na escola principalmente para gerar ideias, escrever ensaios e criar apresentações.

Os entrevistados relataram que o uso de IA generativa aumentou a produtividade e a qualidade; no entanto, ao fazê-lo, eles estavam envolvidos em comportamentos que poderiam criar riscos para seus empregadores.

“É absolutamente crítico que as organizações tenham processos e controles claros para impedir que os funcionários insiram informações confidenciais em solicitações de IA generativas ou confiem em material falso ou enganoso gerado pela IA”, afirmou Zoe Willis, da KPMG.

”Isso começa com políticas claramente definidas que educam seus funcionários sobre o uso dessas ferramentas. As proteções organizacionais são essenciais para garantir a conformidade com as leis de privacidade, contratos com clientes e padrões profissionais".

De acordo com a pesquisa, muitos usuários dizem que estão obtendo maior produtividade usando IA generativa, mas há preocupações sobre a inserção de informações confidenciais em prompts de IA por alguns usuários.

Os resultados da pesquisa mostram que 23% dos profissionais que trabalham disseram que estão inserindo informações sobre seu empregador (incluindo seu nome) em prompts de IA. Alguns entrevistados (10%) até colocaram seus dados financeiros privados, enquanto 15% disseram que inseriram outras informações, como recursos humanos ou dados da cadeia de suprimentos.

A pesquisa KPMG destaca a necessidade de controle organizacional, políticas e treinamento de funcionários “fortes” para evitar a entrada de informações confidenciais sem verificação.

Uma vez que os dados gerados pela IA são considerados “enganosos” ou “imprecisos”, apenas cerca de metade dos usuários (49%) disse que sempre verifica a precisão do conteúdo gerado pelas plataformas de IA, enquanto 46% verificam às vezes.

Para medir como, quando e por que as pessoas no Canadá estão usando IA generativa, a KPMG diz que criou o “Índice de Adoção de IA”, que mostra que o Índice do Canadá está em 11,9.

Isso destaca que a tecnologia se integrou rapidamente na vida de trabalhadores e estudantes, mas a taxa geral de adoção permanece relativamente baixa. Uma pontuação de 100 indica adoção em massa.

Quando se trata da frequência com que as pessoas no país usam IA generativa, os resultados da pesquisa sugerem que 18% a usam diariamente ou para todas as tarefas, 34% usam a tecnologia algumas vezes por semana e 26% algumas vezes por mês.

Pouco mais da metade dos usuários relatou que as ferramentas de IA generativas os economizam até cinco horas por semana, enquanto 67% indicaram que o tempo economizado com o uso dessas ferramentas permitiu que eles assumissem trabalhos adicionais que não seriam capazes de lidar de outra forma. Além disso, 65% afirmaram que o uso de IA generativa é crucial para gerenciar suas cargas de trabalho.

A pesquisa também descobriu que os canadenses que usam IA generativa nem sempre são totalmente transparentes sobre quando estão usando a tecnologia, com quase dois terços alegando que o conteúdo gerado por IA é seu próprio trabalho original durante todo ou parte do tempo.

De acordo com a pesquisa, 75% dos usuários disseram estar “profundamente” preocupados com informações enganosas ou falsas geradas pela IA. Apesar disso, 70% disseram que pretendem continuar usando essas ferramentas, independentemente dos riscos e controvérsias associados.

"A IA responsável é a base de toda estratégia de IA generativa bem-sucedida. Para as organizações, essa estratégia também deve incluir: avaliar e implementar a tecnologia certa; garantir que os dados sejam relevantes, recentes e precisos; e treinar e capacitar funcionários para usar a IA de forma responsável. Organizações que fizerem esses investimentos obterão uma vantagem competitiva real e poderão monetizar seus dados”, finaliza Ven Adamov, sócio da KPMG.