Organização internacional achou 170 imagens em banco de dados com uso de inteligência artificial e ferramentas de organização.
Uma pesquisa da organização internacional Human Rights Watch revelou a utilização de imagens pessoais de crianças e adolescentes brasileiros por sistemas de inteligência artificial (IA). Segundo o relatório, as fotos foram obtidas de plataformas online e redes sociais sem autorização.
Esse tipo de violação de privacidade afeta diretamente a segurança e o bem-estar dos menores do Brasil. É essencial que medidas sejam tomadas para proteger os jovens e garantir que seus direitos sejam respeitados. A privacidade e a segurança online das crianças e adolescentes brasileiros são fundamentais para um ambiente digital saudável e seguro.
Preocupações com a Privacidade das Crianças Brasileiras
Uma entidade realizou um levantamento e encontrou 170 fotos de crianças de pelo menos 10 estados do Brasil, que capturam momentos especiais como nascimentos de bebês, festas de aniversário e apresentações escolares. Essas imagens estão armazenadas em um banco de dados conhecido como LAION-5B, utilizado para o aprimoramento das ferramentas de inteligência artificial.
De acordo com a organização responsável pelo estudo, o número de fotos é considerado baixo em comparação com a vastidão do acervo do banco, que ultrapassa a marca de 5 bilhões de imagens. No entanto, a descoberta acende um alerta sobre a segurança e privacidade das crianças do país.
Artigos Relacionados
Algumas dessas fotos foram compartilhadas por menores e adolescentes, bem como por seus pais ou familiares, em blogs pessoais e plataformas de compartilhamento de conteúdo visual. Algumas dessas postagens datam de anos atrás, e até mesmo de uma década, conforme comunicado emitido pela Human Rights Watch.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destaca que a inteligência artificial possibilita a criação rápida e gratuita de imagens e vídeos realistas. Isso torna muitas das fotos encontradas no banco de dados alvo para a produção de deepfakes prejudiciais, que circulam na internet.
O termo ‘deepfake’ refere-se à manipulação de vídeos e fotos por meio de inteligência artificial, permitindo a troca de rostos em vídeos ou alteração de discursos. Segundo a Human Rights Watch, as fotos das crianças brasileiras não estão disponíveis publicamente online e foram compartilhadas há bastante tempo, inclusive antes da criação do banco de imagens.
Acesso a essas fotos por ferramentas de inteligência artificial indica uma falha por parte de grandes empresas e redes sociais em proteger a privacidade dos usuários. A entidade informou que a instituição alemã responsável pelo LAION-5B confirmou a presença das fotos pessoais das crianças identificadas pela Human Rights Watch e se comprometeu a removê-las.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, destaca a importância da aplicação da legislação no ambiente digital para proteger os usuários, especialmente crianças e jovens. Em entrevista à TV Brasil, ela ressaltou a necessidade de garantir a segurança e cuidado com esses públicos diante dos desafios apresentados pela inteligência artificial.
Fonte: @ Agencia Brasil
Comentários sobre este artigo