Organização internacional encontrou 170 imagens em banco de dados usando inteligência artificial para levantamento e organização de blogs e sites sobre direitos da criança.
Uma pesquisa da organização internacional Human Rights Watch descobriu a utilização de fotos pessoais de crianças e adolescentes do Brasil por ferramentas de inteligência artificial (IA). Segundo o relatório, as fotos foram extraídas de páginas da web e redes sociais sem autorização.
O estudo também revelou que as fotografias foram usadas para treinar algoritmos de reconhecimento facial. A preocupação com a privacidade e segurança das imagens de menores de idade é uma questão urgente que precisa ser abordada com rigor pelas autoridades competentes.
Levantamento de Fotos Revela Alerta sobre Privacidade de Crianças
Uma entidade especializada realizou um levantamento minucioso e encontrou um total de 170 fotos de crianças provenientes de pelo menos 10 estados diferentes. Essas imagens capturam momentos únicos, desde o nascimento de bebês até festas de aniversário e apresentações em escolas. O material foi descoberto em um banco de dados conhecido como LAION-5B, que desempenha um papel crucial no treinamento das ferramentas de inteligência artificial.
De acordo com a organização responsável pelo estudo, o número de fotos identificadas representa apenas uma pequena parcela do vasto acervo do banco, que abriga mais de 5 bilhões de imagens. No entanto, esse achado acende um sinal de alerta em relação à segurança e privacidade das crianças envolvidas. Algumas das fotos em questão foram compartilhadas por crianças, adolescentes, familiares ou até mesmo pais em blogs pessoais e plataformas de compartilhamento de imagens e vídeos.
A pesquisadora de Direitos da Criança e Tecnologia da renomada Human Rights Watch, Hye Jung Han, destaca que a inteligência artificial desempenha um papel fundamental na criação de imagens e cenas extremamente realistas em um curto espaço de tempo e de forma acessível. Esse cenário propicia a utilização dessas fotos como base para a produção de deepfakes prejudiciais e não consensuais, que circulam livremente na internet.
A tecnologia de deepfake possibilita a manipulação de vídeos e fotos por meio de algoritmos de inteligência artificial. Um exemplo prático disso é a substituição de rostos em vídeos ou a alteração de discursos. Segundo a Human Rights Watch, as fotos das crianças brasileiras em questão não são facilmente acessíveis por meio de pesquisas online, uma vez que foram postadas há anos, muitas delas antes mesmo da criação do banco de imagens.
A descoberta dessas fotos nas mãos das ferramentas de inteligência artificial revela uma lacuna na proteção da privacidade por parte de grandes empresas e redes sociais. A instituição alemã responsável pelo banco de dados LAION-5B confirmou a presença das fotos pessoais das crianças e se comprometeu a removê-las, reconhecendo a importância de salvaguardar a privacidade dos usuários.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, destaca a necessidade de aplicação efetiva da legislação no ambiente digital para proteger os usuários, especialmente as crianças e adolescentes. Em uma entrevista à TV Brasil, ela ressaltou a importância de estabelecer novos direitos diante dos desafios apresentados pela inteligência artificial, visando garantir a segurança e o cuidado adequado para os públicos mais vulneráveis.
Fonte: @ Agencia Brasil
Comentários sobre este artigo