A Plataforma Tecnológica de Intervenção Social, celebrada na televisão nacional pelo então governador Juan Manuel Urtubey, foi oferecida à província de Salta pela Microsoft em 2018, ao mesmo tempo que o Congresso argentino debatia a descriminalização do aborto.
Em 2018, numa altura em que o Congresso argentino debatia acaloradamente a descriminalização do aborto, a Microsoft e o Ministério da Primeira Infância da província de Salta, no norte do país, apresentaram um algoritmo para prever a gravidez na adolescência.
Chamaram-lhe “Plataforma Tecnológica de Intervenção Social” e servia para prever, “com cinco ou seis anos de antecedência”, que jovens de baixos rendimentos engravidariam.
Segundo a investigação da Wired, nunca ficou claro o que aconteceria quando uma rapariga fosse rotulada como “predestinada” para a maternidade ou como esta informação ajudaria a evitar a gravidez na adolescência. “As teorias por trás do sistema de IA, tal como os seus algoritmos, eram opacas”, salienta o portal.
O sistema baseava-se em dados – como idade, etnia, país de origem, deficiência e se a habitação onde residia tinha água quente na casa de banho – de 200 mil residentes na província de Salta, incluindo 12 mil mulheres e raparigas entre os 10 e 19 anos.
Embora não exista documentação oficial, a Wired avança que alguns “agentes territoriais” chegaram a visitar as casas das jovens em questão, fizeram perguntas, tiraram fotografias e registaram localizações GPS.
O denominador comum entre as pessoas sujeitas a esta vigilância era o facto de todas serem pobres, alguns migrantes da Bolívia e de outros países da América do Sul, e outros das comunidades indígenas Wichí, Qulla, e Guarani.
Devido à total ausência de regulamentação nacional em matéria de IA, a Plataforma Tecnológica de Intervenção Social nunca foi sujeita a uma revisão formal e não foi feita qualquer avaliação dos impactos sobre as raparigas visadas. Também não foram publicados dados oficiais sobre a sua exatidão ou quaisquer resultados.
A Wired não sabe se o programa tecnológico acabou por ser suspenso e alega que tudo o que é conhecido sobre o sistema “provém dos esforços de ativistas feministas e jornalistas que conduziram o que se traduziu numa auditoria de base a um sistema de IA defeituoso e prejudicial”.
“[O programa] é um estratagema patriarcal“, salientou Ana Pérez Declercq, diretora do Observatório da Violência contra as Mulheres. “Confunde variáveis socioeconómicas para fazer parecer que a rapariga ou a mulher é a única culpada pela sua situação.”
“Este sistema de IA é mais um exemplo da violação dos direitos da mulher por parte do Estado. Imagine como seria difícil recusar a participação nesta vigilância”, acrescentou.
É de salientar que este caso ganha dimensão pelo facto de uma empresa norte-americana como a Microsoft ter optado por implementar um programa deste tipo num país com um longo historial de medidas de vigilância e controlo populacional.
Segundo a Wired, não se sabe o que os governos provinciais ou nacionais fizeram com os dados e como – ou se – se relacionaram com o debate sobre o aborto.
Em 2020, a Argentina votou a sua descriminalização, um momento histórico para a nação sul-americana.
https://zap.aeiou.pt/microsoft-algoritmo-gravidez-adolescencia-463679
Em 2018, numa altura em que o Congresso argentino debatia acaloradamente a descriminalização do aborto, a Microsoft e o Ministério da Primeira Infância da província de Salta, no norte do país, apresentaram um algoritmo para prever a gravidez na adolescência.
Chamaram-lhe “Plataforma Tecnológica de Intervenção Social” e servia para prever, “com cinco ou seis anos de antecedência”, que jovens de baixos rendimentos engravidariam.
Segundo a investigação da Wired, nunca ficou claro o que aconteceria quando uma rapariga fosse rotulada como “predestinada” para a maternidade ou como esta informação ajudaria a evitar a gravidez na adolescência. “As teorias por trás do sistema de IA, tal como os seus algoritmos, eram opacas”, salienta o portal.
O sistema baseava-se em dados – como idade, etnia, país de origem, deficiência e se a habitação onde residia tinha água quente na casa de banho – de 200 mil residentes na província de Salta, incluindo 12 mil mulheres e raparigas entre os 10 e 19 anos.
Embora não exista documentação oficial, a Wired avança que alguns “agentes territoriais” chegaram a visitar as casas das jovens em questão, fizeram perguntas, tiraram fotografias e registaram localizações GPS.
O denominador comum entre as pessoas sujeitas a esta vigilância era o facto de todas serem pobres, alguns migrantes da Bolívia e de outros países da América do Sul, e outros das comunidades indígenas Wichí, Qulla, e Guarani.
Devido à total ausência de regulamentação nacional em matéria de IA, a Plataforma Tecnológica de Intervenção Social nunca foi sujeita a uma revisão formal e não foi feita qualquer avaliação dos impactos sobre as raparigas visadas. Também não foram publicados dados oficiais sobre a sua exatidão ou quaisquer resultados.
A Wired não sabe se o programa tecnológico acabou por ser suspenso e alega que tudo o que é conhecido sobre o sistema “provém dos esforços de ativistas feministas e jornalistas que conduziram o que se traduziu numa auditoria de base a um sistema de IA defeituoso e prejudicial”.
“[O programa] é um estratagema patriarcal“, salientou Ana Pérez Declercq, diretora do Observatório da Violência contra as Mulheres. “Confunde variáveis socioeconómicas para fazer parecer que a rapariga ou a mulher é a única culpada pela sua situação.”
“Este sistema de IA é mais um exemplo da violação dos direitos da mulher por parte do Estado. Imagine como seria difícil recusar a participação nesta vigilância”, acrescentou.
É de salientar que este caso ganha dimensão pelo facto de uma empresa norte-americana como a Microsoft ter optado por implementar um programa deste tipo num país com um longo historial de medidas de vigilância e controlo populacional.
Segundo a Wired, não se sabe o que os governos provinciais ou nacionais fizeram com os dados e como – ou se – se relacionaram com o debate sobre o aborto.
Em 2020, a Argentina votou a sua descriminalização, um momento histórico para a nação sul-americana.
https://zap.aeiou.pt/microsoft-algoritmo-gravidez-adolescencia-463679
Nenhum comentário:
Postar um comentário