Inteligência artificial e discriminação

desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial

Autores

DOI:

https://doi.org/10.30899/dfj.v16i1.1316

Palavras-chave:

Inteligência Artificial. Discriminação. Reconhecimento Facial. Dados Sensíveis. Populações Vulneráveis.

Resumo

A pesquisa analisa as formas como as tecnologias de reconhecimento facial afetam direitos fundamentais, especialmente de grupos vulneráveis no Brasil. Desse modo, parte de um questionamento sobre como essas tecnologias impactam a realidade social desses grupos e sobre como é possível protegê-los diante da vigilância digital opressiva e discriminatória. O artigo utiliza um processo metodológico a partir do uso de técnicas de revisão bibliográfica e análise de legislações e projetos de lei no Brasil. O artigo explora casos brasileiros e internacionais na busca de aspectos críticos sobre a implementação de tecnologias de reconhecimento facial, bem como apresenta perspectivas sobre o banimento de tecnologias discriminatórias que podem aumentar contextos de vulnerabilidade, especificamente de pessoas negras e transexuais no Brasil.

Biografia do Autor

Ramon Silva Costa, PUC- Rio

Doutorando em Direito pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Mestre em Direito pela Universidade Federal de Juiz de Fora (UFJF) e Especialista em Relações de Gênero e Sexualidades pela mesma instituição. Possui graduação em Direito pela Universidade Federal Fluminense (UFF). Integrante dos núcleos de pesquisa Legalite PUC-Rio: Direito e Novas Tecnologias. Advogado especialista em privacidade e proteção de dados pessoais do NIC.br. Gerente da equipe de proteção de dados pessoais da ONG TODXS .Tem experiência em pesquisa e docência na área de Direito, com ênfase em Direito Civil e Direito Digital.

Bianca Kremer, PUC- Rio

Advogada, professora e pesquisadora em Direito e Tecnologia, com atuação em Teoria do Direito Privado, pensamento afrodiaspórico e decolonialidade. Doutora em Direito pela PUC-Rio. Mestre em Direito Constitucional pela UFF. Bacharel em Direito pela UFRJ. Foi Research Fellow na Universidade de Leiden (Holanda) no Center of Law and Digital Technologies (bolsista Coimbra Group). Membro do Núcleo de Direito e Novas Tecnologias – DROIT (PUC-Rio). Líder de pesquisa no CJUS FGV Direito Rio (2021-2023) e CEDIS - IDP Privacy Lab (2021 - atual). Professora do Instituto Infnet no MBA em Gestão de Segurança da Informação e no curso de graduação em Administração. Professora de graduação e pós-graduação em Direito Digital no Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP). Professora convidada na PUC-Rio, Instituto New Law e ITS-Rio. Foi professora substituta na UFRJ (2015-2016) e na UFF (2018-2020). Foi coordenadora acadêmica no Instituto Dannemann Siemsen (IDS) (2020-2021). Atua nas áreas de Direito Civil, Privacidade e Proteção de Dados, Direito Digital, Ética & Inteligência Artificial e Propriedade Intelectual.

Referências

ARTIGO 19. Organizações se unem em chamada para banimento global de usos de reconhecimento facial e biométrico. Artigo19, 09 jun. 2021. Disponível em: https://artigo19.org/2021/06/09/21413/.

BARROS, Marina; VENTURINI, Jamila. Os desafios do avanço das iniciativas de cidades inteligentes nos municípios brasileiros. In: MAGRANI, Eduardo (Org.). Horizonte presente: debates de tecnologia e sociedade. 1. ed. Rio de Janeiro: Letramento, v. 1, 2018.

BENEVIDES, Bruna; NOGUEIRA, Sayonara. Dossiê dos assassinatos e da violência contra travestis e transexuais brasileiras em 2020. São Paulo: Expressão Popular, ANTRA, IBTE, 2021.

BRASIL. Projeto de lei nº 21 de 2020. Disponível em: https://www.camara.leg.br/propostas-legislativas/2236340.

BRASIL, Assembleia Legislativa. Lei 13.709/2018. Lei Geral de Proteção de Dados Pessoais. Disponível em: http://www.planalto.gov.br/ccivil_03/_Ato20152018/2018/Lei/L13709.htm. Acesso em 15 dez. 2021.

BROWNE, Simone. Dark Matters: On the Surveillance of Blackness. Durham: Duke University Press Books, 2015.

BUOLAMWINI, Joy. Como eu luto contra o preconceito em algoritmos- TED. Vídeo. 2017. Disponível em: https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms.

CONECTAS Direitos Humanos. Brasil se mantém como 3º país com maior população carcerária do mundo. Conectas, 18 fev. 2022. Disponível em: https://www.conectas.org/noticias/brasil-se-mantem-como-3o-pais-com-a-maior-populacao-carceraria-do-mundo/

CONGER, Kate; FAUSSET, Richard; KOVALESKI, Serge. San Francisco Bans Facial Recognition Technology. The New York Times, 14 mai. 2019. Disponível em: https://www.nytimes.com/2019/05/14/us/facialrecognitionbansanfrancisco.html?utm_source=The+Hack&utm_campaign=d2697daeccThe_Hack_0123&utm_medium=email&utm_term=0_060634743e-d2697daecc-206979693

COSTA, Eduarda; REIS, Carolina. Histórico da LGPD penal: o que foi feito até aqui e quais são os próximos passos? Blog Lapin, 16 abr. 2021. Disponível em: https://lapin.org.br/2021/04/16/lgpd-penal-o-que-foi-feito-ate-aqui-e-quais-sao-os-proximos-passos/#

COSTA, Ramon. Personalidade Hackeada: considerações sobre proteção de dados pessoais sensíveis, vigilância digital e discriminação. In: TEFFÉ, Chiara Spadaccini de; BRANCO, Sérgio (Coords.). Proteção de dados e tecnologia: estudos da pós-graduação em Direito Digital. Rio de Janeiro: Instituto de Tecnologia e Sociedade do Rio de Janeiro: ITS/Obliq, 2022.

COSTA, Ramon; GAGLIARDI, Marília; TORRES, Lívia. Gender Identity, Personal Data and Social Networks: An analysis of the categorization of sensitive data from a queer critique. Revista Direito e Práxis, Ahead of print, Rio de Janeiro, 2022.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais. São Paulo: Revista dos Tribunais, 2019.

DONEDA, Danilo; et al. Considerações iniciais sobre inteligência artificial, ética e autonomia

pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, out./dez. 2018.

EDRI. Italy introduces a moratorium on vídeo surveillance systems that use facial recognition. EDRI. 15 dez. 2021. Disponível em: <https://edri.org/our-work/italy-introduces-a-moratorium-on-video-surveillance-systems-that-use-facial-recognition/>. Acesso em: 15 mai 2022.

FOUCAULT, Michel. História da Sexualidade 1: a vontade de saber. 3. ed. São Paulo: Paz e Terra, 2015.

GOMES, Sheley. Europa avança para o banimento do reconhecimento facial. Carta Capital, 29 jun. 2021. Disponível em: https://www.cartacapital.com.br/blogs/intervozes/europa-avanca-para-o-banimento-do-reconhecimento-facial/.

GUIMARÃES, Hellen. Nos erros de reconhecimento facial, um “caso isolado” atrás do outro.

Presos por engano, cientista de dados, mototaxista e motorista têm algo mais em comum: são negros. Piauí, 24 set. 2021. Disponível em: https://piaui.folha.uol.com.br/nos-erros-de-reconhecimento-facial-um-caso-isolado-atras-do-outro/

HARTZOG, Woodrow; SELLINGER, Evan. Facial Recognition is the perfect tool for opression. Medium, 2 ago. 2018. Disponível em: https://medium.com/s/story/facial-recognition-is-the-perfect-tool-for-oppression-bc2a08f0fe66.

INOCENTE preso por erro de reconhecimento facial vive traumas. R7, Brasilia, 15 dez. 2021. Dsiponível em: <https://noticias.r7.com/brasilia/videos/inocente-preso-por-erro-de-reconhecimento-facial-vive-traumas-15122021>. Acesso em: 15 mai 2022.

INSTITUTO IGARAPÉ. Reconhecimento Facial no Brasil. 2019. Disponível em : <https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/>.

KREMER, Bianca. Reconhecimento facial no Brasil: uma perspectiva de gênero e raça. Medium Coding Rights. 7 fev. 2022. Disponível em: <https://medium.com/codingrights/reconhecimento-facial-no-brasil-uma-perspectiva-de-ra%C3%A7a-e-g%C3%AAnero-9fe027c3a176>. Acesso em: 15 mai. 2022.

LEMOS, Marcela. Polícia admite erro e cientista de dados da IBM preso por 22 dias é solto. Uol Notícias, Rio de Janeiro, 9 set. 2021. Disponível em: <https://noticias.uol.com.br/cotidiano/ultimas-noticias/2021/09/09/policia-admite-erro-e-cientista-de-dados-da-ibm-preso-por-22-dias-e-solto.htm>. Acesso em: 15 mai 2022.

LOURENÇO, Gabriel. Brasil é o 5º país com mais redes de câmeras de vigilância com reconhecimento facial no mundo. Olhar Digital, 25. Nov. 2021. Disponível em: < https://olhardigital.com.br/2021/11/25/seguranca/brasil-cameras-reconhecimento-facial/>. Acesso em : 21 mai. 2022.

MCCARTHY, J. What is artificial intelligence? Stanford, 2000. Disponível em: <http://www-formal.stanford.edu/jmc/whatisai.pdf>.

MELO, Paulo Victor. A serviço do punitivismo, do policiamento preditivo e do racismo estrutural. Diplomatique, 18 mar. 2021. Disponível em: <https://diplomatique.org.br/a-servico-do-punitivismo-do-policiamento-preditivo-e-do-racismo-estrutural/>. Acesso em: 20 mai. 2022.

MULHOLLAND, Caitlin; KREMER, Bianca. Responsabilidade civil por danos causados pela violação do princípio da igualdade no tratamento de dados pessoais. In: Rodrigo da Guia Silva; Gustavo Tepedino. (Org.). O Direito Civil na era da inteligência artificial. São Paulo: Revista dos Tribunais, 2020, p. 565-584.

MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência artificial e a Lei Geral de Proteção de Dados Pessoais: breves anotações sobre o direito à explicação perante a tomada de decisões por meio de machine learning. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Org.). Inteligência artificial e Direito: ética, regulação e responsabilidade. São Paulo: Thomson Reuters Brasil, 2019.

NEGRI, Sergio; OLIVEIRA, Samuel; COSTA; Ramon. O Uso de Tecnologias de Reconhecimento Facial Baseadas em Inteligência Artificial e o Direito à Proteção de Dados. Revista Direito Público. Brasília, Volume 17, n. 93, 82-103, maio/jun. 2020.

NOBLE, Safiya Umoja. Algorithms of Oppression: How search engines reinforce racism. NYU Press, 2018.

NOYAN, Oliver. New German government to ban facial recognition and mass surveillance. Euractiv, 26 nov. 2021. Disponível em: <https://www.euractiv.com/section/data-protection/news/new-german-government-to-ban-facial-recognition-and-mass-surveillance/> . Acesso em: 16 mai 2022.

NUNES, Pablo. O algoritmo e racismo nosso de cada dia. Revista Piauí, 02 jan. 2021. Disponível em: <https://piaui.folha.uol.com.br/o-algoritmo-e-racismo-nosso-de-cada-dia/>.

OLIVEIRA, Samuel. Sorria, você está sendo filmado! Repensando direitos na Era do reconhecimento facial. São Paulo: Thomson Reuters Brasil, 2021.

O’NEIL, Cathy. Algoritmos de destruição em massa. Como o big data aumenta a desigualdade e ameaça a democracia. São Paulo: Editora Rua do Sabão, 2020.

PINHEIRO, Ester. Há 13 anos no topo da lista, Brasil continua sendo o país que mais mata pessoas trans no mundo. Brasil de Fato, 23 jan. 2022. Disponível em: <https://www.brasildefato.com.br/2022/01/23/ha-13-anos-no-topo-da-lista-brasil-continua-sendo-o-pais-que-mais-mata-pessoas-trans-no mundo#>. Acesso em: 18 mai. 2022.

RAMOS, Lucas Cabral de Souza. Reconhecimento Facial: do uso privado aos blocos de carnaval. 2021. 39 f. Trabalho de Conclusão de Curso (Análise e Desenvolvimento de Sistemas)- Faculdade de Educação Tecnológica do Estado do Rio de Janeiro, 2021. Disponível em < https://bityli.com/YaFcj>.

RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Rio de Janeiro: Renovar, 2008.

SILVA, Mariah Rafaela; VARON, Joana. Reconhecimento facial no setor público e identidades trans: tecnopolíticas de controle e ameaça à diversidade de gênero em suas interseccionalidades de raça, classe e território. Codin Rights: Rio de Janeiro, 2021. Disponível em: https://codingrights.org/docs/rec-facial-id-trans.pdf. Acesso em: 29 dez. 2021.

SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. Anais do VI Simpósio Internacional Lavits. Salvador, 2019. Disponível em: https://lavits.org/anais-do-vi-simposio-internacional-lavits-assimetrias-e-invisibilidades-vigilancia-genero-e-raca/?lang=pt Acesso em: 12 de jan. 2022.

SKINNER-THOMPSON, Scott. Privacy at margins. Cambridge: Cambridge University Press, 2021.

VENTURA, Layse. Tecnologia de reconhecimento facial chega a 20 estados. Olhar Digital, 10 jul. 2021. Disponível em: <https://olhardigital.com.br/2021/07/10/seguranca/tecnologia-de-reconhecimento-facial-chega-a-20-estados/>. Acesso em: 15 mai. 2022.

WIMMER, Miriam; DONEDA, Danilo. “Falhas de IA” e a Intervenção Humana em Decisões Automatizadas: Parâmetros para a Legitimação pela Humanização. Revista Direito Público. Brasília, V. 18, n. 100, p. 374-406, out./dez. 2021.

ZUBOFF, Shoshana. A Era do Capitalismo de Vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2020.

Downloads

Publicado

2022-10-20

Como Citar

Costa, R. S., & Kremer, B. (2022). Inteligência artificial e discriminação: desafios e perspectivas para a proteção de grupos vulneráveis frente às tecnologias de reconhecimento facial. Revista Brasileira De Direitos Fundamentais & Justiça, 16(1). https://doi.org/10.30899/dfj.v16i1.1316

Edição

v. 16 n. 1 (2022): Volume 16, Edição Especial, 2022

Seção

DOUTRINA NACIONAL

Licença

Copyright (c) 2022 Revista Brasileira de Direitos Fundamentais & Justiça

Creative Commons License

Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.

Para acesso ao conteúdo do periódico, favor entrar em contato com:

Editora Fórum

0800 704 3737

vendas@editoraforum.com.br