AUTODETERMINAÇÃO IDENTITÁRIA E INTELIGÊNCIA ARTIFICIAL:
O fortalecimento da proteção de dados pessoais e da diversidade nos meios digitais
DOI:
https://doi.org/10.30899/dfj.v20i50.1494Palavras-chave:
identidade, autodeterminação, inteligência artificial, perfilização, proteção de dadosResumo
A expansão da inteligência artificial tem alterado profundamente a forma como as pessoas são interpretadas e identificadas, tendo em vista que novas identidades digitais lhes têm sido atribuídas por sistemas automatizados, sobretudo, através das práticas de perfilização e categorizações em grupos. A construção destas identidades, além de não incluir diretamente a participação das próprias pessoas, também pode conter vieses e gerar conclusões equivocadas ou irreais, aptas a ensejar decisões injustas, como discriminações e esteriotipações. Este cenário, portanto, suscita discussões sobre os riscos à autodeterminação informacional dos indivíduos, bem como ao autônomo e livre desenvolvimento de sua identidade e personalidade. Assim, o presente estudo bibliográfico, através de método indutivo, buscou averiguar o surgimento de possível novo princípio de proteção aos dados pessoais como forma de assegurar a autonomia das pessoas na construção de suas próprias identidades também no meio digital. Os resultados sugerem que eventuais novas regulações, incluindo a proteção de dados, precisam viabilizar às pessoas não apenas a chance de revisão de seus próprios dados, mas incluir a tutela também sobre o resultado valorativo oriundo dos perfis automatizados, de modo a viabilizar um ambiente digital no qual as pessoas protagonizem a construção de suas próprias identidades.
Referências
ALVES, Fabrício; VALADÃO, Rodrigo. Integridade digital: um novo direito fundamental. Migalhas, n. 5.615, ago. 2022. Disponível em: https://www.migalhas.com.br/coluna/dados-publicos/370121/integridade-digital-um-novo-direito-fundamental. Acesso em: 30 mai. 2023.
BAUMAN, Zygmunt. Vida para consumo: A transformação das pessoas em mercadorias. Rio de Janeiro: Zahar, 2022.
BEN-SHAHAR, Omri; SCHNEIDER, Carl E. More than you wanted to know: The Failure of Mandated Disclosure. University of Pennsylvania Law Review, v. 159, p. 647-749, 2014.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, [2018]. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 04 jun. 2023.
BRASIL, Senado Federal. Projeto de Lei n. 2338, de 03 de maio de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília: Senado Federal, [2023]. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 02 jun. 2023.
BÜCHIA, Moritz; FOSCH-VILLARONGA, Eduard; LUTZ, Christoph; TAMÒ-LARRIEUX, Aurelia; VELIDI, Shruthi; VILJOEN, Salome. The chilling effects of algorithmic profiling: Mapping the issues. Computer Law & Security Review, v. 36, p. 1-15, abr. 2020. DOI: https://doi.org/10.1016/j.clsr.2019.105367.
CALO, Ryan. Privacy, Vulnerability, and Affordance, DePaul Law Review, v. 66, p. 591-604, 2017. Disponível em: https://via.library.depaul.edu/cgi/viewcontent.cgi?article=4023&context=law-review. Acesso em: 05 jun. 2023.
CHENEY-LIPPOLD, John. We are data: algorithms and the making of our digital selves. Nova Iorque: New York University Press, 2017. 320 p. E-book.
CUSTERS, Bart. Effects of Unreliable Group Profiling by Means of Data Mining. In: GRIESER, G.; TANAKA, Y.; YAMAMOTO, A. (red.) Lecture Notes in Artificial Intelligence. Heidelberg, New York: Springer Verlag, 2003. p. 290-295.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais. São Paulo: Revista dos Tribunais, 2021. E-book.
EDER, Niklas. Privacy, Non-Discrimination and Equal Treatment: Developing a Fundamental Rights Response to Behavioural Profiling. In: EBERS, Martin; GAMITO, Marta Cantero (eds.). Algorithmic Governance and Governance of Algorithms: legal and ethical challenges. Cham: Springer, 2021. p. 23-49.
FEHER, Katalin. Digital identity and the online self: Footprint strategies – An exploratory and comparative research study. Journal of Information Science, i. 2, v. 47, 2019. Disponível em: https://doi.org/10.1177/0165551519879702. Acesso em: 31 mai. 2023.
FLORIDI, Luciano. The 4th revolution: How the infosphere is reshaping human reality. Oxford: Oxford University Press, 2014. 248 p. E-book.
FLORIDI, Luciano. Group Privacy: a Defence and an Interpretation. In: TAYLOR, Linnet; FLORIDI, Luciano; SLOOT, Bart. Group privacy: New Challenges of Data Technologies. Dordrecht: Springer, 2017, p. 15. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3854483. Acesso em: 04 jun. 2023.
FLORIDI, Luciano. Marketing as Control of Human Interfaces and Its Political Exploitation. Philosophy & Technology, v. 32, 3, set. 2019. Disponível em: https://www.researchgate.net/publication/335100783_Marketing_as_Control_of_Human_Interfaces_and_Its_Political_Exploitation. Acesso em: 04 jun. 2023.
FREITAS, Cinthia; FERREIRA, Heline; CAVEDON, Ricardo. A bolha informacional e os riscos dos mecanismos de busca na personalização do usuário de internet: reflexões sobre o direito à autodeterminação informacional. Revista Brasileira de Direito, Passo Fundo, n. 3, v. 16, set.-dez. 2020. Disponível em: https://dialnet.unirioja.es/servlet/articulo?codigo=8075716. Acesso em: 30 mai. 2023.
GIL GONZÁLEZ, Elena; DE HERT, Paul. Understanding the legal provisions that allow processing and profiling of personal data - an analysis of GDPR provisions and principles. ERA Forum, v. 19, p. 597-621, 2019. DOI: https://doi.org/10.1007/s12027-018-0546-z. Disponível em: https://link.springer.com/article/10.1007/s12027-018-0546-z. Acesso em: 05 jun. 2023.
HÄNOLD, Stefanie. Profiling and Automated Decision-Making: Legal Implications and Shortcomings. In: CORRALES, Marcelo; FENWICK, Mark; FORGÓ Nikolaus (eds.). Robotics, AI and the Future of Law. Perspectives in Law, Business and Innovation. Singapore: Springer, 2018. p. 123-153. DOI: https://doi.org/10.1007/978-981-13-2874-9_6.
HASAN, Omar; HABEGGER, Benjamin; BRUNIE, Lionel; BENNANI, Nadia; DAMIANI, Ernesto. A Discussion of Privacy Challenges in User Profiling with Big Data Techniques: The EEXCESS Use Case. In: 2013 IEEE International Congress on Big Data, 2013. p. 25-30. DOI: 10.1109/BigData.Congress. 2013.13 p.
HILDEBRANDT, Mireille. Defining Profiling: A New Type of Knowledge? In: HILDEBRANDT, Mireille; GUTWIRT, Serge. Profiling the European Citizen: Cross-Disciplinary Perspectives. Heidelberg: Springer, 2008. p. 17-45. Disponível em: https://www.researchgate.net/publication/226744267_Defining_Profiling_A_New_Type_of_Knowledge. Acesso em: 05 jun. 2023.
HILDEBRANDT, Mireille. Profiling: From Data to Knowledge. The challenges of a crucial technology. Datenschutz und Datensicherheit, v. 30, n. 9, p. 548-552, 2006. Disponível em: https://www.researchgate.net/publication/242181840_Profiling_From_data_to_knowledge. Acesso em: 05 jun. 2023.
ITALIA, Dichiarazione dei diritti in Internet, Del 14 luglio 2015. Relativi ad Internet, [2015]. Disponível em: chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.camera.it/application/xmanager/projects/leg17/commissione_internet/dichiarazione_dei_diritti_internet_pubblicata.pdf. Acesso em: 04 jun. 2023.
KONDER, Carlos Nelson. Vulnerabilidade patrimonial e vulnerabilidade existencial: por um sistema diferenciador. Revista de Direito do Consumidor, São Paulo, v. 24, n. 99, p. 101-123, maio/jun. 2015. Disponível em: https://revistadedireitodoconsumidor.emnuvens.com.br/rdc/article/view/349. Acesso em: 05 jun. 2023.
LODDER, Arno R.; CARVALHO, Jorge de Morais. Online Platforms: Towards an Information Tsunami with New Requirements on Moderation, Ranking, And Traceability. European Business Law Review, v. 33, n. 4, p. 537-556, 2022. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4050115. Acesso em: 05 jun. 2023.
LUPTON, Deborah. ‘Not the Real Me’: Social Imaginaries of Personal Data Profiling. Cultural Sociology, v. 15, n. 1, p. 3-21, 2021. DOI: www.doi.org/10.1177/1749975520939779. Disponível em: https://journals.sagepub.com/doi/full/10.1177/1749975520939779. Acesso em 05 jun. 2023.
LYON, David. Surveillance as social sorting: computer codes and mobile bodies. In: LYON, David. Surveillance as Social Sorting. London: Routledge, 2003. p. 13-30.
MALLMANN, Otto. Zielfunktionen des Datenschutzes: Schutz der privatsphäre - Korrekte Information. Frankfurt am Main: Luchterland, 1995.
MARTINS, Pedro Bastos Lobo. Profiling na Lei Geral de Proteção de Dados: o livre desenvolvimento da personalidade em face da governamentalidade algorítmica. 1. ed. Foco: Indaiatuba, 2022.
MENDES, Laura. Autodeterminação informativa: a história de um conceito. Pensar, Fortaleza, v. 25, n. 4, out./dez. 2020. Disponível em: https://ojs.unifor.br/rpen/article/download/10828/pdf/44878. Acesso em: 01 jun. 2023.
MENKE, Fabiano. As origens alemãs e o significado da autodeterminação informativa. In: MENKE, Fabiano; DRESCH, Rafael de Freitas Valle (orgs.). Lei Geral de Proteção de Dados: aspectos relevantes. Indaiatuba: Foco, 2021. p. 30-42. Disponível em: https://vlex.com.br/vid/as-origens-alemas-significado-897144959. Acesso em: 05 jun. 2023.
MICKLITZ, Hans-Wolfgang; LIPPI, Marco; PALKA, Przemyslaw; CONTISSA, Giuseppe; LAGIOIA, Franscesca; SARTOR, Giovanni; TORRONI, Paolo. CLAUDETTE: an automated detector of potentially unfair clauses in online terms of service. Artificial Intelligence and Law, v. 27, n. 2, p. 117-139, 2019. Disponível em: https://arxiv.org/abs/1805.01217. Acesso em 05 jun. 2023.
MONICA, Eder. El problema de la heteroformación de la identidad digital: fundamentos del principio de autodeterminación informativa. CONFLUENCIAS, v.23, n.2, ago./nov. 2021. Disponível em: https://periodicos.uff.br/confluencias/article/download/50670/29731/175872. Acesso em: 31 mai. 2023.
MORAES, Paulo Valério Dal Pai. Código de Defesa do Consumidor: o princípio da vulnerabilidade no contrato, na publicidade, nas demais práticas comerciais. 2. ed. Porto Alegre: Síntese, 2001.
NEUMANN, Nico; TUCKER, Catherine E.; KAPLAN, Levi; MISLOVE, Alan; SAPIEZYNSKI, Piotr. Data Deserts and Black Box Bias: The Impact of Socio-Economic Status on Consumer Profiling. S.l., s.d.
PARISER, Eli. O Filtro Invisível: o que a internet está escondendo de você. 1. ed. Trad. Diego Alfaro. Rio de Janeiro: Zahar, 2012. 252 p.
PIÑAR MAÑAS, José. Identidad y persona en la sociedad digital. In: Sociedad Digital y Derecho. FERNÁNDEZ, Castillo; QUADRA-SALCEDO, Tomás; PIÑAR MAÑAS, José Luis (organizadores). “Sociedad Digital y Derecho”. Madrid: Ministério de Indústria, Comercio y Turismo, 2018. 16 p.
REGULAMENTO GERAL SOBRE A PROTEÇÃO DE DADOS, de 27 de abril de 2016. Relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados). União Européia, [2016]. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:02016R0679-20160504&from=EN. Acesso em: 12 mar. 2022.
RODOTÀ, Stefano. El derecho a tener derechos. 1. ed. Madrid: Editorial Trotta, 2014.
___________________. A vida na sociedade da vigilância: a privacidade hoje. Rio de Janeiro: Renovar, 2018.
________________. New technologies and human rights facts, interpretations, perspectives: a report for a fundamental rights agency's discussion. Comparative Law Review, Perugia, v. 11/2, n. 2, 2020, ISSN: 2038-8993. Disponível em: http://www.comparativelawreview.unipg.it/index.php/comparative/article/view/214/166#. Acesso em: 01 jun. 2023.
_______________. Pós-humano. Revista Brasileira de Direito Civil – RBDCivil, Belo Horizonte, v. 27, jan./mar. 2021. Disponível em: http://konder.adv.br/wp-content/uploads/2021/04/Stefano-Rodota-Pos-humano-RBDCivil.pdf. Acesso em 04 jun. 2023.
SARLET, Ingo Wolfgang. O Direito Fundamental à Proteção de Dados Pessoais na Constituição Federal Brasileira de 1988. Privacy and Data Protection Magazine, n. 1, p. 12-49, 2021. Disponível em: https://repositorio.pucrs.br/dspace/handle/10923/18868. Acesso em: 05 jun. 2023.
SCHLINK, Bernhard. Die Amtshilfe: Ein Beitrag zu einer Lehre von der Gewaltenteilung in der Verwaltung. Berlim: Duncker & Humblot, 1982. E-book.
SCHREURS, Wim; HILDEBRANDT, Mireille; Kindt, Els; VANFLETEREN, Michaël. Cogitas, Ergo Sum. The Role of Data Protection Law and Non-discrimination Law in Group Profiling in the Private Sector. In: HILDEBRANDT, Mireille; GUTWIRT, Serge. Profiling the European Citizen: Cross-Disciplinary Perspectives. Heidelberg: Springer, 2008. p. 241-270.
SCHWAB, Klaus. A Quarta Revolução Industrial. 1. ed. São Paulo: Edipro, 2016.
SCHWABE, Jürgen. Cinqüenta Anos de Jurisprudência do Tribunal Constitucional Federal Alemão. Berlim: Konrad-Adenauer-Stiftung E. V., 2005.
SESSAREGO, Carlos. Derecho a la identidad personal. Buenos Aires: Astrea, 1992.
TAMÒ-LARRIEUX, Aurelia. Decision-making by machines: Is the ‘Law of Everything’ enough? Computer Law & Security Review, v. 41, 105541, 2021. DOI: https://doi.org/10.1016/j.clsr.2021.105541. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S0267364921000145. Acesso em: 05 jun. 2023.
VAN DER PLOEG, Irma. Biometrics and the body as information: normative issues of the socio-technical coding of the body. In: LYON, David. Surveillance as Social Sorting. London: Routledge, 2003. p. 57-74. E-book.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2021.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2024 Revista Brasileira de Direitos Fundamentais & Justiça
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Para acesso ao conteúdo do periódico, favor entrar em contato com:
Editora Fórum
0800 704 3737
vendas@editoraforum.com.br
