Tecnologia jurídica/Direito computacional:
Precondições, Oportunidades e Riscos
DOI:
https://doi.org/10.30899/dfj.v15i44.1178Palavras-chave:
direito constitucionalResumo
Este artigo trata do uso de tecnologias digitais para identificar, aplicar e fazer cumprir a lei. Ele descreve as oportunidades e dificuldades associadas com a modelação do direito em software. Por causa da digitalização, o direito tradicional está sendo praticado de maneiras novas e está sendo até substituído em algumas áreas. Para os advogados está surgindo atualmente um mercado para novos serviços jurídicos. As administrações públicas e os tribunais também estão acolhendo as possibilidades proporcionadas pela digitalização. O artigo se refere à necessidade de garantir, entre outras coisas, a qualidade dos dados e sistemas algorítmicos (integridade, segurança, ausência de viés e parâmetros discriminatórios, etc.). Analisa as diferenças entre decisões humanas como construtos sociais e decisões algorítmicas como construtos técnicos. A transferência de regras jurídicas para regras digitais exige padronização. Isso produz um conflito: em muitos casos, as regras jurídicas se caracterizam pelo fato de que os termos são vagos e abertos para interpretações diferentes. Muitas vezes exigem, além disso, que se façam previsões e que considerações concorrentes sejam ponderadas. Muitas normas até permitem o exercício de discricionariedade. Por isso, não é suficiente se basear apenas na linguagem da norma: fatores não textuais também terão um impacto na interpretação e aplicação da lei. A exposição inclui uma análise dos dispositivos legais alemães que regulam o uso de decisões administrativas automatizadas e emite um alerta quanto à sanção automatizada de violações jurídicas: em última análise, a despeito dos benefícios putativos da digitalização, precisamos ser sensíveis ao risco de que ela altere mecanismos tradicionais de aplicação da lei e até reconfigure a própria substância da lei.
Referências
ALPAYDIN, E. Machine Learning. The MIT Press, 2016.
ASHLEY, K. D. Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age. Cambridge University Press, 2017.
BECKER, M. Von der Freiheit, rechtswidrig handeln zu können. Zeitschrift für Urheber- und Medienrecht, v. 63, n. 8/9, p. 636 et seq., 2019.
BERGER, A. Der automatisierte Verwaltungsakt. Neue Zeitschrift für Verwaltungsrecht, v. 17, p. 1.260 et seq., 2018.
BERNHARDT, W. Quo vadis Digitalisierung der Justiz? Juris, n. 8/9, p. 310 et seq., 2018.
BOTZDAG, E. Bias in Algorithm Filtering and Personalization. Ethics and Information Technology, v. 15, p. 209 et seq., 2013.
BOUNFOUR, A. Digital Futures, Digital Transformation. Springer, 2016.
BRAUN BINDER, N. Vollständig automatisierter Erlass eines Verwaltungsaktes und Bekanntgabe über Behördenportale. Die Öffentliche Verwaltung, v. 21, p. 891 et seq., 2016.
BREIDENBACH, S.; GLATZ, F. (ed). Rechtshandbuch Legal Tech. CH Beck, 2018.
BULL, H. P. Der “vollständig automatisiert erlassene” Verwaltungsakt – zur Begriffsbildung und rechtlichen Einhegung von E-Government. Deutsches Verwaltungsblatt, v. 132, n. 7, p. 409 et seq., 2017.
BUMKE, C. Rechtsdogmatik: Eine Disziplin und ihre Arbeitsweise. Zugleich eine Studie über das rechtsdogmatische Arbeiten Friedrich Carl von Savignys. Mohr Siebeck, 2017.
BUNDESMINISTERIUM für Verkehr und digitale Infrastruktur. E.-KauvF, Report, jun. 2017.
BUNDESREGIERUNG. Digitale Verwaltung. 18/3074, BTDrucks, 2014.
COLE, T. Digitale Transformation. 2. ed. Vahlen, 2017.
DANAHER, J. The Threat of Algocracy: Reality, Resistance and Accommodation. Philosophy and Technology, v. 29, n. 3, p. 245 et seq., 2016.
DANKERT, K. Normative Technologie in sozialen Netzwerkdiensten. Kritische Vierteljahresschrift für Gesetzgebung und Rechtswissenschaft, v. 98, n. 1, p. 49 et seq., 2015.
DJEFFAL, C. Das Internet der Dinge und die öffentliche Verwaltung – Auf dem Weg zum automatisierten Smart Government? Deutsches Verwaltungsblatt, v. 132, n. 13, p. 808 et seq., 2017.
DUWE, G.; ROCQUE, M. Effects of Automating Recidivism Risk Assessment on Reliability, Predictive Validity, and Return on Investment (ROI). Criminology & Public Policy, v. 16, n. 1, p. 235 et seq., 2017.
ENDERS, P. Einsatz künstlicher Intelligenz bei juristischer Entscheidungsfindung. JA, p. 721 et seq., 2018.
ERTEL, W. Grundkurs Künstliche Intelligenz. 4. ed. Springer Vieweg, 2016.
ESCHENBRUCH, K. Smart Contracts. Neue Zeitschrift für Baurecht und Vergaberecht, p. 3 et seq., 2018.
FACT SHEET: Counting as a Human Being in the Era of Computational Law. European Commission, 2017. Disponível em https://cordis.europa.eu/project/id/788734.
FINCK, M. Blockchains: Regulating the Unknown. German Law Journal, v. 19, n. 4, p. 665 et seq., 2018.
GOODFELLOW, I.; BENGIO, Y.; COURVILLE, A. Deep Learning (Adaptive Computation and Machine Learning). The MIT Press, 2016.
HARTUNG, M.; BUES, M.-M.; HALBLEIB, G. (ed). Legal Tech: Die Digitalisierung des Rechtsmarkts. CH Beck/Vahlen, 2018.
HECKELMANN, M. Zulässigkeit und Handhabung von Smart Contracts. Neue Juristische Wochenschrift, p. 504 et seq., 2018.
HEROLD, V. Algorithmisierung von Ermessensentscheidungen durch Machine Learning. In: TAEGER, J. (ed.). Rechtsfragen digitaler Transformation – Gestaltung digitaler Veränderungsprozesse çdurch Recht. OlWIR Verlag für Wirtschaft, Informatik und Recht, 2018.
HILDEBRANDT, M. Law as Computation in the Era of Artificial Legal Intelligence: Speaking Law to the Power of Statistics. University of Toronto Law Journal, v. 68, n. 1, p. 12 et seq., 2018.
HOEREN, T.; NIEHOFF, M. KI und Datenschutz – Begründungserfordernisse automatisierter Entscheidungen. Zeitschrift für rechtswissenschaftliche Forschung, v. 9, n. 1, p. 47 et seq., 2018.
HOFFMANN-RIEM, W. Innovation und Recht – Recht und Innovation. Mohr Siebeck, 2016.
HOFFMANN-RIEM, W. Verhaltenssteuerung durch Algorithmen – eine Her- ausforderung für das Recht. Archiv des öffentlichen Rechts, v. 142, n. 1, p. 1 et seq., 2017.
JOST, D.; KREMPE, J. E-Justice in Deutschland. Neue Juristische Wochenschrift, v. 70, n. 38, p. 2705 et seq., 2017.
KAULARTZ, M. Rechtliche Grenzen bei der Gestaltung von Smart Contracts. In: TAEGER, J. (ed.). Smart World – Smart Law? Weltweite Netze mit regionaler Regulierung. Ol-WIR Verlag für Wirtschaft, Informatik und Recht, 2016.
KEESE, C. Silicon Germany: Wie wir die digitale Transformation schaffen. Albrecht Knaus, 2017.
KIRN, S.; MÜLLER-HENGSTENBERG, C. D. Intelligente “Software-Agenten”: Eine neue Herausforderung für unser Rechtssystem? Multimedia & Recht, p. 307 et seq., 2014.
KITCHIN, R. Thinking Critically About and Researching Algorithms. Information, Communication and Society, v. 20, n. 1, p. 14 et seq., 2016.
KLAFKI, A.; WÜRKERT, F.; WINTER, T. (ed.). Digitalisierung und Recht. Bucerius Law School Press, 2017.
KLATT, M.; SCHMIDT, J. Spielräume im öffentlichen Recht. Mohr Siebeck, 2010.
KUNTZ, T. Recht als Gegenstand der Rechtswissenschaft und performative Rechtserzeugung. Archiv für die civilistische Praxis, v. 216, n. 6, p. 866 et seq., 2016.
LUHMANN, N. Funktion und Folgen formaler Organisation. 2. ed. Duncker & Humblot, 1972.
MARTINI, M.; NINK, D. Wenn Maschinen entscheiden ... – vollautomatisierte Verfahren und der Persönlichkeitsschutz. Neue Zeitschrift für Verwaltungsrecht - extra 1, v. 36, n. 10, p. 10 et seq., 2017.
MÜLLER, F.; CHRISTENSEN, R. Juristische Methodik: Vol. 1: Grundlagen für die Arbeitsmethoden der Rechtspraxis. 11. ed. Duncker & Humblot, 2013.
PAYANDEH, M. Judikative Rechtserzeugung. Mohr Siebeck, 2017.
POSCHER, R. Eingriffsschwellen im Recht der inneren Sicherheit. Die Verwaltung, v. 41, n. 3, p. 345 et seq., 2008.
PRELL, L. [Seção 35a]. In: Beck’scher Online-Kommentar Verwaltungsverfahrensgesetz. 39. ed. 2018.
RADEMACHER, T. Wenn neue Technologien altes Recht durchsetzen: Dürfen wir es unmöglich machen, rechtswidrig zu handeln? Juristenzeitung, v. 74, n. 14, p. 702 et seq., 2019.
RAHWAN, I. et al. Machine Behaviour. Nature, 568, 7753, p. 477 et seq., 2019.
RAMGE, T.; MAYER-SCHÖNBERGER, V. Das Digital: Markt, Wertschöpfung und Gerechtigkeit im Datenkapitalismus. Econ, 2017.
RITTER, N. Predicting Recidivism Risk: New Tool in Philadelphia Shows Great Promise. National Institute of Justice Journal, n. 271, p. 4 et seq., 2013.
RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach. Pearson Higher Education, 2016.
SCHULZ, M. R.; SCHUNDER-HARTUNG, A (ed.). Recht 2030: Legal Management in der digitalen Transformation. Fachmedien Recht und Wirtschaft, dfv Mediengruppe, 2019.
SCHULZ, W.; DANKERT, K. Die Macht der Informationsintermediäre. Friedrich-Ebert-Stiftung, 2016.
SECKELMANN, M. (ed.). Digitalisierte Verwaltung: Vernetztes E-Government. 2. ed. Erich Schmidt Verlag, 2019.
SIEGEL, T. Automatisierung des Verwaltungsverfahrens. Deutsches Verwaltungsblatt, v. 132, n. 1, p. 24 et seq., 2017.
STALDER, F. Kultur der Digitalität. Suhrkamp, 2016.
SURDEN, H. Machine Learning and Law. Washington Law Review, v. 89, n. 1, p. 87 et seq., 2014.
SUSSKIND, R. The End of Lawyers? Rethinking the Nature of Legal Services. Oxford University Press, 2010.
SUSSKIND, R. Tomorrow’s Lawyers: An Introduction to Your Future. 2. ed. Oxford University Press, 2017.
TENE, O.; POLONETSKY, J. Big Data for All: Privacy and User Control in the Age of Analytics. Northwestern Journal of Technology and Intellectual Property, v. 11, n. 5, p. 239 et seq., 2013.
TENE, O.; POLONETSKY, J. Taming the Golem: Challenges of Ethical Algorithmic Decision-Making. North Carolina Journal of Law & Technology, v. 19, n. 1, p. 125 et seq., 2017.
TISCHBIREK, A. Artificial Intelligence and Discrimination: Discriminating Against Discriminatory Systems. Springer, 2020.
TOBSCHALL, D.; KEMPE, J. Der deutsche Legal-Tech-Markt. In: BREIDENBACH, S.; GLATZ, F. (ed.). Rechtshandbuch Legal Tech. CH Beck, 2018.
TUTT, A. An FDA for Algorithms. Administrative Law Review, v. 69, n. 1, p. 83 et seq., 2017.
WAGNER, J. Legal Tech und Legal Robots. 1. ed. Springer Gabler, 2018.
WAGNER, J. Legal Tech und Legal Robots. 2. ed. Springer Gabler, 2020.
WEBER, P. Dilemmasituationen beim autonomen Fahren. Neue Zeitschrift für Verkehrsrecht, v. 29, n. 6, p. 249 et seq., 2016.
WIEGERLING, K. Daten, Informationen, Wissen. In: BREIDENBACH, S.; GLATZ, F. (ed.). Rechtshandbuch Legal Tech. CH Beck, 2018.
WISCHMEYER, T. Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts, v. 143, n. 1, p. 1 et seq., 2018.
WISCHMEYER, T.; RADEMACHER, T. (ed). Regulating Artificial Intelligence. Springer, 2020.
ASHLEY, K. D. Artificial Intelligence and Legal Analytics: New Tools for Law Practice in the Digital Age. Cambridge University Press, 2017.
BECKER, M. Von der Freiheit, rechtswidrig handeln zu können. Zeitschrift für Urheber- und Medienrecht, v. 63, n. 8/9, p. 636 et seq., 2019.
BERGER, A. Der automatisierte Verwaltungsakt. Neue Zeitschrift für Verwaltungsrecht, v. 17, p. 1.260 et seq., 2018.
BERNHARDT, W. Quo vadis Digitalisierung der Justiz? Juris, n. 8/9, p. 310 et seq., 2018.
BOTZDAG, E. Bias in Algorithm Filtering and Personalization. Ethics and Information Technology, v. 15, p. 209 et seq., 2013.
BOUNFOUR, A. Digital Futures, Digital Transformation. Springer, 2016.
BRAUN BINDER, N. Vollständig automatisierter Erlass eines Verwaltungsaktes und Bekanntgabe über Behördenportale. Die Öffentliche Verwaltung, v. 21, p. 891 et seq., 2016.
BREIDENBACH, S.; GLATZ, F. (ed). Rechtshandbuch Legal Tech. CH Beck, 2018.
BULL, H. P. Der “vollständig automatisiert erlassene” Verwaltungsakt – zur Begriffsbildung und rechtlichen Einhegung von E-Government. Deutsches Verwaltungsblatt, v. 132, n. 7, p. 409 et seq., 2017.
BUMKE, C. Rechtsdogmatik: Eine Disziplin und ihre Arbeitsweise. Zugleich eine Studie über das rechtsdogmatische Arbeiten Friedrich Carl von Savignys. Mohr Siebeck, 2017.
BUNDESMINISTERIUM für Verkehr und digitale Infrastruktur. E.-KauvF, Report, jun. 2017.
BUNDESREGIERUNG. Digitale Verwaltung. 18/3074, BTDrucks, 2014.
COLE, T. Digitale Transformation. 2. ed. Vahlen, 2017.
DANAHER, J. The Threat of Algocracy: Reality, Resistance and Accommodation. Philosophy and Technology, v. 29, n. 3, p. 245 et seq., 2016.
DANKERT, K. Normative Technologie in sozialen Netzwerkdiensten. Kritische Vierteljahresschrift für Gesetzgebung und Rechtswissenschaft, v. 98, n. 1, p. 49 et seq., 2015.
DJEFFAL, C. Das Internet der Dinge und die öffentliche Verwaltung – Auf dem Weg zum automatisierten Smart Government? Deutsches Verwaltungsblatt, v. 132, n. 13, p. 808 et seq., 2017.
DUWE, G.; ROCQUE, M. Effects of Automating Recidivism Risk Assessment on Reliability, Predictive Validity, and Return on Investment (ROI). Criminology & Public Policy, v. 16, n. 1, p. 235 et seq., 2017.
ENDERS, P. Einsatz künstlicher Intelligenz bei juristischer Entscheidungsfindung. JA, p. 721 et seq., 2018.
ERTEL, W. Grundkurs Künstliche Intelligenz. 4. ed. Springer Vieweg, 2016.
ESCHENBRUCH, K. Smart Contracts. Neue Zeitschrift für Baurecht und Vergaberecht, p. 3 et seq., 2018.
FACT SHEET: Counting as a Human Being in the Era of Computational Law. European Commission, 2017. Disponível em https://cordis.europa.eu/project/id/788734.
FINCK, M. Blockchains: Regulating the Unknown. German Law Journal, v. 19, n. 4, p. 665 et seq., 2018.
GOODFELLOW, I.; BENGIO, Y.; COURVILLE, A. Deep Learning (Adaptive Computation and Machine Learning). The MIT Press, 2016.
HARTUNG, M.; BUES, M.-M.; HALBLEIB, G. (ed). Legal Tech: Die Digitalisierung des Rechtsmarkts. CH Beck/Vahlen, 2018.
HECKELMANN, M. Zulässigkeit und Handhabung von Smart Contracts. Neue Juristische Wochenschrift, p. 504 et seq., 2018.
HEROLD, V. Algorithmisierung von Ermessensentscheidungen durch Machine Learning. In: TAEGER, J. (ed.). Rechtsfragen digitaler Transformation – Gestaltung digitaler Veränderungsprozesse çdurch Recht. OlWIR Verlag für Wirtschaft, Informatik und Recht, 2018.
HILDEBRANDT, M. Law as Computation in the Era of Artificial Legal Intelligence: Speaking Law to the Power of Statistics. University of Toronto Law Journal, v. 68, n. 1, p. 12 et seq., 2018.
HOEREN, T.; NIEHOFF, M. KI und Datenschutz – Begründungserfordernisse automatisierter Entscheidungen. Zeitschrift für rechtswissenschaftliche Forschung, v. 9, n. 1, p. 47 et seq., 2018.
HOFFMANN-RIEM, W. Innovation und Recht – Recht und Innovation. Mohr Siebeck, 2016.
HOFFMANN-RIEM, W. Verhaltenssteuerung durch Algorithmen – eine Her- ausforderung für das Recht. Archiv des öffentlichen Rechts, v. 142, n. 1, p. 1 et seq., 2017.
JOST, D.; KREMPE, J. E-Justice in Deutschland. Neue Juristische Wochenschrift, v. 70, n. 38, p. 2705 et seq., 2017.
KAULARTZ, M. Rechtliche Grenzen bei der Gestaltung von Smart Contracts. In: TAEGER, J. (ed.). Smart World – Smart Law? Weltweite Netze mit regionaler Regulierung. Ol-WIR Verlag für Wirtschaft, Informatik und Recht, 2016.
KEESE, C. Silicon Germany: Wie wir die digitale Transformation schaffen. Albrecht Knaus, 2017.
KIRN, S.; MÜLLER-HENGSTENBERG, C. D. Intelligente “Software-Agenten”: Eine neue Herausforderung für unser Rechtssystem? Multimedia & Recht, p. 307 et seq., 2014.
KITCHIN, R. Thinking Critically About and Researching Algorithms. Information, Communication and Society, v. 20, n. 1, p. 14 et seq., 2016.
KLAFKI, A.; WÜRKERT, F.; WINTER, T. (ed.). Digitalisierung und Recht. Bucerius Law School Press, 2017.
KLATT, M.; SCHMIDT, J. Spielräume im öffentlichen Recht. Mohr Siebeck, 2010.
KUNTZ, T. Recht als Gegenstand der Rechtswissenschaft und performative Rechtserzeugung. Archiv für die civilistische Praxis, v. 216, n. 6, p. 866 et seq., 2016.
LUHMANN, N. Funktion und Folgen formaler Organisation. 2. ed. Duncker & Humblot, 1972.
MARTINI, M.; NINK, D. Wenn Maschinen entscheiden ... – vollautomatisierte Verfahren und der Persönlichkeitsschutz. Neue Zeitschrift für Verwaltungsrecht - extra 1, v. 36, n. 10, p. 10 et seq., 2017.
MÜLLER, F.; CHRISTENSEN, R. Juristische Methodik: Vol. 1: Grundlagen für die Arbeitsmethoden der Rechtspraxis. 11. ed. Duncker & Humblot, 2013.
PAYANDEH, M. Judikative Rechtserzeugung. Mohr Siebeck, 2017.
POSCHER, R. Eingriffsschwellen im Recht der inneren Sicherheit. Die Verwaltung, v. 41, n. 3, p. 345 et seq., 2008.
PRELL, L. [Seção 35a]. In: Beck’scher Online-Kommentar Verwaltungsverfahrensgesetz. 39. ed. 2018.
RADEMACHER, T. Wenn neue Technologien altes Recht durchsetzen: Dürfen wir es unmöglich machen, rechtswidrig zu handeln? Juristenzeitung, v. 74, n. 14, p. 702 et seq., 2019.
RAHWAN, I. et al. Machine Behaviour. Nature, 568, 7753, p. 477 et seq., 2019.
RAMGE, T.; MAYER-SCHÖNBERGER, V. Das Digital: Markt, Wertschöpfung und Gerechtigkeit im Datenkapitalismus. Econ, 2017.
RITTER, N. Predicting Recidivism Risk: New Tool in Philadelphia Shows Great Promise. National Institute of Justice Journal, n. 271, p. 4 et seq., 2013.
RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach. Pearson Higher Education, 2016.
SCHULZ, M. R.; SCHUNDER-HARTUNG, A (ed.). Recht 2030: Legal Management in der digitalen Transformation. Fachmedien Recht und Wirtschaft, dfv Mediengruppe, 2019.
SCHULZ, W.; DANKERT, K. Die Macht der Informationsintermediäre. Friedrich-Ebert-Stiftung, 2016.
SECKELMANN, M. (ed.). Digitalisierte Verwaltung: Vernetztes E-Government. 2. ed. Erich Schmidt Verlag, 2019.
SIEGEL, T. Automatisierung des Verwaltungsverfahrens. Deutsches Verwaltungsblatt, v. 132, n. 1, p. 24 et seq., 2017.
STALDER, F. Kultur der Digitalität. Suhrkamp, 2016.
SURDEN, H. Machine Learning and Law. Washington Law Review, v. 89, n. 1, p. 87 et seq., 2014.
SUSSKIND, R. The End of Lawyers? Rethinking the Nature of Legal Services. Oxford University Press, 2010.
SUSSKIND, R. Tomorrow’s Lawyers: An Introduction to Your Future. 2. ed. Oxford University Press, 2017.
TENE, O.; POLONETSKY, J. Big Data for All: Privacy and User Control in the Age of Analytics. Northwestern Journal of Technology and Intellectual Property, v. 11, n. 5, p. 239 et seq., 2013.
TENE, O.; POLONETSKY, J. Taming the Golem: Challenges of Ethical Algorithmic Decision-Making. North Carolina Journal of Law & Technology, v. 19, n. 1, p. 125 et seq., 2017.
TISCHBIREK, A. Artificial Intelligence and Discrimination: Discriminating Against Discriminatory Systems. Springer, 2020.
TOBSCHALL, D.; KEMPE, J. Der deutsche Legal-Tech-Markt. In: BREIDENBACH, S.; GLATZ, F. (ed.). Rechtshandbuch Legal Tech. CH Beck, 2018.
TUTT, A. An FDA for Algorithms. Administrative Law Review, v. 69, n. 1, p. 83 et seq., 2017.
WAGNER, J. Legal Tech und Legal Robots. 1. ed. Springer Gabler, 2018.
WAGNER, J. Legal Tech und Legal Robots. 2. ed. Springer Gabler, 2020.
WEBER, P. Dilemmasituationen beim autonomen Fahren. Neue Zeitschrift für Verkehrsrecht, v. 29, n. 6, p. 249 et seq., 2016.
WIEGERLING, K. Daten, Informationen, Wissen. In: BREIDENBACH, S.; GLATZ, F. (ed.). Rechtshandbuch Legal Tech. CH Beck, 2018.
WISCHMEYER, T. Regulierung intelligenter Systeme. Archiv des öffentlichen Rechts, v. 143, n. 1, p. 1 et seq., 2018.
WISCHMEYER, T.; RADEMACHER, T. (ed). Regulating Artificial Intelligence. Springer, 2020.
Downloads
Publicado
2021-08-13
Como Citar
Hoffmann-Riem, W. (2021). Tecnologia jurídica/Direito computacional:: Precondições, Oportunidades e Riscos. Revista Brasileira De Direitos Fundamentais & Justiça, 15(44), 81–101. https://doi.org/10.30899/dfj.v15i44.1178
Edição
Seção
DOUTRINA ESTRANGEIRA
Licença
Para acesso ao conteúdo do periódico, favor entrar em contato com:
Editora Fórum
0800 704 3737
vendas@editoraforum.com.br
