A automação de decisões por sistemas computacionais de inteligência artificial baseadas em processamento de linguagem natural (PLN)
Problemas interpretativos e suas repercussões nos direitos da personalidade
Keywords:
Artificial Intelligence, Natural Language, Personality RightsAbstract
The text addresses interpretative issues related to the automation of decisions by computational systems based on artificial intelligence, which, when employing natural language processing technologies, may impact personality rights. Through a critical approach, the text seeks to understand the consequences and risks that these technologies may pose, as such advances should not come at the expense of individual freedom and equality, or those of specific social groups. Automated decisions will only be compatible with our legal system if they can be audited, explained, and, if necessary, reviewed, ensuring the accountability of the agents who develop these computational systems.
Downloads
References
A HISTORY OF AI. Uma História da Inteligência Artificial - Da civilização antiga aos dias atuais. Disponível em https://ahistoryofai.com/antiquity/ Acesso em: 11 abr. 2023.
ACM - Association for Computing Machinery US Public. Statement on Algorithmic Transparency and Accontability. 2017. Disponível em: https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf. Acesso em: 22 abr. 2023.
A DIFERENÇA entre ouvir e escutar. Disponível em: https://procuradaela.org.br/pdfarquivo/A-DIFEREN%C3%87A-DE-OUVIR-E-ESCUTAR.pdf. Acesso em: 23 abr. 2023.
ARISTÓTELES. A Política. São Paulo: Folha de São Paulo, 2010. Disponível em: https://edisciplinas.usp.br/pluginfile.php/5321178/mod_resource/content/2/aristoteles-a-politica-livro-i.pdf. Acesso em: 11 abr. 2023.
BBC. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. 2016. Disponível em: https://www.bbc.com/portuguese/brasil-37677421. Acesso em: 16 abr. 2023.
BRASIL. Lei Geral de Proteção De Dados. Lei nº 13.709, de 14 de agosto de 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 22 abr. 2023.
BRASIL. Marco Civil da Internet. Lei nº 12.965, de 23 de abril de 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 22 abr. 2023.
BRASIL. Senado Federal. Projeto de Lei n. 21 de 2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Disponível em https://www25.senado.leg.br/web/atividade/materias/-/materia/151547. Acesso em: 22 abr. 2023.
CASTELLS, Manuel. 1942 – A sociedade em rede. Tradução de Roneide Venancio Majer. 24. edição. Rio de Janeiro: Paz e Terra, 2022.
CAVALCANTE, Mantovanni Colares. Frases sem Texto: A utilização de precedentes a partir de ementas. In: CARVALHO, Paulo de Barros (Coord.). Priscila de Souza (org.). Texto e Contexto no Direito Tributário. São Paulo: Editora Noeses, 2020. p. 881 - 895
DASCAL, Marcelo. Interpretação e compreensão. Tradução de Márcia Heloisa Lima da Rocha. São Leopoldo: Editora Unisinos, 2006.
DONEDA, Danilo Cesar Maganhoto et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar Revista de Ciências Jurídicas, Fortaleza, v. 23, n. 4, p. 1-17, out./dez. 2018. Disponível em: https://ojs.unifor.br/rpen/article/view/8257/pdf. Acesso em: 16 abr. 2023.
DUARTE, A.; NEGÓCIO, R. de V. Todos são iguais perante o algoritmo? Uma resposta cultural do direito à discriminação algorítmica. Direito Público, v. 18, n. 100, 2022. Disponível em: www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5869. Acesso em: 16 abr. 2023.
FT. UK regulators warn banks on use of AI in loan applications. Disponível em: https://www.ft.com/content/e24c93b8-85e6-4002-afdd-dd650a274f16. Acesso em: 16 abr. 2023.
GRECIANTIGA. Minos, Pasífae e o Minotauro. Disponível em https://greciantiga.org/arquivo.asp?num=0653 Acesso em: 11 abr. 2023.
IBM. Read how explainable AI benefits production AI. 2023. Disponível em: https://www.ibm.com/watson/explainable-ai. Acesso em: 23 abr. 2023.
LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2 ed. São Paulo: Editora Juspodivm, 2022.
MACCARTHY, Jonh et al. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Disponível em: http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf. Acesso em: 18 abr. 2023.
MITOLOGIA. O mito de Pandora (e a origem da Caixa de Pandora). Disponível em: https://www.mitologia.pt/o-mito-de-pandora-e-a-origem-da-caixa-49535. Acesso em: 11 abr. 2023.
NETFLIX. Learning how to entertain the world. 2023. Disponível em: https://research.netflix.com/research-area/machine-learning. Acesso em: 16 abr. 2023.
NOGUEIRA, Pedro Henrique Pedrosa. Os limites linguístico-legislativos da discricionariedade judicial. Revista de informação legislativa, Brasília, v. 46, n. 181, jan./mar. 2009.
OPENAI. GPT-4. 2023. Disponível em https://openai.com/research/gpt-4. Acesso em: 22 abr. 2023.
OPENAI. What is ChatGPT? 2023. Disponível em https://help.openai.com/en/articles/6783457-what-is-chatgpt. Acesso em: 13 fev. 2023.
PEREIRA, Silvio do Lago. Processamento de Linguagem Natural. Disponível em: https://www.ime.usp.br/~slago/IA-pln.pdf. Acesso em: 13 abr. 2023.
PINTO, Henrique Alves. A utilização da inteligência artificial no processo de tomada de decisões: Por uma necessária accountability. Disponível em https://www12.senado.leg.br/ril/edicoes/57/225/ril_v57_n225_p43.pdf. Acesso em: 22 abr. 2023.
SANTOS, Coriolano Aurélio Camargo; PERES, João Roberto. Chat GPT-4 mentiu? Será a IA o começo do nosso fim? Disponível em: https://www.migalhas.com.br/coluna/direito-digital/384041/chat-gpt-4-mentiu-sera-a-ia-o-comeco-do-nosso-fim. Acesso em: 22 abr. 2023.
SCHWAB, Klaus A quarta revolução industrial. Tradução de Daniel Moreira Miranda. São Paulo: Edipro, 2016.
STATNEWS. How insurance companies use AI algorithms to cut health care for seniors on Medicare Advantage. Disponível em: https://www.statnews.com/2023/03/13/medicare-advantage-plans-denial-artificial-intelligence/. Acesso em: 16 abr. 2023.
STRECK, Lênio Luiz. Hermenêutica, analítica e argumentação: distintas visões sobre a discricionariedade judicial. Novos Estudos Jurídicos, Itajaí (SC), v. 25, n. 2, p. 371-387, 2020. Disponível em: https://periodicos.univali.br/index.php/nej/article/view/16910. Acesso em: 22 abr. 2023.
UOL. Minority Report virou realidade? Algoritmo prevê crimes uma semana antes. 2022. Disponível em: /www.uol.com.br/tilt/noticias/redacao/2022/07/01/minority-report-algoritmo-preve-crimes-com-uma-semana-de-antecedencia.htm. Acesso em: 16 abr. 2023.
VALE, Luís Manoel Borges do. A tomada de decisão por máquinas: a proibição, no direito, de utilização de algoritmos não supervisionados. In: NUNES, Dierle; LUCON, Paulo Henrique Santos; WOLKART, Erik Navarro (org.). Inteligência artificial e direito processual: os impactos da virada tecnológica no direito processual. 3. ed. Salvador: Editora JusPodivm, 2020. p. 819-833
WARAT, Luis Alberto. O direito e sua linguagem. Porto Alegre: S. A. Fabris, 1995.
WOLKART, Erik Navarro. Análise econômica do processo civil: como a economia, o direito e a psicologia podem vencer a tragédia da justiça. São Paulo: Thomson Reuters Brasil, 2019.
