A automação de decisões por sistemas computacionais de inteligência artificial baseadas em processamento de linguagem natural (PLN)
Problemas interpretativos e suas repercussões nos direitos da personalidade
Palavras-chave:
Inteligência Artificial, Linguagem Natural, Direitos de PersonalidadeResumo
O texto versa sobre problemas interpretativos relacionados a automação de decisões por sistemas computacionais baseados em inteligência artificial que ao empregarem tecnologias baseadas em processamento de linguagem natural podem repercutir nos direitos da personalidade. Mediante postura crítica, busca-se compreender as consequências e os riscos que essas tecnologias podem causar, pois não se deve permitir que esses avanços venham à custa da liberdade e igualdade de indivíduos e/ou de determinados grupos sociais. Somente teremos decisões automatizadas compatíveis com nosso ordenamento jurídico se essas forem capazes de ser auditadas e explicadas e, se necessário, revistas, assegurando-se, se for o caso, a responsabilização dos agentes que desenvolvem esses sistemas computacionais.
Downloads
Referências
A HISTORY OF AI. Uma História da Inteligência Artificial - Da civilização antiga aos dias atuais. Disponível em https://ahistoryofai.com/antiquity/ Acesso em: 11 abr. 2023.
ACM - Association for Computing Machinery US Public. Statement on Algorithmic Transparency and Accontability. 2017. Disponível em: https://www.acm.org/binaries/content/assets/public-policy/2017_usacm_statement_algorithms.pdf. Acesso em: 22 abr. 2023.
A DIFERENÇA entre ouvir e escutar. Disponível em: https://procuradaela.org.br/pdfarquivo/A-DIFEREN%C3%87A-DE-OUVIR-E-ESCUTAR.pdf. Acesso em: 23 abr. 2023.
ARISTÓTELES. A Política. São Paulo: Folha de São Paulo, 2010. Disponível em: https://edisciplinas.usp.br/pluginfile.php/5321178/mod_resource/content/2/aristoteles-a-politica-livro-i.pdf. Acesso em: 11 abr. 2023.
BBC. Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA. 2016. Disponível em: https://www.bbc.com/portuguese/brasil-37677421. Acesso em: 16 abr. 2023.
BRASIL. Lei Geral de Proteção De Dados. Lei nº 13.709, de 14 de agosto de 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 22 abr. 2023.
BRASIL. Marco Civil da Internet. Lei nº 12.965, de 23 de abril de 2014. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 22 abr. 2023.
BRASIL. Senado Federal. Projeto de Lei n. 21 de 2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências. Disponível em https://www25.senado.leg.br/web/atividade/materias/-/materia/151547. Acesso em: 22 abr. 2023.
CASTELLS, Manuel. 1942 – A sociedade em rede. Tradução de Roneide Venancio Majer. 24. edição. Rio de Janeiro: Paz e Terra, 2022.
CAVALCANTE, Mantovanni Colares. Frases sem Texto: A utilização de precedentes a partir de ementas. In: CARVALHO, Paulo de Barros (Coord.). Priscila de Souza (org.). Texto e Contexto no Direito Tributário. São Paulo: Editora Noeses, 2020. p. 881 - 895
DASCAL, Marcelo. Interpretação e compreensão. Tradução de Márcia Heloisa Lima da Rocha. São Leopoldo: Editora Unisinos, 2006.
DONEDA, Danilo Cesar Maganhoto et al. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar Revista de Ciências Jurídicas, Fortaleza, v. 23, n. 4, p. 1-17, out./dez. 2018. Disponível em: https://ojs.unifor.br/rpen/article/view/8257/pdf. Acesso em: 16 abr. 2023.
DUARTE, A.; NEGÓCIO, R. de V. Todos são iguais perante o algoritmo? Uma resposta cultural do direito à discriminação algorítmica. Direito Público, v. 18, n. 100, 2022. Disponível em: www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/5869. Acesso em: 16 abr. 2023.
FT. UK regulators warn banks on use of AI in loan applications. Disponível em: https://www.ft.com/content/e24c93b8-85e6-4002-afdd-dd650a274f16. Acesso em: 16 abr. 2023.
GRECIANTIGA. Minos, Pasífae e o Minotauro. Disponível em https://greciantiga.org/arquivo.asp?num=0653 Acesso em: 11 abr. 2023.
IBM. Read how explainable AI benefits production AI. 2023. Disponível em: https://www.ibm.com/watson/explainable-ai. Acesso em: 23 abr. 2023.
LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2 ed. São Paulo: Editora Juspodivm, 2022.
MACCARTHY, Jonh et al. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence. Disponível em: http://jmc.stanford.edu/articles/dartmouth/dartmouth.pdf. Acesso em: 18 abr. 2023.
MITOLOGIA. O mito de Pandora (e a origem da Caixa de Pandora). Disponível em: https://www.mitologia.pt/o-mito-de-pandora-e-a-origem-da-caixa-49535. Acesso em: 11 abr. 2023.
NETFLIX. Learning how to entertain the world. 2023. Disponível em: https://research.netflix.com/research-area/machine-learning. Acesso em: 16 abr. 2023.
NOGUEIRA, Pedro Henrique Pedrosa. Os limites linguístico-legislativos da discricionariedade judicial. Revista de informação legislativa, Brasília, v. 46, n. 181, jan./mar. 2009.
OPENAI. GPT-4. 2023. Disponível em https://openai.com/research/gpt-4. Acesso em: 22 abr. 2023.
OPENAI. What is ChatGPT? 2023. Disponível em https://help.openai.com/en/articles/6783457-what-is-chatgpt. Acesso em: 13 fev. 2023.
PEREIRA, Silvio do Lago. Processamento de Linguagem Natural. Disponível em: https://www.ime.usp.br/~slago/IA-pln.pdf. Acesso em: 13 abr. 2023.
PINTO, Henrique Alves. A utilização da inteligência artificial no processo de tomada de decisões: Por uma necessária accountability. Disponível em https://www12.senado.leg.br/ril/edicoes/57/225/ril_v57_n225_p43.pdf. Acesso em: 22 abr. 2023.
SANTOS, Coriolano Aurélio Camargo; PERES, João Roberto. Chat GPT-4 mentiu? Será a IA o começo do nosso fim? Disponível em: https://www.migalhas.com.br/coluna/direito-digital/384041/chat-gpt-4-mentiu-sera-a-ia-o-comeco-do-nosso-fim. Acesso em: 22 abr. 2023.
SCHWAB, Klaus A quarta revolução industrial. Tradução de Daniel Moreira Miranda. São Paulo: Edipro, 2016.
STATNEWS. How insurance companies use AI algorithms to cut health care for seniors on Medicare Advantage. Disponível em: https://www.statnews.com/2023/03/13/medicare-advantage-plans-denial-artificial-intelligence/. Acesso em: 16 abr. 2023.
STRECK, Lênio Luiz. Hermenêutica, analítica e argumentação: distintas visões sobre a discricionariedade judicial. Novos Estudos Jurídicos, Itajaí (SC), v. 25, n. 2, p. 371-387, 2020. Disponível em: https://periodicos.univali.br/index.php/nej/article/view/16910. Acesso em: 22 abr. 2023.
UOL. Minority Report virou realidade? Algoritmo prevê crimes uma semana antes. 2022. Disponível em: /www.uol.com.br/tilt/noticias/redacao/2022/07/01/minority-report-algoritmo-preve-crimes-com-uma-semana-de-antecedencia.htm. Acesso em: 16 abr. 2023.
VALE, Luís Manoel Borges do. A tomada de decisão por máquinas: a proibição, no direito, de utilização de algoritmos não supervisionados. In: NUNES, Dierle; LUCON, Paulo Henrique Santos; WOLKART, Erik Navarro (org.). Inteligência artificial e direito processual: os impactos da virada tecnológica no direito processual. 3. ed. Salvador: Editora JusPodivm, 2020. p. 819-833
WARAT, Luis Alberto. O direito e sua linguagem. Porto Alegre: S. A. Fabris, 1995.
WOLKART, Erik Navarro. Análise econômica do processo civil: como a economia, o direito e a psicologia podem vencer a tragédia da justiça. São Paulo: Thomson Reuters Brasil, 2019.
