Confiando na inteligência artificial
A necessidade de uma trustworthy AI
Palavras-chave:
Inteligência Artificial, Tomada de Decisão Algorítmica, Trustworthy AI, Governança Digital, ÉticaResumo
O presente trabalho faz parte de um estudo maior sobre contestação de decisões tomadas por sistemas de IA e aborda a necessidade de se poder confiar nos sistemas de Inteligência Artificial (IA), que estão cada vez mais se tornando usuais, enfatizando a importância de uma “Trustworthy AI”. Centrando-se em componentes que garantem a confiabilidade desses sistemas, são abordados aspectos como os princípio do Ser humano como centro, respeito à autonomia humana, prevenção de danos que podem advir do uso dos sistemas de IA, a equidade, as dificuldades e os desafios da transparência e da explicabilidade dos sistemas de “caixa-preta” e a real possibilidade de prestação de contas e accountability. O principal método utilizado foi o de revisão bibliográfica e materiais nacionais e internacionais.
Downloads
Referências
ALMEIDA NETO, Amaro Alves de. Dano existencial e tutela da dignidade da pessoa humana. Revista de Direito Privado, [s.l.], v. 6, n. 24, p. 21-53, out./dez. 2005.
ANANNY, Mike; CRAWFORD, Kate. Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New media & society, [s.l.], v. 20, n. 3, 2018.
ASSOCIATION FOR COMPUTING MACHINERY (ACM). Code of Ethics and Professional Conduct. 2018. Disponível em: https://www.acm.org/code-of-ethics. Acesso em: 02 fev. 2024.
BIONI, Bruno Ricardo; LUCIANO, Maria. O Princípio da precaução na regulação de inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada? 2019. Disponível em: https://brunobioni.com.br/home/wp-content/uploads/2019/09/Bioni-Luciano_O-PRINCI%CC%81PIO-DA-PRECAUC%CC%A7A%CC%83O-PARA-EGULAC%CC%A7A%CC%83O-DE-INTELIGE%CC%82NCIA-ARTIFICIAL-1.pdf. Acesso em: 10 set. 2023.
CITRON, D. K.; PASQUALE, F. A. The Scored Society: Due Process for Automated Predictions. Washington Law Review, n. 1, p. 2-27, jan 2014. Disponível em: https://digitalcommons.law.umaryland.edu/fac_pubs/1431/. Acesso em: 04 fev. 2024.
COMMINGS, Mary. Supervising automation: humans on the loop - Aero-Astro Magazine Highlight. Massachusetts: MIT Department of Aeronautics and Astronautics, 2008. Disponível em: http://web.mit.edu/aeroastro/news/magazine/aeroastro5/cummings.html. Acesso em: 02 fev. 2024
DIVINO, S. B. S.; MAGALHÃES, R. A. Inteligência Artificial e Direito Empresarial: Mecanismos de Governança Digital para Implementação e Confiabilidade. Revista dos Tribunais online, v. 1021, p. 191-212, nov. 2020.
DOURADO, Daniel de Araújo; AITH, Fernando Mussa Abujamra. A regulação da inteligência artificial na saúde no Brasil começa com a Lei Geral de Proteção de Dados Pessoais. Revista Saúde Pública, [s.l.], v. 56, n. 80. 2022. Disponível em: https://www.scielo.br/j/rsp/a/k38jGvJdbQSYN4MpzGZpfXw/?format=pdf&lang=pt. Acesso em: 3 mar. 2024.
EPRS (EUROPEAN PARLIMENT RESEARCH SERVICE). A governance framework for algorithmic accountability and transparency. Disponível em: https://www.europarl.europa.eu/RegData/etudes/STUD/2019/624262/EPRS_STU(2019)624262_EN.pdf. Acesso em: 10 out 2023.
EUROPEAN ECONOMIC AND SOCIAL COMMITTEE - EESC. Artificial Intelligence: Europe needs to take a human-in-command approach. Disponível em https://view.officeapps.live.com/op/view.aspx?src=https%3A%2F%2Fwww.eesc.europa.eu%2Fsites%2Fdefault%2Ffiles%2Fresources%2Fdocs%2Fcp-27-artificial-intelligence.docx&wdOrigin=BROWSELINK. Acesso em: 04 jan. 2024.
FUTURE OF LIFE INSTITUTE. Pause os Experimentos de IA Gigantes: uma Carta Aberta. Disponível em: https://80000horas.com.br/pause-os-experimentos-de-ia-gigantes-uma-carta-aberta-do-future-of-life-institute/. Acesso em: 02 fev. 2024.
GRGIĆ-HLAČA, Nina et al. Human Perceptions of Fairness in Algorithmic Decision Making: A Case Study of Criminal Risk Prediction. In: WWW 2018: The 2018 Web Conference, 2018. p. 903-912. Disponível em: https://doi.org/10.1145/3178876.3186138. Acesso em: 03 fev. 2024.
GRUPO DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL. Orientações éticas para uma IA de confiança. 2019. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai. Acesso em: 13 jan. 2024.
KNIGHT, Will. Forget Killer Robots. Disponível em: https://www.technologyreview.com/s/608986/forget-killer-robotsbias-is-the-real-ai-danger. Acesso em: 28 jan. 2024.
KROLL, Joshua A. et al. Accountable Algorithms. Forthcoming, Fordham Law Legal Studies Research Paper, v. 165, n. 2765268. University of Pennsylvania Law Review, 2017. Disponível em: https://ssrn.com/abstract=2765268. Acesso em: 05 fev. 2024.
OECD. Legal Instruments. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em: 13 jan. 2024.
WANG, Ge. Humans in the Loop: The Design of Interactive AI Systems. Stanford: Human-centered Artificial Intelligence, 2019. Disponível em: https://hai.stanford.edu/news/humans-loop-design-interactive-aisystems. Acesso em: 04 fev. 2024.
