Inteligência Artificial para Negócios - Inteligência Artificial, Romance Racista e Regulação
12 Maio, 2021
Há pelo menos três anos falo em minhas aulas e palestras sobre um lado sombrio da inteligência artificial: o viés de algoritmos. Temos decisões melhores porque prevemos com mais precisão, mas não necessariamente levamos em conta justiça, responsabilidade e transparência. Insisto que é um perigo negligenciado, especialmente no Brasil. A Europa está se mexendo e no último dia 21 de abril publicou uma proposta sobre regulação em inteligência artificial.
Inteligência artificial não é inteligente, pelo menos não na forma como nós entendemos "inteligência". Modelos preditivos de inteligência artificial são tão bons quanto os dados que usamos como base para criá-los, sendo que somos nós, humanos, que ajustamos os modelos.
A inteligência artificial, no final do dia, somos nós, humanos.
O melhor exemplo didático que eu criei foi sobre Monteiro Lobato, quando eu li pela primeira vez que em alguns anos teremos romances de ficção escritos por inteligência artificial (na verdade já até existem algumas iniciativas - veja aqui).
Monteiro Lobato era racista. E esta afirmação não é apenas porque ele usava termos como "Macaca de carvão", "Carne preta" e "Beiçuda" para se referir a Tia Anastácia no Sítio do Pica-Pau Amarelo. Em 2010 foram reveladas cartas em que Monteiro Lobato fazia elogios à KKK (Ku Klux Klan), seita supremacista branca que assassinava negros e judeus nos Estados Unidos. Ainda, Monteiro Lobato foi um dos membros da Sociedade Eugênica de São Paulo. Eugenia, também uma das bases da filosofia nazista, foi cunhada por Francis Galton, que a definia como o estudo dos agentes sob o controle social que podem melhorar ou empobrecer as qualidades raciais das futuras gerações, seja física ou mentalmente.
A polêmica sobre Lobato está nos holofotes há cerca de 10 anos, numa discussão sobre recolher ou não, das escolas públicas, o livro "As Caçadas de Pedrinho", em função de diversas referências racistas. Para nós, adultos com referência crítica, que temos repertório para entender o anacronismo da situação, é sem dúvida saudável ter acesso à obra de Monteiro Lobato e perceber como evoluímos nos últimos 100 anos como sociedade. Porém, e sobre os jovens? Será que vão ler Monteiro Lobato com supervisão adequada para contextualizar tal anacronismo?
Importante ressaltar que o assunto desta coluna não é a polêmica, que hoje é discutida já no âmbito do STF. O ponto central é o exemplo: se usarmos os livros de Monteiro Lobato para "alimentar" um modelo de inteligência artificial, não teremos outro resultado do que um romance racista, exatamente nos moldes que há 100 anos eram socialmente aceitos. E isto ocorre porque somos nós, humanos, que criamos os modelos. Eles serão tão bons quanto os dados que fornecermos a eles e como vamos calibrá-los em relação aos vieses que podem existir.
Um modelo de inteligência artificial não vai levantar a mão e perguntar se não deveríamos levar em conta toda a discussão que gira em torno da morte do norte-americano George Floyd; ele vai simplesmente processar os dados que a ele forem oferecidos. Inteligência artificial não faz julgamentos - é puramente matemático.
A regulação é importante para resolver este e outros problemas.
Regulação para inteligência artificial é um assunto tão importante quanto a aplicação da inteligência artificial em si. Estamos criando um monstro que poderá nos devorar. E não, não tem nada a ver com a questão dos empregos que serão eliminados ou substituídos. Não é automação, é algo muito mais profundo, principalmente porque é algo que se não estivermos atentos não iremos perceber.
Como mencionado acima, a Comunidade Europeia divulgou no último dia 21 de abril uma proposta ("Proposal for a Regulation laying down harmonised rules on artificial intelligence - Artificial Intelligence Act), que é mencionado como "o primeiro framework jurídico sobre inteligência artificial". A proposta impõe obrigações significativas com impacto nas empresas em todos os setores. Espera-se uma batalha legislativa que durará pelo menos até 2022, quando pretende-se divulgar o documento final.
No Brasil, este tema "conversa" diretamente com o artigo 20 da Lei Geral de Proteção de dados (LGPD) que trata das atividades de tratamento automatizadas. Que, diga-se de passagem, não é claro o que é nem como deve ser tratado, bem como está relevado para segundo plano já que muitas organizações, inclusive o governo, ainda está caminhando lentamente nos aspectos mais básicos da Lei.
Este artigo é uma introdução sobre o tema. Por ser assunto profundo pretendo me dedicar ao tema em diversos artigos no futuro breve. "Stay tuned!".
