Os resultados de uma pesquisa sobre uma IA 'do mal' deveriam ser publicados?

Que uma Inteligência Artificial pode ser criada com perfil psicótico nós já sabemos que é possível. Em um post anterior falamos sobre isso (leia aqui). Mas estudos científicos sobre essa tecnologia, que podemos nominá-la como "do mal", deveriam ser publicados para consulta de outros interessados nos seus resultados? Pois esta pergunta retórica foi feita a 5 especialistas em IA num recente congresso sobre o assunto em Praga: 

"Você publicaria seu white paper e diria ao mundo exatamente como criar essa força implacável do mal? Ou você solicitaria a patente para que mais ninguém (exceto você) pudesse trazer tal algoritmo à existência? Ou ainda você esconderia sua pesquisa, protegendo o mundo de sua criação, e perderia a oportunidade de receber uma soma enorme de dinheiro que certamente chegaria na esteira de tal descoberta?"

Eis as respostas:

Hava Siegelmann, Program Manager no DARPA: Sim

Justificativa: Ela acredita que não existe tecnologia ruim e sim pessoas ruins.

Irakle Eridze, Estrategista sênior e conselheiro na UNICRI, United Nations: Não

Justificativa: É preciso estabelecer marcos éticos e legais para desenvolvimento e disponibilização de Inteligência Artificial Geral (AGI, em inglês).

Alexey Turchin, Autor e finalista do "Solving the AI Race" do desafio GoodAI: Sim

Justificativa: Deveria haver um controle para que estas tecnologias não fossem usadas para propósitos ruins. Não deixou claro quais critérios poderia ser usados.

Tak Lo, sócio da Zeroth.ai, uma aceleradora que investe em startups de IA: Sim

Justifcativa: obviamente brincando com a plateia (que riu da resposta), disse que ele compraria esta ideia de uma startup, pois este é o seu negócio. Apesar da brincadeira, Lo disse que as tecnologias devem ser estimuladas e o capital privado sempre buscará isso. 

Seán Ó hÉigeartaigh, Diretor Executivo do Centro de Cambridge para o Estudo dos Riscos Existenciais: Não

Justificativa: "Você não simplesmente compartilha isso com o mundo! Você tem que pensar sobre o tipo de impacto que você terá", disse Seán.

Resultado: Sim 3, Não 2.

Este é um grande dilema ético interessante. Não será o único neste presente e futuro com inteligência artificial que convive conosco nas mais diversas formas. 

Leia mais sobre isso no Futurism.