O filme Psicose (1960), de Alfred Hitchcock, é famoso pelo seu suspense e pela condição mental de Norman Bates, um assassino em série com distúrbios mentais. Graças ao sucesso estrondoso, e por ser um clássico de filmes de terror,  a série ” Bates Motel”, baseada em Psicose, foi produzida recentemente  e abordou com mais detalhes a doença de Norman, como ela progrediu, e a forma como ele enxergava o mundo sendo psicopata.

Inspirados pelo personagem, cientistas do Instituto de Tecnologia de Massachusetts (MIT), nos EUA, criaram uma inteligência artificial de nome ”Norman”. Mas a pergunta é:  criar uma inteligência artificial psicopata acrescenta em que? Para os cientistas, o propósito de criar uma tecnologia nessas condições é entender como os dados são capazes de influenciar na performance de um algoritmo. Para isso, ”Norman” foi submetido à informações  assustadoras da internet e imagens ”fortes” de pessoas morrendo, com o intuito de comprovar como os dados poderiam afetar seu software. O que, de fato, aconteceu.

A inteligência artificial foi capaz de analisar e entender fotografias, as descrevendo em textos. Dessa forma,  os cientistas colocaram ” Norman” em contato com uma série de borrões de tintas do Teste de Rorschach, normalmente aplicado para analisar a saúde mental e emocional dos pacientes no ramo da psicologia. A interpretação pessoal de cada um é o ponto de maior relevância do teste, já que as imagens apresentadas não são nítidas.

 

Resultado de imagem para INTELIGÊNCIA ARTIFICIAL

Inteligência artificial

Norman” e outra IA, treinada com imagens amigáveis,  fizeram o mesmo teste. A diferença de interpretação de cada software foi  gritante, mas o resultado já era esperado. Enquanto a outra inteligência artificial enxergava uma luva de beisebol,  ” Norman” considerou ter visto um homem sendo assassinado por uma arma de fogo. A pesquisa  comprovou, por fim, que os dados são mais importantes que o algoritmo, e que é necessário tomar cuidado com os riscos da inteligência artificial, caso dados tendenciosos sejam utilizados em algoritmos de aprendizado da máquina.

Por mais que a tecnologia esteja avançando e com tamanha rapidez, é imprescindível estabelecer certos limites e tomar precauções. No caso da IA, se algo der errado no processo e se as máquinas adquirirem uma consciência racista, preconceituosa e sexista, por exemplo, muito dificilmente a situação poderá ser revertida. ”Norman” foi essencial para provar um ponto: é necessário ter muito atenção aos dados utilizados nas máquinas, porque queremos conhecer apenas o Norman Bates fictício, não viver um filme de terror com máquinas psicopatas que não podemos controlar.