Um grupo de pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) criaram uma espécie de inteligência artificial que apresenta diversos pensamentos psicopatas.

O IA é conhecido como Norman — ele ganhou esse nome em homenagem ao protagonista do clássico Psicose, de Alfred Hitchcock.

Para chegar a ter pensamentos cruéis e obscuros, os pesquisadores alimentaram a rede neural do IA com uma grande quantidade de dados perturbadores do Reddit, como imagens violentas de mortes.

Depois de alimentar a rede com várias fotos, eles submeteram Norman e mais um IA comum a um teste de Rorschach — aquele velho teste psicológico que mostra imagens aleatórias e pede para o indivíduo descrever o que vê.

E o IA psicopata apresentou respostas bem mais perturbadoras que o outro. Por exemplo, ele disse que via um homem sendo eletrocutado até sua morte quando apareceu uma imagem de simples pássaros em uma árvore. Veja essa e mais respostas tendenciosas da máquina:

De acordo com os pesquisadores, o objetivo do projeto não era simplesmente criar um IA aterrorizante — era para provar que os algoritmos não são os únicos culpados pelo comportamento da máquina. E, portanto, suas reações e respostas são controladas pelos dados de entrada inseridos pelos humanos.

A criação de Norman prova que os dados usados ​​para ensinar um algoritmo de aprendizado para uma máquina podem influenciar significativamente seu comportamento. Assim, quando as pessoas falam que os algoritmos de IA são tendenciosos e injustos, o culpado geralmente não é o algoritmo em si, mas os dados tendenciosos que foram alimentados a ele.

Por isso, os pesquisadores agora afirmam que a velha desculpa de “a culpa é do algoritmo” que muitos programadores usam, não vai mais colar.