Pesquisadores criam IA com pensamentos psicopatas
IA se chama Norman, em homenagem ao protagonista de Psicose, e é alimentado por dados aterrorizantes do Reddit
Um grupo de pesquisadores do MIT (Instituto de Tecnologia de Massachusetts) criaram uma espécie de inteligência artificial que apresenta diversos pensamentos psicopatas.
O IA é conhecido como Norman — ele ganhou esse nome em homenagem ao protagonista do clássico Psicose, de Alfred Hitchcock.
Para chegar a ter pensamentos cruéis e obscuros, os pesquisadores alimentaram a rede neural do IA com uma grande quantidade de dados perturbadores do Reddit, como imagens violentas de mortes.
Depois de alimentar a rede com várias fotos, eles submeteram Norman e mais um IA comum a um teste de Rorschach — aquele velho teste psicológico que mostra imagens aleatórias e pede para o indivíduo descrever o que vê.
E o IA psicopata apresentou respostas bem mais perturbadoras que o outro. Por exemplo, ele disse que via um homem sendo eletrocutado até sua morte quando apareceu uma imagem de simples pássaros em uma árvore. Veja essa e mais respostas tendenciosas da máquina:
De acordo com os pesquisadores, o objetivo do projeto não era simplesmente criar um IA aterrorizante — era para provar que os algoritmos não são os únicos culpados pelo comportamento da máquina. E, portanto, suas reações e respostas são controladas pelos dados de entrada inseridos pelos humanos.
A criação de Norman prova que os dados usados para ensinar um algoritmo de aprendizado para uma máquina podem influenciar significativamente seu comportamento. Assim, quando as pessoas falam que os algoritmos de IA são tendenciosos e injustos, o culpado geralmente não é o algoritmo em si, mas os dados tendenciosos que foram alimentados a ele.
Por isso, os pesquisadores agora afirmam que a velha desculpa de “a culpa é do algoritmo” que muitos programadores usam, não vai mais colar.
