Westworld (3ª temporada) e profecias auto realizadoras
(contém spoilers)
Westworld se passa em um parque de diversões do futuro onde os humanos, chamados de visitantes, são recepcionados por anfitriões, inteligências artificiais programadas para não machucarem nenhum ser vivo. (Tem um outro post contextualizando melhor aqui)
Na terceira temporada da série, depois da tão esperada revolução dos anfitriões, é possível observar que no mundo dos humanos as coisas são tão pré-determinadas como eram no parque de Westworld.
Havia sido criada a inteligência artificial Rehoboam com o objetivo de salvar a humanidade da destruição. A máquina previu diversos fins de mundo, sendo todos eles causados pela própria humanidade. Assim, o empresário Serak, que criou Rehoboam com o irmão, passou a vida tentando conter pequenas insurgências no mundo indicadas pela máquina.
Rehoboam conseguia indicar a personalidade, os problemas, predizer o futuro de cada pessoa e sua expectativa de vida com base em todas as suas escolhas anteriores e acontecimentos da vida, conseguindo inclusive indicar o motivo provável de morte.
Neste mundo, com base nestes dados, conseguiam de antemão verificar aqueles que seriam os excluídos, os que provavelmente trariam algum problema ou desordem. Aí entra o conceito de profecia autorealizadora ou autorealizável: Quando uma pessoa tem determinada expectativa sobre o comportamento de outro, isso faz com que a primeira pessoa aja de forma a confirmar a sua expectativa.
Na série, as pessoas consideradas excluídas permaneciam dessa maneira ao não receberem nenhum incentivo social. Pelo contrário, eram cada vez mais excluídas, pois com base no sistema não poderiam ascender em suas carreiras, teriam empregos sem muito futuro e seriam enviadas para guerra ou encaminhadas para o crime de forma a terem uma morte sem grandes repercussões.
Foi o que houve com Caleb, que foi abandonado na infância pela mãe esquizofrenica. Seu futuro estava todo pautado pelo Rehoboam e, por mais que tentasse melhorar de vida, nunca conseguiria. A IA previa que Caleb seria solitário e se mataria em 10 anos. Assim, nunca conseguia ser contratado em um cargo melhor, pois as empresas “sabiam” do seu futuro.
Caleb, ao se aliar com Dolores em sua revolução, buscou destruir a inteligência artificial para que os humanos tivessem alguma escolha, mesmo que isso significasse o fim.
As profecias autorrealizadoras estão em nossas vidas também; não precisamos de um cenário de ficção futurista para isso. Por exemplo, quando um professor(a) acredita que determinado aluno não tem possibilidade de aprender, ele pode deixar de investir no ensino daquele aluno, ignorando quando ele procurar ajuda, ou ensinando de maneira mais difícil para ele. Assim, sua análise se confirmará. E tudo isso acontece de forma incosnciente, não sendo uma ação deliberada.
Outro exemplo pode ocorrer nas relações amorosas – Um dos parceiros pode ter extremo medo do abandono e tornar-se pegajoso ou desconfiado, fazendo com que o outro se afaste. Assim, o primeiro confirma o abandono.
Não precisamos de uma inteligência artificial super avançada, capaz de registrar e analisar cada escolha pessoal, para prever que as expectativas de pessoas importantes sobre você podem ditar muita coisa no seu futuro.
Em tempos de grande poder das redes sociais, vale também questionar se já não estamos sendo de certa forma encaminhados para trajetos preestabelecidos, sem tanta escolha e liberdade assim.
A China estava trabalhando em um projeto de controle social nestes moldes:
Cabe buscar entender o impacto que as Inteligências Artificiais causarão no âmbito das subjetividades e nas questões sociais.