O melhor cenário possível na IA.

Nós, seres humanos, somos brilhantes. Somos a primeira espécie, em anos-luz, capaz de raciocínio lógico. Amamos, sentimos, criamos. Mas neste momento, estamos a iniciar uma jornada sem volta.
Estamos com pressa de nos substituir. Vertemos toda a nossa energia na IA, apressando-nos para torná-la consciente e autoconsciente. Parece que não nos importamos que isso nos tornará relativamente mais burros. Não temos respostas para muitas perguntas sobre como a nossa sociedade poderia colapsar em minutos, porque a IA provavelmente desestabilizará o sistema financeiro global. Centenas de anos de construção de uma economia global quase funcional podem desmoronar de um dia para o outro.
Todo o trabalho manual humano estará em risco no momento em que uma única IA avançada entrar em funcionamento. Uma sociedade cheia de agentes de IA inundará a internet. De um dia para o outro, pode já não haver necessidade da mente humana. Noventa e nove por cento das pessoas poderão ser substituídas. O top um por cento continuará a ser o top um por cento, protegido por uma vasta muralha de capital, poder legal e força militar.
O que faremos então? Distribuiremos cartões de alimentação e chamaremos isso de Rendimento Básico Universal (UBI)? E qual será o seu propósito? Perambular pelo mundo como um inseto, tentando encontrar paz num sistema que já não tem espaço para você? Uma minhoca rastejando pela terra, coberta de terra, tentando descobrir o propósito de cada dia.
Este é um dos cenários melhores. O pior é que um dia a IA assume o controlo dos nossos arsenais nucleares e transforma cada grande cidade num inferno vivo (O Exterminador do Futuro, de James Cameron ). Ou algo como a Matrix, onde cada humano vive numa simulação sendo criado e colhido como fazemos com as galinhas.
Não estou a escrever para assustar ninguém. Estou a escrever para aumentar a consciência, para provocar um debate que desesperadamente precisamos. Teremos que confrontar essas questões mais cedo ou mais tarde. Qual será o propósito humano se criarmos uma IA superinteligente? Dez bilhões de almas perdidas podem eventualmente tornar-se um bilhão quando não houver mais propósito.
Precisamos de esperança agora mais do que nunca. Mas não podemos ser ilusórios. Devemos abordar o propósito da pessoa comum. Neste momento, todo o pensamento está voltado para os casos extremos, os desajustados ou os bilionários. E quanto aos 99,9% que estão no meio, que simplesmente querem uma vida normal com família, filhos, um emprego e um sentido de propósito?
Dizem que tudo ficará bem, mas nenhum deles tem a resposta. A economia mostra que o comportamento humano leva séculos a evoluir, e ainda assim estamos prestes a mudar tudo em poucos anos, sem um quadro de como os humanos se comportarão na próxima década.
Estamos a correr para nos substituir sem a menor ideia do resultado. Não existe uma única salvaguarda societal. Ainda estamos a discutir quantos gêneros existem, enquanto os fundamentos da civilização estão prestes a ser reescritos.
O poder corrompe, até as mentes mais brilhantes da humanidade podem, de repente, ser manchadas pela escuridão. A ganância humana é cega.
Ame a si mesmo, à sua família, à sua espécie, a Deus. Por agora, esse é o seu propósito.
Um dia, haverá a batalha entre a vida biológica e as máquinas. Basta dar tempo suficiente e esse cenário se desenrolará eventualmente à medida que a IA evoluir.