UNO Novembro 2019

A singulariedade de Castellio

Os filósofos e os grandes humanistas foram magníficos consiglieri. Os seus conselhos baseavam-se no seu vasto conhecimento de diversas disciplinas e num profundo sentido da responsabilidade. A ética e a serenidade do cargo levaram-os muitas vezes a amargos confrontos morais, que chegaram a pagar com a própria vida, como aconteceu como no caso de Séneca com Nero.

Para aconselhar é preciso uma consciência livre aberta ao conhecimento e à aprendizagem. Este modelo de comportamento e responsabilidade foi o que adotou, durante a sua atribulada existência, o perseguido Sebastián Castellio (provavelmente, o primeiro humanista da história). Na Genebra do século XVI, este esquecido professor universitário enfrentou-se a todos os teólogos do seu tempo, qualificando Miguel Servet como vítima inocente, e Juan Calvino como verdugo dogmático de uma fé cega e reformista. Rejeitou todos os argumentos de Calvino com as suas imortais palavras: “matar um homem não é defender uma doutrina, mas simplesmente matar um homem”. Assessor de vários nobres suíços, este humilde humanista proclamou o direito à liberdade de consciência: “buscar e dizer a verdade, tal como um a pensa, não pode ser nunca um delito. Ninguém deve ser obrigado a acreditar. A consciência é livre”.

Atualmente, considera-se que a filosofia não afeta o dia-a-dia de científicos e tecnólogos, mas o mundo que rodeia estes profissionais está cheio de questões éticas e morais, que influem diretamente no que fazem. Os feitos científicos não são opináveis, mas a sua transcendência sim.

“Precisamos definir o que queremos ser e não o que podemos ser. Devemos pôr-nos de acordo sobre como usar a tecnologia para o bem comum, e não apenas para obter benefícios e crescimento”

Durante o século XX, a maior parte dos filósofos que abordaram a tecnologia foram críticos com o seu impacto na humanidade (Heidegger, Ellul, Arendt ou Gehlen). Por outro lado, nas últimas décadas, deu-se uma viragem de 180 graus nos filósofos do ‘trans-humanismo’, convertidos em adeptos da tecnologia.

Pero regressemos por um instante à importância da Liberdade de Consciência, introduzida por Sebastian Castellio. A liberdade, do latim libertas, -ātis, em sentido amplo, é a capacidade da consciência para pensar e obrar de acordo com a própria vontade do indivíduo. Da liberdade chegamos ao livre arbítrio, ou livre escolha, como a crença daquelas doutrinas filosóficas segundo as quais as pessoas têm o poder de escolher e de tomar as suas próprias decisões. O livre arbítrio diferencia-se da liberdade na medida em que inclui a potencialidade de obrar ou não obrar.

E novamente, como com Castellio, chocamos com Juan Calvino, que divulgou a ideia de que Deus, omnipotente, decidiu quem seria salvo antes da Criação, como está escrito no “Sínodo de Dort”. Os calvinistas negaram o livre arbítrio, concluindo que a vontade do homem, que não é dono dos seus próprios atos, está rigidamente predeterminada em todas as suas opções, ao longo da sua vida. Como aconteceu com Calvino, os Deterministas mantiveram sempre que todas as ações humanas estão predeterminadas, e que, por isso, a liberdade é uma ilusão. Procuraram sempre explicar os fenómenos naturais através das matemáticas, dando assim lugar à crença de que tudo no Universo é previsível, se conhecermos as condições iniciais. Parece que desde há séculos que estavam à espera da Inteligência Artificial (IA).

Mas seremos capazes de criar uma máquina que imite o cérebro humano, e de dotar a IA da capacidade de livre arbítrio? Existem duas posturas confluentes: a) uma que afirma que é possível que funções mentais, como a consciência ou o livre arbítrio, se desenvolvam de uma forma não computável (não algorítmica) o que impediria que o pudéssemos copiar com os conhecimentos atuais. b) A outra afirma que não existe nada no livre arbítrio que não possamos copiar. Chegou-se mesmo a propor uma versão do “Teste de Turing Moral” e pensa-se que os algoritmos atuais têm menos problemas para superar este teste ético que o “Turing” original. Nesse caso, a IA poderia tomar decisões como nós, ou mesmo melhor do que nós.

Num excelente artigo de Rebeca Yanke n jornal El Mundo, o futurista alemão Gerd Leonhard afirmava: “precisamos de definir o que queremos ser e o que não podemos ser. Devemos pôr-nos de acordo sobre como usar a tecnologia para o bem comum, e não apenas para obter benefícios e crescimento. A IA, a manipulação do genoma, a nanotecnologia e a engenharia climática são as quatro áreas de preocupação em que pode dar-se uma corrida armamentista que poderia derivar numa situação impossível de solucionar.”

Surgem muitas questões sobre o nosso futuro tecnológico-humanista. Sabendo que o processo de decisão é programável, quem decide o que decide um algoritmo, que ética devemos programar com supervisão, e quem devem ser os responsáveis identificáveis que codificam a sub-rotina ética? E se colocamos estas questões ao nível da governação dos grupos empresariais, poderá a IA tomar decisões que comprometam a sustentabilidade da companhia? Poderemos construir um sistema jurídico baseado na IA neutra?

O catedrático de Física Quântica, José Ignacio Latorre, no seu livro Ética para las máquinas, explica-nos a singularidade tecnológica: “se construímos Inteligências Artificiais cada vez mais potentes e autónomas, chegará um momento em que um algoritmo poderá melhorar-se a si mesmo… Cada IA desenhará a seguinte, que será ainda melhor do que ela mesma. Esse processo reiterativo continuará a avançar de maneira imparável, para uma inteligência brutal”. Teremos alcançado a Singularidade, e criado uma Inteligência Superior Única.

Dotaremos de liberdade as máquinas e aceitaremos as suas decisões, embora não as compreendamos? Penso que, perante um futuro dogmatismo calvinista de uma Inteligência Superior Única, só nos resta recuperar a “Singularidade” de Sebastian Castellio, e como bons consiglieri, preservar a Liberdade de Consciência e não confiar a nossa humanidade apenas à algoritmia.

Goyo Panadero
Diretor de BMC e Membro do Comité Executivo de EY España
Diretor de BMC (Brand, Marketing y Communications) e Membro do Comité Executivo de EY España. Membro do Conselho Assessor de LLYC. Conta com uma dilatada experiência profissional no mundo da comunicação de grandes multinacionais. Liderou a Direção Global de Comunicação e Reputação Corporativa de Deloitte, Ferrovial e BBVA. Em 2013 fundou Impossible Tellers, uma pequena firma de consultoria, onde centrou a sua carreira profissional na investigação da liderança dos altos diretivos e na narrativa transmedia. Em outubro de 2015, incorporou-se a LLYC como Sócio e Diretor Geral para Espanha e Portugal.

Artigos publicados na UNO

Queremos colaborar com você

Qual o seu desafio?

Quer fazer parte da nossa equipe?

Quer que a LLYC participe do seu próximo evento?