Frankenstein no Século XXI

A Ciência tem inspirado em nós os melhores sonhos, mas também os piores medos. E não há, porventura, livro que melhor encarne estes medos do que Frankenstein, da não menos célebre Mary Shelley. No ano em que se celebram os 200 anos da sua edição, vale a pena refletir no conteúdo de um livro que nunca foi tão atual.

A personagem central é Victor Frankenstein, um cientista que dá vida, através da química e da alquimia, a uma criatura que veio ao mundo pela junção de partes de diferentes cadáveres humanos. A criatura ganha autonomia, emoções e sentimentos. Ao tentar integrar-se na sociedade, é rejeitada por todos, revoltando-se contra estes e procurando vingança.

Quando defendo que Frankenstein nunca foi tão atual como hoje, penso nos desenvolvimentos recentes na área da Inteligência Artificial (IA). Com frequência, os avanços notáveis a que temos assistido são-nos apresentados de forma sensacionalista, como a criatura de Frankenstein: um conjunto de partes (algoritmos, dados, modelos?) que, por processos tão pouco claros quanto os da alquimia, resultam numa “criatura” que virá a ganhar consciência, autonomia, objetivos e irá, também ela, virar-se contra o seu criador e tomar o controlo.

Não houve uma chamada de atenção mais notável para este problema do que uma carta aberta sobre os riscos da IA e a necessidade de regulação e controlo, publicada em 2015, e assinada por nomes como Hawking ou Musk. Preocupações semelhantes levaram a Comissão Europeia a constituir, recentemente, um grupo de 52 especialistas em IA com o objetivo de ajudar a definir a estratégia europeia neste domínio.

Pessoalmente, vim programado, "de fábrica”, para ser otimista. Ainda que nem sempre da melhor forma, vejo que resolvemos os problemas que, por vezes, enquanto espécie, nós próprios criámos. Contudo, tenho de admitir que nunca como hoje corremos o risco de que uma criação nossa ganhe, no mínimo, autonomia. Até recentemente, as nossas criações não representariam necessariamente um perigo, salvo por ação humana (veja-se a energia atómica). Já as criações da IA cedo ganham autonomia — evoluem, aprendem e adaptam-se muito mais rapidamente do que nós o fazemos, podendo até reproduzir-se.

Regressemos a 1818. Muitos dos que não leram Frankenstein julgam que este é o nome do monstro quando é de facto o do seu criador. Mas será que estão enganados? Não será o cientista, que não pesou as consequências dos seus atos, o verdadeiro monstro?

Talvez também hoje o monstro não seja a criatura, mas o criador: o cientista sem considerações éticas, a escola que não incute os valores humanistas no cientista que educa e, em última análise, todos nós quando não exigimos uma maior transparência e informação sobre os objetivos e contexto em que estes desenvolvimentos, em organismos públicos ou privados, ocorrem.

A IA é imprescindível para nós enquanto espécie. Resta-nos agora, enquanto criadores, tomar as rédeas da criatura e do processo de criação, antes que a criatura o faça.