A IA deve ser uma lupa, não um piloto automático

Há uma tentação óbvia com estas ferramentas, pedir-lhes que decidam por nós. E há um erro ainda mais subtil, que é deixá-las falar como se decidissem. Uma IA é, no fundo, um mecanismo estatístico, que entre outras coisas, pode prever a palavra seguinte. Não estabelece ligações históricas, não sente indignação, não questiona o poder. Isso continua a ser trabalho nosso. Quando alguém pergunta porque é que um Peugeot eléctrico de 1941 não deu em nada, não evoluiu consistentemente, ou porque é que ainda andamos com motores estúpidos, tão pouco inteligentes que dissipam 65 a 70% da energia do combustivel como há um século, está a fazer exactamente aquilo que a máquina não faz sózinha.

Há uma IA má e há uma IA ao serviço da humanidade, e a diferença não é técnica, é de atitude. A má dá respostas fechadas, apresenta-as como verdades definitivas e fecha o assunto. A outra mostra dados, confronta fontes, expõe contradições, e diz: aqui estão os factos, a decisão é sua. Um bom bibliotecário não escolhe os livros de que vamos gostar, entrega-nos os certos para que construamos a nossa própria tese. É essa a função que a tecnologia devia ter, nada mais.

A energia e a medicina já mostraram o caminho, e os desvios.
A mesma lógica que se aplica à energia eléctrica e ao hidrogénio aplica-se, ponto por ponto, à medicina e às telecomunicações.
Na medicina, temos IA capaz de diagnosticar cancros com uma precisão notável. Mas temos também algoritmos a negar seguros de saúde com base em estatísticas frias. A tecnologia ao serviço da humanidade amplia o acesso e personaliza o tratamento; a tecnologia ao serviço do lucro cria castas, onde quem paga mais tem acesso a melhor diagnóstico.

Nas telecomunicações a história repete-se. A internet devia ter sido a grande biblioteca de Alexandria do nosso tempo. Tornou-se, em vez disso, um território dominado por algoritmos que nos prendem em bolhas de confirmação para vender anúncios e políticas de duvidosa bondade. A tecnologia que liberta é a que nos dá ferramentas de verificação. A que nos prende num feed infinito faz exatamente o oposto.

O progresso humano não é tecnológico, é ético.
Aqui está o cerne da questão, e é aqui que a história dá razão a quem desconfia do determinismo tecnológico.

Do voo dos irmãos Wright ao desembarque na Lua passaram 66 anos, não porque tínhamos melhores motores. Chegou-se porque, décadas depois, houve uma decisão humana colectiva de que aquilo era um objectivo nobre, digno de investimento e de risco. O Peugeot VLV de 1941 não evoluiu para um carro eléctrico com mil quilómetros de autonomia, não por falta de ciência, mas porque decisões humanas, interesses petrolíferos, guerras, lobbies, colocaram outros objetcivos acima do bem comum.

O verdadeiro travão ao progresso nunca foi tecnológico. Foi sempre político e moral.

O que isto exige de nós
Manter viva esta ideia exige três atitudes práticas.

A primeira é a curiosidade activa: ir buscar dados de 1941 e cruzá-los com a alunagem, ligar factos que parecem distantes até se revelarem a mesma história contada duas vezes. A segunda é o cepticismo informado, que não desconfia por desconfiar, mas pergunta sempre quem ganha com esta tecnologia. A terceira é a participação cívica, porque a direcção da ciência decide-se nos orçamentos públicos, nas leis e nas eleições, não nos laboratórios.

A IA, a energia, a medicina, as telecomunicações, são meios. O fim é e será sempre o ser humano: a sua dignidade, a sua liberdade de pensar, a sua capacidade de se admirar diante do mundo.

Por isso vale a pena escrever sobre isto, falar disto, discuti-lo sem descanso. Uma humanidade que não decide o seu próprio rumo já foi substituída, não por máquinas, mas pela sua própria passividade.

E há, felizmente, quem não seja passivo