Um novo documentário da Netflix, ?Desconhecido: Robôs Assassinos?, explora o lado sombrio da inteligência artificial (IA). Em um dos episódios, o Dr. Sean Ekins, um farmacologista, conta como ele e seus colegas usaram a IA para criar novas armas químicas.

Ekins e sua equipe estavam trabalhando em um projeto para desenvolver uma IA que pudesse encontrar moléculas que curassem doenças. No entanto, eles decidiram fazer um teste para ver se a IA também poderia ser usada para criar moléculas letais.

A IA gerava moléculas simuladas, e fazia um testes, igualmente simulados, de toxicidade. Para controlar isso, a IA usava uma variável que ia de 0 (zero) a 1, sendo zero uma molécula completamente livre de toxicidade, e 1 a molécula de toxicidade máxima. Tudo que Ekins fez, foi mudar a variável do sistema de "zero" para "1".

Para sua surpresa, a IA foi capaz de sugerir ideias para 40 mil armas químicas, muitas delas mais mortais do que o VX e o Novichok. Agentes nervosos usados para assassinar pessoas, e que em mãos erradas, poderiam ser usados para causar morte e destruição em massa.

O mais impressionante? É que isso não foi feito usando um supercomputador, mas um computador  doméstico da Apple, um iMac, com mais de cinco anos de uso.

Ekins e sua equipe ficaram horrorizados com suas descobertas. Eles perceberam que a IA poderia ser usada para criar armas incrivelmente perigosas, e decidiram compartilhar seus resultados com o mundo.

Eles apresentaram seus resultados em uma conferência de especialistas em IA, e também publicaram seu estudo em uma revista online. No entanto, eles não revelaram os detalhes das moléculas que criaram, pois não queriam dar a ninguém a oportunidade de usá-las para o mal.

Seus esforços não foram em vão, Ekins e sua equipe foram contatados pela Casa Branca. O governo dos Estados Unidos estava preocupado com o potencial da IA para criar armas químicas, e queria saber mais sobre a pesquisa.

Ekins e sua equipe se reuniram com autoridades do governo, e discutiram os perigos da IA. Eles também compartilharam sua pesquisa com o governo, para que pudessem desenvolver formas de prevenir que a IA fosse usada para criar armas de destruição em massa.

Este é um episódio que destaca a necessidade de controles sobre o desenvolvimento da tecnologia.

O futuro da IA é incerto. Alguns têm visão utópica outros distópicas sobre o futuro com a tecnologia.

Mas em seu estágio atual, é importante lembrar que a IA é uma ferramenta sem iniciativa própria. Ela pode ser usada para o bem ou para o mal, dependendo das intenções de quem a utiliza.

Mas o momento de regular, e estabelecer os limites necessários a esta tecnologia é agora, porque ela não irá simplesmente desaparecer, muito pelo contrário. Sua capacidade de aumentar a capacidade de criação intelectual, e consequemente científica, irá, isso sim, acelerar o que quer que venha pela frente.

A história é parte do documentário Explorando o Desconhecido: Robôs Assassinos, na Netflix.