A inteligência artificial foi apresentada como uma forma de ajudar a humanidade na expansão tecnológica, porém, está causando um certo medo na comunidade global.
Um modelo de IA foi capaz de criar 40 mil novos compostos de armas químicas em apenas seis horas, após receber a tarefa de uma equipe de cientistas, que estava usando a tecnologia para procurar compostos que pudessem ser usados para curar doenças, e parte do processo envolvia filtrar qualquer coisa que possa matar um ser humano.
Como parte de um estudo sobre implicações potencialmente negativas de novas tecnologias, a startup de biotecnologia Collaborations Pharmaceuticals, de Raleigh, Carolina do Norte, ‘ligou um botão’ em seu algoritmo de IA e encontrou os compostos mais letais.
A equipe queria ver com que rapidez e facilidade um algoritmo de inteligência artificial poderia ser explorada, se fosse definido em uma tarefa negativa, em vez de positiva.
Uma vez no ‘modo ruim’, a IA foi capaz de inventar milhares de novas combinações químicas, muitas das quais se assemelhavam aos agentes nervosos mais perigosos em uso hoje, de acordo com um relatório do The Verge.
Entre os compostos inventados pela IA, estavam alguns semelhantes ao VX, um agente nervoso extremamente tóxico, que pode causar espasmos mesmo em pequenas doses.
Os pesquisadores disseram que um dos aspectos mais assustadores de sua descoberta foi o quão fácil era pegar um conjunto de dados amplamente disponível de produtos químicos tóxicos e usar a IA para projetar armas químicas semelhantes às mais perigosas atualmente.
Criar um composto tão poderoso quanto o VX foi um choque para os pesquisadores, pois mesmo uma pequena gota desse produto químico pode fazer com que um humano se contorça de dor. Uma dose grande o suficiente pode levar a convulsões e impedir uma pessoa de respirar, e o novo composto criado pela IA pode ter um efeito semelhante, prevê a equipe.
“A forma como o VX é letal é que na verdade impede que o diafragma, os músculos pulmonares, se movam, deixando os pulmões paralisados”, disse ao The Verge Fabio Urbina, principal autor do artigo.
A ideia de ‘virar o interruptor’ da IA para torná-la ‘ruim’ veio da Conferência de Convergência, organizada pelo Instituto Federal Suíço de Proteção Nuclear, Biológica e Química. O objetivo é explorar a implicação que novas ferramentas e desenvolvimentos podem ter no domínio das armas químicas e biológicas, mesmo que não intencionalmente.
“Recebemos este convite para falar sobre aprendizado de máquina e como ele pode ser mal utilizado em nosso espaço. É algo em que nunca pensamos antes”, disse Urbina.
“Mas foi muito fácil perceber que, à medida que estamos construindo esses modelos de aprendizado de máquina para melhorar cada vez mais a previsão de toxicidade para evitar a toxicidade, tudo o que precisamos fazer é virar o interruptor e dizer: ‘Você sabe, em vez de nos afastarmos da toxicidade, e se formos para a toxicidade?”.
