Pacto Digital da ONU pode afastar inteligência artificial de rumo sombrio, afirma Pedro Loos

Ao aprovar na ONU o Pacto para o Futuro, os líderes mundiais aprovaram também o Pacto Digital Global. Na visão do físico brasileiro Pedro Loos, que esteve em sessões na organização, este conjunto de compromissos sobre novas tecnologias pode fazer a diferença no rumo que inteligência artificial vai tomar.

Em uma entrevista para a ONU News, o criador e diretor do canal Ciência Todo Dia disse que o documento recentemente aprovado na ONU pode afastar a humanidade do cenário mais “sombrio” da IA e aproximá-la de uma “utopia”.

O risco da “explosão de inteligência”

“O Global Digital Compact eu acho que é um excelente caminho. Acho que é uma ótima maneira de começar essa jornada. Só que a gente vai precisar da colaboração de países membros daqui. A gente vai precisar das empresas atuando junto e da sociedade também para se manter vigilante, porque as pessoas torcem muito e cobram muitas as empresas para lançar a nova versão da inteligência artificial, dizendo ‘eu quero algo melhor, eu preciso disso e daquilo’. A gente tem que ter paciência, a gente tem que fazer as coisas no seu devido processo, porque a inteligência artificial pode ser a melhor invenção da humanidade, mas ela também pode ser a última”.

Loos, que trabalha com divulgação científica na internet, ressaltou a preocupação de que em um curto espaço de tempo se avance de uma inteligência artificial mais geral para uma superinteligência artificial. Segundo ele, isso representaria um “grande perigo”, pois os seres humanos ficariam “muito para trás”.

“Eu acho que o cenário mais sombrio possível é o cenário da explosão de inteligência. Nesse cenário, a gente faz uma inteligência artificial cada vez mais inteligente. O que a gente tem feito até agora, só que chega num ponto em que ela se torna tão boa em fazer as tarefas que ela mesma consegue melhorar sua capacidade. Então, ela mesma começaria a aumentar sua própria performance. Se a gente chega nesse ponto, existe um risco muito grande de que essa corrente seja imparável”.

Máquinas que vão lutar para não serem desligadas

O produtor de conteúdo afirmou que esse cenário traz à tona o problema do controle sobre a tecnologia. De acordo com ele, o simples fato de dar um objetivo para uma inteligência artificial pode fazer com que ela crie uma série de outros comportamentos que não estavam previstos, como, por exemplo, de preservação.

“Eu não preciso programar uma inteligência artificial para lutar o máximo possível para não ser desligado da tomada, porque se eu der uma tarefa para ela, ela automaticamente pode surgir com um comportamento secundário de que se ela for desligar da tomada, ela não consegue realizar aquela tarefa, logo, ela não pode ser desligada da tomada”.

Pedro Loos alertou que esses são riscos reais em meio à disputa entre as grandes empresas de tecnologia para ver quem lança a melhor ferramenta o mais rápido possível. Segundo ele, essa corrida “prejudica todas as etapas de verificação e segurança” necessárias para justamente evitar esse cenário distópico.

Solução de todos os problemas globais

No entanto, o influenciador afirmou que com as medidas corretas, é possível chegar “no melhor cenário possível”, que é aquele onde existe a superinteligência artificial, mas ela está “perfeitamente alinhada com a intenção da humanidade”.

“E aí eu acho que a gente chega num espaço quase utópico de tão bonito que ele é, em que praticamente todos os problemas estariam solucionados no sentido de que a gente não precisa mais juntar um corpo de cientistas de 1,5 mil pessoas para resolver, por exemplo, o aquecimento global, que a gente talvez conseguiria ter um passo a passo de como fazer isso de uma maneira muito mais facilitada”.

O influenciador disse que seria até difícil imaginar esse mundo, pois nunca houve nada parecido na história humana. Para Loos, a partir do momento em que uma tecnologia se encarrega da especialização do conhecimento e do processamento de dados, os humanos podem se dedicar a outras experiências.

Futuro utópico

“A gente se torna livre para fazer outras coisas que eu acho que estão mais relacionadas com ser humano mesmo. Talvez as pessoas se identifiquem mais e se dediquem mais à arte, à família, a passar tempo em comunidade. Porque querendo ou não essas são coisas humanas que a gente vem fazendo desde muito antes de todo sistema, toda civilização se organizar da maneira que está organizada hoje em dia. Esse futuro para mim seria o melhor possível e eu acho que a gente tem capacidade de chegar lá”.

O físico e entusiasta de tecnologia ressaltou a importância dos debates liderados pela ONU e afirmou que os próximos passos na implementação do Pacto Digital Global serão fundamentais para encontrar o meio termo, que permitirá o uso benéfico da inteligência artificial.