Pioneiro em IA, Yoshua Bengio, alerta sobre riscos e pede maior regulação na tecnologia Pioneiro da IA
O investigador da computação Yoshua Bengio, um dos pioneiros no campo da lucidez sintético (IA), manifestou preocupações sobre os riscos associados ao progresso dessa tecnologia. Durante sua participação no One Young World Summit, em Montreal, Canadá, Bengio destacou a premência de maior controle e regulação sobre os sistemas de IA, que, segundo ele, podem atingir níveis de lucidez comparáveis ou superiores ao humano, trazendo desafios significativos à sociedade.
“Quem Controlará Esse Poder?”
Bengio, professor da Universidade de Montreal e diretor do Instituto de Algoritmos de Aprendizagem, destacou que a lucidez confere poder, e o controle desse poder se tornará uma questão crucial à medida que a IA avança:
“Quem controlará esse poder? Sistemas capazes de superar o conhecimento humano podem fabricar instabilidade em diversas esferas, inclusive geopolítica.”
Segundo o investigador, a geração e o treinamento de sistemas de IA de ponta demandam investimentos bilionários, restringindo o chegada a poucos países e grandes corporações. Essa concentração de poder pode gerar consequências negativas, uma vez que:
- Desigualdade econômica;
- Desequilíbrios geopolíticos;
- Prejuízos às democracias e mercados globais.
Riscos de Ataque de Poder
Bengio também alertou para o risco de uso indevido das tecnologias de IA. Ele afirmou que algumas pessoas poderiam explorar o poder dessas máquinas para benefícios pessoais ou, em casos extremos, trabalhar para substituir a humanidade por máquinas:
“Embora seja uma minoria, essas pessoas podem ter grande poder, a menos que tomemos as devidas precauções agora.”
O investigador enfatizou a prestígio de antecipar e mitigar esses perigos antes que se tornem incontroláveis, recomendando um estudo aprofundado e medidas preventivas imediatas.
A Novidade Era da Concentração de Poder
Outro ponto abordado por Bengio foi o impacto da IA na distribuição de poder global. Com poucos países e empresas capazes de sustentar os custos exorbitantes do desenvolvimento da IA, há o risco de uma novidade concentração de poder econômico, político e militar. Isso, segundo ele, pode aumentar as desigualdades globais e gerar instabilidade em mercados e governos.
Um Porvir Que Exige Precauções
Yoshua Bengio, reconhecido mundialmente por suas contribuições no campo do tirocínio de máquinas, reforça que a humanidade precisa agir com urgência para prometer que a IA seja desenvolvida e usada de forma moral e segura. Sem medidas apropriadas, os avanços tecnológicos podem gerar instabilidades significativas e transformar um dos maiores progressos da humanidade em uma ameaço global.
