A inteligência artificial (IA) pode se tornar “ameaça em nível de extinção para a espécie humana” se não tomarem providências rápidas. É o que alerta um relatório encomendado pelo governo dos Estados Unidos. De acordo com o documento, a tecnologia pode estar a caminho de se tornar um risco para a segurança nacional do país.

O que mais precisa saber:

• Um relatório encomendado pelo governo dos EUA alerta que a IA pode representar uma “ameaça em nível de extinção” se ações não forem tomadas rapidamente;
• O relatório – elaborado pela Gladstone AI após entrevistar mais de 200 especialistas – busca entender como isso impacta a segurança nacional e os interesses dos EUA. O documento ressalta a necessidade de equilibrar os possíveis benefícios com os riscos associados ao seu avanço;
• Entre os apontamentos do relatório está o potencial para armada ou se tornar incontrolável. O documento recomenda a criação de uma nova agência regulatória, implementação de regulamentações emergenciais e limitação do poder computacional para modelos de IA;
• Além disso, o relatório sublinha a importância da cooperação global e de leis para enfrentar os desafios da IA. O documento também destaca os perigos da inteligência geral artificial (AGI) e a urgência em desenvolver medidas de segurança eficazes.

O relatório, encomendado pelo Departamento de Estado dos EUA (equivalente ao Ministério das Relações Exteriores do Brasil, o Itamaraty), elaborado pela Gladstone AI. A empresa entrevistou mais de 200 especialistas, entre eles: executivos de empresas de IA, pesquisadores e oficiais de segurança.

O Departamento busca avaliar como a IA impacta os interesses nacionais dos EUA. E esclarece que as conclusões do relatório não refletem necessariamente as visões do governo do presidente Joe Biden. Esta iniciativa sublinha a crescente preocupação com os riscos associados ao avanço da IA, mesmo diante de seu potencial benéfico em campos como medicina e ciência.

Benefícios e riscos inteligência artificial

O CEO da Gladstone AI, Jeremie Harris, destaca a IA como uma tecnologia transformadora, capaz de trazer benefícios significativos. Mas também riscos graves, incluindo os de natureza catastrófica. O documento aponta que, além de um certo limiar de capacidade, as ferramentas baseadas em IA poderiam se tornar incontroláveis.

O relatório, portanto, destaca dois riscos principais da IA: o potencial de armada para causar danos irreversíveis e a possibilidade de os desenvolvedores perderem controle sobre esses sistemas, com impactos devastadores para a segurança global. Essas preocupações incluem a possibilidade de uma corrida armamentista de IA e conflitos acidentais em grande escala.

A administração Biden, no entanto, tem tomado medidas significativas para gerenciar os riscos da IA, com uma ordem executiva visando tanto aproveitar seu potencial quanto mitigar perigos. A Casa Branca enfatiza a importância da cooperação internacional e legislação para lidar com essas tecnologias emergentes.

O que fazer, então?

Para enfrentar essas ameaças, o relatório da Gladstone AI recomenda a criação de uma nova agência de IA. Implementação de medidas regulatórias emergenciais e limitação do poder computacional para treinamento de modelos de IA. Essas etapas visam prevenir perdas de controle e mitigar riscos à segurança.

As entrevistas realizadas pela Gladstone AI revelaram uma percepção de inadequação das medidas de segurança em IA avançada, apontando para a aceleração do desenvolvimento tecnológico às custas da segurança. O documento também menciona o alerta do pioneiro da IA Geoffrey Hinton, sobre o risco de extinção humana pela tecnologia e a necessidade de priorizar a mitigação desses riscos.

Por fim, o relatório discute o potencial de AGI (inteligência geral artificial) – forma de IA com capacidade de aprendizado semelhante ou superior à humana – de introduzir riscos sem precedentes. Ele destaca o desafio de regular e desenvolver salvaguardas para uma tecnologia cuja evolução é incerta, alertando para o risco de aplicações de IA em áreas como ciberataques e manipulação psicológica.