Alerta sobre riscos da IA reacende debate sobre limites e segurança

Quanto mais a inteligência artificial avança, mais urgente se torna uma pergunta que não pode ser respondida pelas próprias máquinas: quem estabelece os limites e assume a responsabilidade pelas decisões tomadas por esses sistemas?

O alerta ganhou força depois que o pesquisador Jacob Coxon, que trabalhou na OpenAI e deixou recentemente a Anthropic, manifestou preocupação com a possibilidade de sistemas cada vez mais autônomos evoluírem em ritmo superior ao desenvolvimento de mecanismos capazes de controlá-los.

Ele chegou a mencionar cenários extremos, incluindo riscos à sobrevivência humana. A trajetória de Coxon na OpenAI aparece em publicações da própria empresa, e sua saída da Anthropic foi repercutida internacionalmente.

A hipótese de extinção provocada pela IA está longe de representar consenso entre pesquisadores. Parte dos especialistas considera esse cenário especulativo e defende que o debate também se concentre em problemas já presentes, como desinformação, ataques cibernéticos, discriminação algorítmica, uso indevido de dados e automatização de decisões que afetam diretamente a vida das pessoas.

Ainda assim, a repercussão do alerta expõe uma preocupação concreta: os sistemas estão ficando mais poderosos e ganhando autonomia, enquanto regras, fiscalização e mecanismos de responsabilização avançam mais lentamente.

Para Alcir Abuchaim, CEO da i4t (Intelligence for Transformation), a segurança da inteligência artificial começa pela capacidade humana de definir até onde a tecnologia pode chegar.

“Quanto maior a capacidade e a autonomia de uma IA, maior precisa ser a governança sobre ela. Precisamos saber quem estabelece os limites, quem supervisiona seu funcionamento e quem responde pelas decisões. Segurança em IA começa com gestão humana', afirma.

O desafio já deixou de ser exclusivo das grandes empresas de tecnologia. Governos, bancos, hospitais, escolas, empresas e órgãos públicos incorporam ferramentas capazes de analisar dados, produzir conteúdos, selecionar candidatos, recomendar tratamentos e auxiliar decisões administrativas.

A adoção, porém, exige mais do que contratar uma plataforma. É preciso definir quais informações poderão ser acessadas, quais decisões poderão ser automatizadas, como eventuais erros serão identificados e corrigidos e quem responderá quando uma máquina causar prejuízos.

“A tecnologia precisa ampliar a capacidade humana, não substituir a responsabilidade humana', reforça Abuchaim.

A discussão será levada ao 1º Fórum MS de IA Segura, marcado para 25 de novembro, em Mato Grosso do Sul. Realizado por meio de uma parceria entre o Campo Grande News e a i4t, o encontro reunirá instituições de diferentes setores para discutir segurança, governança, soberania de dados e participação humana no desenvolvimento e no uso da inteligência artificial.

A proposta é aproximar Mato Grosso do Sul de um debate que já mobiliza governos, pesquisadores e empresas em todo o mundo. Mais importante do que tentar prever até onde a inteligência artificial poderá chegar será estabelecer, desde agora, quem continuará segurando o volante.