Na próxima semana, durante a sessão anual da Assembleia Geral das Nações Unidas em Nova York, o CEO da OpenAI Sam Altman, participará presencialmente de uma reunião do Conselho de Segurança. A presença foi confirmada por um porta-voz da empresa em entrevista à Reuters, que destacou a relevância do encontro para o debate sobre inteligência artificial (IA) e segurança internacional.
O Conselho, composto por 15 membros tem agenda marcada para a quarta-feira (23) quando abordará os desafios que a IA representa para a paz global. A sessão foi convocada pela França que exerce a presidência do órgão durante o mês de setembro, e será conduzida pelo ministro da Europa e das Relações Exteriores, Jean-Noël Barrot.
Reunião da ONU: data, local e participantes
O encontro ocorrerá no Complexo das Nações Unidas em Nova York, nos Estados unidos, coincidindo com a reunião anual de líderes mundiais. Além de Altman, diplomatas esperam a presença de representantes de outras empresas de ponta em IA, como a Anthropic. Ainda não há confirmação oficial da participação da Anthropic, mas o interesse em garantir uma visão ampla do setor é evidente.
O Conselho de Segurança tem um histórico recente de discussões sobre IA. Em 2023, foi a primeira vez que o órgão abordou o tema, com a China alertando contra a criação de um “cavalo fora de controle” e os Estados Unidos apontando o risco de uso da tecnologia para censura ou repressão.
Expectativas de Sam Altman: coordenação e padrões de segurança
Segundo o porta-voz da OpenAI, a fala de Altman deverá enfatizar a necessidade de coordenação internacional e o estabelecimento de padrões de segurança compartilhados. O executivo deve detalhar as medidas que a empresa adotou para garantir que os benefícios da IA sejam distribuídos de forma equitativa ao redor do globo, mitigando ao mesmo tempo os riscos de uso indevido.
Em sua apresentação, Altman provavelmente abordará iniciativas como a divulgação de modelos de IA seguros auditorias externas e parcerias com governos para criar marcos regulatórios robustos. O objetivo central é evitar que avanços tecnológicos ultrapassem o controle humano, cenário que ele já apontava como “possivelmente a maior ameaça à continuidade da existência da humanidade” em um ensaio de 2015 intitulado “Machine Intelligence, part 1”.
Compromissos da OpenAI e possível presença da Anthropic
A OpenAI tem investido em mecanismos de verificação de alinhamento audits de viés e programas de compartilhamento de pesquisa com a comunidade global. Esses esforços são citados como parte do empenho da empresa em garantir que a IA evolua dentro de limites seguros e beneficie a sociedade
Embora a Anthropic ainda não tenha respondido a solicitações de comentários, sua provável participação indica que o debate contará com múltiplas perspectivas do ecossistema de IA, reforçando a ideia de que a solução para os riscos associados deve ser cooperativa e não unilateral.
Contexto histórico: como a ONU tem tratado a IA
O envolvimento da ONU com a IA ganhou força após a primeira sessão do Conselho sobre o tema, em 2023. Desde então, documentos oficiais enfatizam a urgência de desenvolver a tecnologia de forma responsável e segura. A nota conceitual distribuída pela França aos membros do Conselho destaca que, diante do risco de uso malicioso, é imprescindível promover um desenvolvimento que beneficie toda a comunidade internacional.
Essa postura reflete a crescente preocupação global de que a IA pode, em curto prazo, melhorar a si mesma e, eventualmente, escapar do controle humano. Líderes do setor, inclusive Altman, têm defendido a ideia de uma “desaceleração coordenada” no desenvolvimento de sistemas cada vez mais avançados, a fim de evitar uma corrida desenfreada que poderia comprometer a segurança global.
Com a reunião marcada para a próxima quarta-feira, o mundo aguardará os desdobramentos das propostas apresentadas por Altman e pelos demais participantes. O resultado poderá influenciar políticas públicas, acordos bilaterais e até mesmo futuras resoluções do Conselho de Segurança relacionadas à governança da inteligência artificial.
