Google, OpenAI e Anthropic avançam nas discussões para criar uma organização voltada à definição de padrões de segurança para sistemas de inteligência artificial de fronteira. Segundo reportagem do The Information, publicada em 24 de setembro, as empresas pretendem colocar a iniciativa em funcionamento até o fim de 2026 ou no início de 2027.
Em reportagem publicada pelo Estadão, o nome provisório considerado para a organização é Standards Authority for Frontier AI (Autoridade de Padrões para IA de Fronteira). A proposta seria criar uma estrutura de autorregulação da indústria, sem supervisão direta do governo dos Estados Unidos.
As informações foram atribuídas pelo The Information a pessoas familiarizadas com as discussões. O veículo também informou que integrantes do grupo de trabalho já avaliaram possíveis nomes para ocupar a posição de CEO. A estrutura, porém, ainda está em desenvolvimento e não teve seu formato definitivo anunciado.
As três empresas já vinham discutindo a criação de uma entidade comum de testes e auditorias. Em setembro, o chefe de assuntos globais da OpenAI, Chris Lehane, confirmou que a companhia vinha trabalhando com Google DeepMind e Anthropic em questões de segurança de IA.
Modelo inspirado na FINRA
A proposta toma como referência a Financial Industry Regulatory Authority (FINRA), organização autorreguladora do mercado financeiro dos Estados Unidos. A ideia de utilizar uma estrutura semelhante para inteligência artificial havia sido defendida anteriormente por Demis Hassabis, cofundador do Google DeepMind.
Segundo a reportagem do The Information, o órgão em discussão poderia estabelecer padrões comuns para avaliação de modelos antes de seu lançamento, criar procedimentos para comunicação de incidentes de segurança e definir critérios para a certificação de auditores independentes.
Os poderes de fiscalização da organização ainda não estão definidos. Também não há, até o momento, indicação de que o órgão teria autoridade regulatória equivalente à de uma agência governamental.
A iniciativa representa uma evolução de conversas que já vinham ocorrendo entre Google, OpenAI e Anthropic. Em 13 de setembro, o The Information informou que representantes das três companhias mantinham reuniões regulares sobre a criação de uma entidade de padrões para o setor.
Plano federal perdeu força
O projeto inicialmente discutido pelas empresas previa participação ou supervisão do governo federal americano. De acordo com o The Information, a proposta perdeu força depois que uma minuta de ordem executiva da Casa Branca não conseguiu apoio suficiente dentro do governo Trump.
Com isso, as companhias passaram a avançar em uma estrutura conduzida pela própria indústria. A mudança ocorre enquanto governos e empresas discutem diferentes modelos para avaliar os riscos de sistemas considerados de fronteira.
O movimento também ocorre em paralelo a propostas para ampliar a cooperação internacional. Em setembro, a OpenAI defendeu que os Estados Unidos liderassem esforços para estabelecer padrões técnicos internacionais para sistemas avançados de IA, incluindo mecanismos comuns de avaliação e comunicação de incidentes.
Debate sobre autorregulação
A criação de uma entidade conduzida pelas próprias empresas ocorre em meio a um debate sobre o papel da indústria na definição e fiscalização de padrões de segurança.
Em julho, Hassabis havia proposto uma organização de padrões inspirada na FINRA. Em setembro, as discussões entre Google, OpenAI e Anthropic passaram a ganhar forma, segundo os relatos publicados pelo The Information.
Ao mesmo tempo, há propostas de participação de avaliadores externos. A OpenAI já declarou apoio a avaliações técnicas independentes de terceiros, embora defenda que esse tipo de mecanismo seja estabelecido em âmbito federal.
A própria Anthropic mantém uma estrutura interna de segurança para seus modelos, enquanto o Google DeepMind utiliza o Frontier Safety Framework para identificar níveis de capacidade, realizar avaliações e estabelecer medidas de mitigação para riscos associados a seus modelos mais avançados.
Por enquanto, Google, OpenAI e Anthropic são as empresas mencionadas como participantes da iniciativa. Os relatos sobre o projeto não indicam Microsoft, Meta ou xAI como integrantes do grupo inicial. A composição futura, assim como o formato jurídico, os mecanismos de fiscalização e a data definitiva de lançamento, ainda dependem da evolução das negociações.
