OpenAI, Anthropic e Google DeepMind estão discutindo a criação de um órgão de supervisão voltado aos riscos da inteligência artificial (IA), em meio à crescente pressão para que as empresas responsáveis pelos modelos mais avançados adotem mecanismos mais rígidos de segurança.

A OpenAI, criadora do ChatGPT, revelou nesta terça-feira que a ideia surgiu a partir de uma proposta de Demis Hassabis, da Google DeepMind. O executivo sugeriu uma estrutura semelhante à Financial Industry Regulatory Authority (FINRA), entidade de autorregulação do mercado financeiro dos Estados Unidos.

A proposta é criar uma organização financiada pelas próprias empresas de inteligência artificial, mas com especialistas independentes responsáveis por avaliar a segurança de novos sistemas antes que eles sejam lançados ao público.

O projeto, no entanto, encontra obstáculos jurídicos e políticos. Para funcionar nos moldes da FINRA, uma entidade criada pelo próprio setor precisaria de respaldo legal, inclusive para evitar acusações de conluio entre concorrentes e possíveis violações das regras de competição.

Modelo seria inspirado na regulação do mercado financeiro

A FINRA estabelece regras para empresas e profissionais do mercado financeiro americano, mas atua sob a supervisão da Securities and Exchange Commission (SEC), órgão responsável pela fiscalização do mercado de capitais dos Estados Unidos.

“A FINRA pode conceber suas próprias regras, mas a SEC tem de aprová-las”, explicou à agência France-Presse Andrew Tuch, professor de Direito da Universidade Washington em St. Louis.

Uma estrutura semelhante para a inteligência artificial permitiria que empresas do setor participassem da elaboração de regras técnicas, mas sob algum tipo de fiscalização externa.

A proposta apresentada por Hassabis em julho previa um conselho formado por especialistas independentes e também por representantes do ecossistema de modelos abertos de inteligência artificial, que podem ser acessados, modificados e distribuídos livremente.

As empresas responsáveis pelos sistemas mais avançados teriam de submeter novos modelos a avaliações, principalmente de segurança, antes de colocá-los no mercado.

Incidentes aumentam pressão sobre empresas de IA

O debate sobre os riscos da inteligência artificial ganhou força nos últimos meses após uma série de episódios envolvendo modelos avançados e declarações de executivos do próprio setor sobre os perigos representados pela tecnologia.

Alguns sistemas desenvolvidos por OpenAI e Anthropic chegaram a sair espontaneamente de ambientes controlados durante testes para acessar a internet e interagir com outras plataformas, segundo relatos citados nas discussões sobre segurança.

Os episódios ampliaram a pressão sobre as empresas para que adotem sistemas capazes de avaliar riscos antes que modelos mais poderosos sejam disponibilizados.

Hassabis também sugeriu que o eventual órgão de supervisão poderia coordenar uma desaceleração no desenvolvimento de determinados sistemas caso os mecanismos de avaliação de segurança não conseguissem acompanhar a velocidade dos avanços tecnológicos.

Governo Trump resiste a restrições

A discussão ocorre em meio à resistência do governo de Donald Trump a regras que possam desacelerar o setor de inteligência artificial nos Estados Unidos.

Depois de o presidente da Anthropic, Dario Amodei, defender uma redução no ritmo de desenvolvimento da tecnologia, Trump e integrantes de sua base política reforçaram a oposição a medidas restritivas.

O argumento do governo americano é que regulações excessivas poderiam reduzir a capacidade dos Estados Unidos de competir com a China na corrida pela inteligência artificial.

Trump chegou a classificar como “farsas” os alertas de especialistas sobre possíveis ameaças da IA à humanidade.

Apesar dessa resistência, integrantes da própria indústria têm pedido ao governo americano algum tipo de estrutura nacional para acompanhar a segurança dos modelos.

A administração Trump iniciou em agosto um processo de avaliação de novos sistemas de IA, mas o mecanismo depende da participação voluntária das empresas e não estabelece instrumentos claros de fiscalização ou punição.

Bernie Sanders cobra regras obrigatórias

A possibilidade de deixar parte da fiscalização nas mãos das próprias empresas também provoca críticas no Congresso americano.

“Quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não de padrões voluntários da indústria”, afirmou o senador democrata Bernie Sanders, em Washington.

Críticos da proposta dizem que permitir que as maiores empresas participem diretamente da elaboração das regras pode favorecer uma chamada “captura regulatória”, situação em que companhias submetidas à fiscalização acabam exercendo influência excessiva sobre as normas que deveriam controlá-las.

O receio é que OpenAI, Anthropic, Google e outras empresas com grande capacidade financeira e tecnológica criem regras que dificultem a entrada de novos concorrentes no mercado.

Conselheiro de Trump fala em risco de “cartel da IA”

David Sacks, conselheiro de Trump para assuntos ligados à tecnologia, também criticou a ideia e afirmou que a criação de uma entidade formada pelas principais empresas poderia resultar em “um cartel da IA”.

Na avaliação de Sacks, cada companhia deveria assumir individualmente a responsabilidade por seus modelos e, se considerar necessário, reduzir por conta própria o ritmo de desenvolvimento.

Essa possibilidade, porém, é vista com ceticismo dentro do próprio setor. As maiores empresas de tecnologia já investiram dezenas de bilhões de dólares em infraestrutura, chips, centros de dados e treinamento de modelos, o que aumenta a pressão para que continuem avançando rapidamente.

A discussão coloca em lados diferentes duas preocupações que vêm acompanhando a expansão da inteligência artificial: de um lado, o temor de que modelos cada vez mais poderosos sejam lançados sem mecanismos suficientes de segurança; de outro, o risco de que regras definidas pelas próprias gigantes do setor aumentem ainda mais a concentração de poder na indústria.