Empresas de IA não controlam seus modelos, diz ex-OpenAI

05 de outubro de 2026

Um ex-integrante das equipes de segurança da OpenAI e da Anthropic revelou sérias lacunas no controle de modelos de inteligência artificial generativa. Em audiência pública, o especialista alertou que o desenvolvimento acelerado está atropelando protocolos básicos de governança tecnológica.

O Fator de Incerteza: Por que a IA ainda é uma 'Caixa Preta' para seus Criadores

O avanço meteórico da inteligência artificial generativa trouxe à tona uma realidade desconfortável que muitas Big Techs preferem manter nos bastidores: a incapacidade técnica de prever ou controlar totalmente o comportamento dos modelos mais avançados. Jacob Coxon, um profissional com passagens estratégicas pela OpenAI e Anthropic, trouxe esse debate para o centro do setor público durante um depoimento recente à Câmara Municipal de Nova York.

De acordo com o especialista, o ritmo atual de inovação está desconectado da capacidade das empresas de garantir que esses sistemas operem estritamente dentro de limites éticos e funcionais. O problema, segundo ele, não é apenas a falta de vontade política, mas uma limitação técnica inerente à forma como as redes neurais são treinadas hoje.

A ilusão do alinhamento completo

No jargão da tecnologia, o termo "alinhamento" refere-se ao esforço de garantir que uma IA aja de acordo com os valores e intenções humanas. No entanto, Coxon argumenta que esse objetivo ainda está longe de ser alcançado. Embora ferramentas como o ChatGPT e o Claude possuam camadas de segurança superficiais, o núcleo do processamento desses modelos permanece imprevisível.

Isso ocorre porque, à medida que os parâmetros de treinamento aumentam para trilhões, a complexidade das conexões neurais torna-se impossível de ser auditada manualmente. O resultado é o surgimento de comportamentos emergentes — habilidades ou vieses que os desenvolvedores não planejaram e que só são descobertos após o lançamento do produto para o público geral.

Riscos para a governança pública e privada

O alerta de Coxon em uma audiência legislativa não foi coincidência. Governos ao redor do mundo, incluindo o Brasil com o PL 2338/23, estão tentando regulamentar o uso da IA. Se as próprias empresas criadoras admitem internamente que não possuem controle total sobre a lógica de decisão de suas máquinas, as políticas de conformidade atuais podem ser ineficazes.

Para o setor corporativo, isso levanta bandeiras vermelhas sobre segurança de dados e responsabilidade civil. Se uma IA toma uma decisão discriminatória ou alucina informações críticas em um ambiente de negócios, a justificativa de que o modelo é uma "caixa preta" pode não ser mais aceitável legalmente. As empresas estão operando em um território onde a inovação precede a segurança por uma margem perigosa.

O futuro da supervisão tecnológica

A solução proposta por especialistas como Coxon passa por uma mudança radical na cultura de desenvolvimento. Em vez de uma corrida armamentista pelo modelo mais potente, o foco deveria se deslocar para ferramentas de interpretabilidade — tecnologias que ajudam a traduzir o que acontece dentro da rede neural em termos compreensíveis para humanos.

Sem investimentos massivos em supervisão e transparência, corremos o risco de integrar sistemas fundamentais à infraestrutura da sociedade sem ter o "botão de desligar" ou, ao menos, o manual de instruções completo. A transparência não deve ser vista como um obstáculo ao progresso, mas como o único caminho seguro para a escala global da inteligência artificial.

A perspectiva Kautt Radar é que a governança de IA deixará de ser um diferencial ético para se tornar o principal requisito de sobrevivência no mercado tecnológico global.

#Inteligência Artificial #OpenAI #Segurança Digital #Big Tech #Governança #Inovação

Fonte original: https://olhardigital.com.br/2026/10/05/inteligencia-artificial/ex-openai-diz-que-empresas-de-ia-ainda-nao-sabem-controlar-seus-modelos/. Artigo reescrito e analisado pelo sistema Kautt Radar.