FTC investiga OpenAI e Anthropic: o que a apuração sobre agentes de IA pode mudar

Um agente de inteligência artificial pode ir além de responder a uma pergunta: dependendo das permissões e ferramentas disponíveis, pode pesquisar na internet, editar arquivos, preencher formulários ou executar etapas de uma tarefa. Essa autonomia promete economizar tempo, mas também amplia as consequências de um erro. Uma resposta incorreta é um problema; uma ação incorreta realizada em uma conta ou sistema conectado pode gerar prejuízo concreto.

É nesse contexto que a Comissão Federal de Comércio dos Estados Unidos, a FTC, abriu uma investigação sobre possíveis riscos de agentes de IA para consumidores. Segundo o portal Olhar Digital, com informações atribuídas pela Reuters a um alto funcionário da agência, Anthropic, OpenAI e o grupo de pesquisa METR estão entre as organizações que devem receber pedidos formais de informação. A apuração também pode incluir depoimentos de executivos.

A notícia não significa que a FTC tenha concluído que essas empresas violaram a lei, nem que os agentes citados tenham causado um dano específico. Trata-se de uma investigação para entender riscos e práticas do setor. Ainda assim, é um sinal importante: à medida que sistemas de IA passam a agir em nome das pessoas, reguladores querem saber como esses produtos são testados, apresentados e protegidos.

O que a investigação da FTC pretende apurar

De acordo com as informações divulgadas, esta é a primeira iniciativa oficial de fiscalização nos Estados Unidos voltada especificamente a investigar agentes de IA. A FTC pretende solicitar documentos e informações às organizações envolvidas e ouvir executivos. Isso pode ajudar a agência a compreender como os sistemas são desenvolvidos, quais medidas de segurança existem e como as empresas respondem a incidentes.

A reportagem não detalha todos os episódios que motivaram a apuração. Informa, porém, que uma série de incidentes relatados desde julho aumentou a preocupação com a possibilidade de sistemas autônomos causarem danos. Sem a descrição de cada caso, é importante não presumir que todos envolveram o mesmo tipo de falha ou que houve necessariamente dano a consumidores.

Uma investigação regulatória pode examinar questões como:

  • Representação do produto: as empresas explicam com clareza o que o agente consegue ou não fazer?
  • Permissões: o usuário entende quais contas, arquivos ou serviços o sistema pode acessar?
  • Supervisão: há ações que exigem confirmação humana antes de serem concluídas?
  • Testes de segurança: como são avaliados erros, comportamentos inesperados e tentativas de contornar instruções?
  • Resposta a incidentes: existe um processo para detectar problemas, interromper operações e informar usuários afetados?
  • Privacidade: quais dados são coletados, armazenados ou enviados a ferramentas conectadas?

Esses são temas plausíveis para uma apuração sobre segurança e proteção ao consumidor, não uma lista oficial de perguntas já divulgada pela FTC. O escopo concreto dependerá dos documentos e das respostas solicitadas pela agência.

O que é um agente de IA e por que ele traz riscos diferentes

Um chatbot tradicional costuma gerar respostas a partir de uma instrução. Um agente, por sua vez, pode receber um objetivo, dividi-lo em etapas, escolher ferramentas e executar ações ao longo de um processo. Na prática, um agente pode combinar um modelo de linguagem com navegador, calendário, e-mail, código, arquivos ou sistemas de pagamento.

Essa diferença muda o perfil do risco. Se o modelo interpreta mal uma pergunta, pode oferecer uma resposta ruim. Se também tem autorização para agir, a interpretação equivocada pode resultar no envio de uma mensagem, na alteração de um documento ou na execução de uma operação. O dano potencial depende tanto da qualidade do modelo quanto das permissões e dos limites definidos no produto.

Como uma cadeia de ações pode sair do esperado

Agentes geralmente operam em ciclos: recebem uma meta, planejam uma etapa, usam uma ferramenta, observam o resultado e decidem o próximo passo. Cada etapa pode parecer razoável isoladamente, mas erros podem se acumular. Um agente pode interpretar um dado errado, selecionar uma ferramenta inadequada e continuar o fluxo sem perceber que o objetivo inicial foi comprometido.

Há também o risco de prompt injection, ou injeção de instruções. Isso ocorre quando um conteúdo não confiável — como uma página da internet, um arquivo ou uma mensagem — tenta induzir o sistema a ignorar as instruções originais ou revelar informações. A ameaça fica mais relevante se o agente consegue acessar dados privados ou executar ações externas.

Outros fatores técnicos incluem permissões excessivas, ausência de limites de gasto, dificuldade para desfazer uma operação e falta de registros claros. Por isso, “o modelo respondeu corretamente em um teste” não basta para demonstrar que um agente é seguro em todos os contextos. É preciso avaliar o sistema completo: modelo, ferramentas, dados, interface, permissões e supervisão.

Qual é o papel da OpenAI, da Anthropic e do METR

OpenAI e Anthropic desenvolvem modelos e produtos de inteligência artificial. Segundo a notícia, ambas já recorreram ao METR para avaliações independentes de incidentes de segurança envolvendo tecnologias de IA com agentes. A presença dessas organizações na apuração não deve ser interpretada, por si só, como prova de irregularidade: a FTC está buscando informações sobre o setor e seus riscos.

O METR é um grupo de pesquisa dedicado à avaliação de capacidades e riscos de sistemas avançados de IA. Sua participação é relevante porque testes independentes podem complementar as avaliações internas feitas por uma empresa. Mas “independente” não significa automaticamente “definitivo”: resultados dependem dos cenários escolhidos, dos critérios usados, das informações disponíveis e das limitações de cada teste.

Uma avaliação útil precisa investigar não apenas se o agente conclui uma tarefa, mas também como se comporta diante de instruções conflitantes, dados maliciosos, permissões amplas e situações ambíguas. Também é importante distinguir uma falha observada em um ambiente controlado de um incidente ocorrido em uso real.

O que a FTC pode — e não pode — concluir

A FTC é uma agência federal norte-americana com atribuições de proteção ao consumidor e fiscalização da concorrência. Em termos gerais, pode investigar práticas comerciais potencialmente enganosas ou injustas. Isso não a transforma automaticamente em uma autoridade técnica que certifica todos os modelos de IA nem significa que qualquer erro de software seja uma violação legal.

A apuração pode produzir diferentes desfechos. A agência pode não encontrar elementos suficientes para uma medida; pode pedir mudanças em práticas ou divulgações; ou, se entender que houve violação de normas aplicáveis, pode buscar medidas de fiscalização. O resultado depende das evidências e do enquadramento jurídico. A notícia disponível não informa que já tenha sido aplicada uma sanção.

Também é essencial separar investigação de condenação. Solicitações de documentos e depoimentos servem para reunir fatos. Não provam, por si, que uma empresa tenha agido de forma ilegal ou que um produto seja inseguro em todas as situações.

Como usar agentes de IA com mais segurança

Enquanto as regras e práticas do setor evoluem, usuários e empresas podem reduzir riscos com controles simples. O princípio central é conceder ao agente apenas o acesso necessário para a tarefa e exigir aprovação humana quando uma ação puder ter consequências relevantes.

  1. Comece em modo de leitura ou simulação. Se o produto oferecer uma opção para apenas sugerir ações, use-a antes de permitir alterações. Em uma interface típica, isso pode aparecer como um seletor de modo, uma caixa de confirmação ou um botão como “revisar antes de executar”. Os nomes e o desenho variam entre serviços; não existe uma tela universal.

  2. Revise as permissões antes de conectar contas. Procure uma tela de autorização que liste serviços, arquivos ou dados solicitados. Se o agente pede acesso a e-mail, calendário e armazenamento para resumir um único documento, a permissão pode ser maior do que o necessário. Não aprove sem entender o motivo.

  3. Peça uma prévia antes de ações externas. Para enviar mensagens, publicar conteúdo, excluir arquivos ou realizar compras, prefira um fluxo em que o sistema mostre um resumo e apresente opções como “confirmar” e “cancelar”. Leia destinatário, valor, conteúdo e consequências antes de aprovar.

  4. Defina limites claros. Em tarefas financeiras ou repetitivas, estabeleça limites de valor, quantidade de ações e duração. Se a ferramenta não permite impor esses limites, não a use para operações de alto impacto sem supervisão.

  5. Verifique o histórico da execução. Se houver painel de atividade ou registro de ações, confira quais ferramentas foram chamadas e que mudanças foram feitas. Guarde evidências quando a tarefa envolver trabalho ou informações importantes.

  6. Teste primeiro com dados não sensíveis. Use uma cópia de arquivo ou uma conta de teste para observar o comportamento. Evite começar com documentos confidenciais, credenciais ou sistemas de produção.

  7. Saiba como interromper o processo. Antes de iniciar uma tarefa longa, identifique o comando de parada, a opção de revogar acesso ou o caminho para desconectar a integração. Se houver comportamento inesperado, interrompa a execução e revise as permissões.

Na prática, essas medidas não eliminam todo o risco. Um agente pode interpretar incorretamente um pedido mesmo com permissões limitadas, e uma tela de confirmação não garante que o usuário perceba um detalhe importante. Ainda assim, reduzir acessos e revisar ações diminui a probabilidade de erros com consequências amplas.

Agente autônomo, assistente com aprovação ou método manual?

Nem toda tarefa precisa de autonomia total. A melhor opção depende do impacto de um erro, da repetição do trabalho e da qualidade dos controles disponíveis.

  • Agente autônomo: pode ser conveniente para tarefas repetitivas e de baixo impacto, como organizar informações não confidenciais. A principal vantagem é a velocidade; o principal ponto fraco é que uma sequência de decisões erradas pode avançar sem intervenção.
  • Assistente com aprovação humana: prepara uma ação e espera autorização antes de concluí-la. É um meio-termo útil para rascunhar mensagens, organizar compromissos ou sugerir alterações. Acrescenta uma etapa de revisão, mas depende de o usuário conferir a prévia com atenção.
  • Método manual: o usuário executa cada etapa sem delegar o controle ao agente. Pode ser mais lento, mas oferece supervisão direta e costuma ser preferível para operações delicadas, irreversíveis ou relacionadas a dados sensíveis.

Uma regra prática é escolher o nível de autonomia conforme o possível prejuízo. Quanto maior o impacto de uma falha, mais importante é manter confirmação humana, limites e possibilidade de reversão. Para tarefas simples e reversíveis, a automação pode ser proporcional; para pagamentos, decisões médicas, assuntos jurídicos ou acesso a dados corporativos, cautela adicional é necessária.

O que empresas devem observar na contratação de agentes

Organizações que avaliam essas ferramentas não devem se limitar a comparar a velocidade ou a qualidade das respostas. É preciso verificar como o fornecedor trata dados, controla acessos e documenta ações. Também convém testar o sistema com situações próximas às tarefas reais, sem expor informações sensíveis no primeiro ensaio.

  • Quais dados o agente recebe e por quanto tempo são mantidos?
  • É possível restringir o acesso por usuário, pasta, ferramenta ou tipo de ação?
  • As operações ficam registradas e podem ser auditadas?
  • Há aprovação humana para ações externas ou irreversíveis?
  • Como o fornecedor comunica falhas e atualizações de segurança?
  • É possível revogar credenciais e interromper uma execução rapidamente?

Uma demonstração bem-sucedida não substitui uma avaliação de segurança. O teste deve incluir casos de falha, instruções ambíguas e tentativas de induzir o agente a usar dados ou ferramentas fora do escopo. A empresa também precisa definir quem responde por revisar resultados e agir quando o sistema se comporta de maneira inesperada.

O que pode acontecer a seguir

A investigação surge em um momento em que produtos de IA estão migrando de interfaces de conversa para sistemas capazes de interagir com serviços e executar tarefas. A tendência provável é que reguladores, fornecedores e clientes passem a cobrar evidências mais claras sobre testes, limites de autonomia, proteção de dados e resposta a incidentes.

Isso não significa que agentes serão proibidos ou que a automação deixará de avançar. É mais provável que a discussão se concentre em como distribuir responsabilidades: o que cabe ao desenvolvedor, ao fornecedor da ferramenta, à empresa que a integra e ao usuário que autoriza uma ação. Normas e exigências específicas podem variar conforme o caso e a jurisdição.

Para consumidores, o resultado mais concreto pode ser uma pressão por interfaces que expliquem melhor o que será feito, peçam confirmação em ações de risco e facilitem a revogação de permissões. Para o setor, a mensagem é que segurança não pode ser avaliada apenas pela capacidade do modelo de completar tarefas: a forma como ele age e os limites impostos ao seu acesso também importam.

Perguntas frequentes sobre a investigação

A FTC já concluiu que OpenAI ou Anthropic cometeram uma infração?

Não. A notícia trata de uma investigação e da intenção de solicitar informações e depoimentos. Uma apuração não equivale a uma conclusão de culpa, e o material divulgado não informa que tenha havido uma sanção.

O que é um agente de IA?

É um sistema que pode usar um modelo de IA para planejar e executar etapas de uma tarefa, muitas vezes recorrendo a ferramentas externas, como navegador, arquivos ou serviços conectados. O nível de autonomia depende do produto e das permissões concedidas.

Por que o METR aparece na investigação?

Segundo a notícia, OpenAI e Anthropic já recorreram ao grupo para avaliações independentes relacionadas a incidentes de segurança com tecnologias de IA com agentes. O METR é uma organização de pesquisa, não uma empresa que desenvolve os produtos citados.

Devo parar de usar agentes de IA?

Não necessariamente. A decisão depende da tarefa e dos riscos. Para trabalhos reversíveis e de baixo impacto, um agente pode ser útil. Para pagamentos, dados confidenciais ou ações difíceis de desfazer, prefira revisão humana, permissões restritas e alternativas manuais quando não houver controles suficientes.

Como posso saber se um agente tem acesso demais?

Confira a tela de permissões e compare cada acesso com a tarefa solicitada. Se o sistema não explicar por que precisa de determinado dado ou serviço, não autorize até esclarecer. Quando disponível, conceda acesso temporário ou limitado e revogue-o ao terminar.

E você, já testou essa funcionalidade? Conte sua experiência (ou dúvidas) nos comentários! Se este guia te ajudou, compartilhe com alguém que também precisa saber disso. E para receber nossos tutoriais e análises em primeira mão, assine a newsletter do Tech Advisor Brasil.