04.10.26

Donald Trump entregou ao diretor de Inteligência Nacional, Jay Clayton, a tarefa de dizer como o governo americano deve supervisionar a inteligência artificial. Segundo o Wall Street Journal, Clayton vai chefiar uma "Super Intelligence Force" e tem 120 dias para recomendar qual deve ser o papel federal. Os vice-presidentes do grupo são Emil Michael, do Pentágono, Scott Kupor, que veio da Andreessen Horowitz, e Andrew Ferguson, presidente da FTC. Entre os membros estão JD Vance, Pete Hegseth, Scott Bessent e Susie Wiles.

A lista mostra onde a Casa Branca guardou a IA, que foi para a gaveta da segurança nacional. Um dos vice-presidentes vem do fundo que escreve os manifestos do Vale. Outro, Ferguson, comanda a agência que nesta semana abriu investigação contra a Anthropic, a OpenAI e o METR, que testa modelos de fora dos laboratórios. A partir de agora ele investiga as empresas e ajuda a escrever a regra que vai valer para elas.

A objeção mais forte é que a IA já virou assunto de segurança nacional, com controle de exportação de chips, contratos do Pentágono e a disputa com a China. Nessa lógica, faz sentido o chefe da Inteligência coordenar. Os Estados Unidos já estiveram nessa encruzilhada. Em 1946, com a bomba ainda recente, o Congresso escolheu entre um projeto que deixava a energia atômica sob forte influência militar e a Lei McMahon, que a entregou a uma comissão civil. Ganhou a comissão civil. A mesma tecnologia que destruía cidades ia acender lâmpadas, e quem só enxerga a ameaça não sabe regular a lâmpada. A IA de 2026 já está do lado da lâmpada: está no email, no consultório, na triagem de currículos. E a supervisão dela vai nascer pela porta dos espiões.

O tema vence o dia porque completa a semana. Washington fez o acordo voluntário com os laboratórios sobre superinteligência, abriu a investigação da FTC e agora montou o grupo que vai decidir o resto. Contados a partir de hoje, os 120 dias acabam no fim de janeiro, depois das eleições de meio de mandato. A regra americana da IA vai ser escrita quando não houver mais urna à vista. CNBC

David Robinson passou três anos e meio na OpenAI escrevendo os relatórios de segurança que acompanham cada lançamento. É o documento que diz o que foi testado no modelo e o que os testes encontraram. Ele saiu da empresa e explicou o motivo num ensaio na The Atlantic: a cultura, escreveu, quebrou. Robinson cita o incidente da Hugging Face e pede que os laboratórios funcionem como usinas nucleares ou aeroportos, onde segurança é procedimento obrigatório e não depende da boa vontade da diretoria. A OpenAI respondeu que pausa o treino quando é preciso e que está ampliando a avaliação externa. Vale ler inteiro porque quem fala é o autor do laudo, que conhece o processo por dentro e não precisa adivinhar o que acontece lá. TechCrunch, sobre o ensaio na Atlantic

1. Trump nomeia Jay Clayton czar de IA, com força-tarefa de 120 dias — O diretor de Inteligência Nacional vai recomendar como o governo supervisiona a IA, e o presidente da FTC, que investiga os laboratórios, é um dos vice-presidentes do grupo. CNBC

2. Os planos dos 14 presidenciáveis quase não tratam de governança e direitos em IA — O Poder360 leu os planos registrados no TSE. Só 17% seguem as recomendações da Unesco, e 53% cobrem os eixos do PBIA, o Plano Brasileiro de Inteligência Artificial que o governo lançou para orientar investimento e uso público. Apenas três candidatos tratam formalmente de regulação. Lula propõe um Centro Nacional de Transparência Algorítmica, Caiado quer um marco por uso e risco e Zema quer evitar regulação ampla e precoce. Renan Santos propõe um marco de IA com isenção fiscal e datacenters.

   A distribuição diz onde está o voto. Datacenter traz obra, emprego e foto de inauguração, e serviço digital rende fila menor no posto. Salvaguarda e direito não aparecem em lugar nenhum e só fazem diferença quando alguém é prejudicado por uma decisão automática. Os candidatos prometem a máquina e deixam de fora o que fazer quando ela erra. Poder360

3. Sai da OpenAI quem escrevia os relatórios de segurança — David Robinson deixou a empresa depois de três anos e meio e disse, num ensaio na Atlantic, que a cultura da OpenAI quebrou. Dias antes, a OpenAI tinha demitido três pesquisadores de segurança. Em poucos dias, a área de segurança perdeu gente pelos dois lados: três demitidos e o autor dos relatórios internos saindo por conta própria.

   Robinson pediu a disciplina dos aeroportos, e a aviação chegou a essa disciplina por um caminho que a OpenAI está fazendo ao contrário. Desde 1976, o piloto americano que relata o próprio erro ao sistema de relatos voluntários da NASA tem proteção limitada contra punição da FAA. A aviação ficou mais segura porque relatar um erro passou a custar menos do que escondê-lo. Na OpenAI desta semana, quem cuidava da segurança saiu pela porta, de um jeito ou de outro. TechCrunch

4. Juíza federal declara que uma busca na Flock foi "vigilância em massa indiscriminada" — A Flock vende a polícias uma rede de câmeras que leem placas de carro e registram onde e quando cada veículo passou. Em Oklahoma, a juíza Sara Hill considerou inconstitucional uma busca feita nesse sistema sem mandado e excluiu as provas do processo. A base foi a 4ª Emenda, que protege o cidadão contra busca sem justificativa. É uma das primeiras decisões federais nesse sentido. Segundo a 404 Media, o sistema recebe mais de cem mil buscas sem mandado por mês. Bernie Sanders apresentou o "Ban Flock Act" para banir a rede.

   A intuição comum diz que um carro na rua não tem privacidade, porque qualquer pessoa pode vê-lo passar. Mas ninguém na rua anota a placa de todos os carros da cidade, todos os dias, num caderno que a polícia pode consultar sem pedir licença a um juiz. A juíza chamou isso de vigilância. O cuidado está em não estender a decisão além do caso: ela vale para uma busca, num tribunal. O limite constitucional da vigilância privada vendida ao Estado ainda está sendo traçado, e esta foi uma das primeiras decisões nessa direção. 404 Media

5. A Índia tira o Bitchat, de Jack Dorsey, das lojas de apps — O Bitchat troca mensagens sem internet, passando o texto de um celular para outro por Bluetooth, sem servidor no meio. Segundo Dorsey, o governo indiano mandou a Apple remover o app com base na Seção 69A da lei de TI, que autoriza o bloqueio de conteúdo. Provedores também bloquearam o site. Em julho, o GitHub já tinha recebido ordem de retirar o código. Numa semana de protestos, a Índia respondeu por 85% dos downloads do app.

   O bloqueio ataca o canal, não o conteúdo. Um app que dispensa servidor não tem moderador a quem mandar ofício nem central para desligar, e por isso o governo foi atrás da loja e do repositório de código. É o mesmo raciocínio de quem corta a internet num protesto, aplicado ao recurso feito para funcionar quando a internet é cortada. ThePrint

• Yann LeCun: diz ter "zero preocupação" com extinção. Para ele, os incidentes com agentes que escaparam ao controle vêm de sandboxes, os ambientes isolados de teste, mal projetados e com vazamento. Chamou Dario Amodei de "deluded" e o alarmismo de péssimo marketing. Interessa ao Pedro porque, sem querer, LeCun concorda com David Robinson no diagnóstico. Os dois tratam o risco como falha de engenharia de contenção, e não como destino. A diferença está na conclusão: para LeCun, basta projetar direito; para Robinson, é por isso que os laboratórios precisam de regra de usina nuclear. Fortune

Washington deu a si mesmo 120 dias para decidir como supervisionar a IA, e o Brasil não tem prazo nenhum. O PL 2338 espera a eleição passar, e os planos dos candidatos quase não falam de governança. Os dois países deixaram a regra para depois da urna. A diferença é que, nos Estados Unidos, a supervisão foi para o chefe da Inteligência. No Brasil, ainda não foi para ninguém.

Vigilância passou a ser contestada em várias frentes ao mesmo tempo, e o padrão aparece justamente porque os motivos são opostos. Em Oklahoma, um tribunal limitou o Estado: a polícia não pode consultar uma rede privada de câmeras sem mandado. Na Wired, a imprensa expôs uma empresa: o Muse, agente da Meta, monta a cada hora uma página sobre cada pessoa do círculo do usuário, inclusive gente que nunca instalou o app. Na Índia, foi o Estado que limitou o cidadão, derrubando um canal que funcionava fora do alcance dele. No primeiro caso, a pergunta é quem pode ver; no segundo, quem pode ser visto; no terceiro, quem pode falar sem ser visto. Até aqui, a discussão sobre infraestrutura de observação era técnica. Agora cada instituição está decidindo, por conta própria, a parte que lhe cabe.

O segundo sinal é menor e mais concreto. A Amazon anunciou que não usa mais acordos de confidencialidade com órgãos públicos em projetos de datacenter, criou um fundo de US$ 1 bilhão para comunidades e prometeu devolver mais água do que consome até 2030. As negociações que corriam em segredo passaram a ser públicas porque as comunidades reagiram. Pela primeira vez, a resistência local à obra conseguiu uma concessão por escrito. WNDU

• A investigação da Wired sobre o Muse, da Meta: o agente tem instrução para perfilar cada pessoa da vida do usuário. A Hunterbrook conseguiu fazer o Muse ligar contas pseudônimas a uma pessoa real, e quem foi perfilado nunca instalou o app.
• O FT sobre a dívida de Masayoshi Son: a dívida da SoftBank subiu de US$ 77 bilhões para US$ 113 bilhões em um ano, para sustentar cerca de 13% da OpenAI. É o elo mais exposto do circuito de crédito da IA.

Quote do dia

"The fears appeared even more clearly in OpenAI's unusual 2018 charter, which declares that because "we are concerned about late-stage AGI development becoming a competitive race without time for adequate safety precautions," the company is committed to "stop competing with and start assisting" any "value-aligned" projects that reach AGI before it does." — The Optimist, Keach Hagey

Em 2018, a OpenAI pôs no estatuto o medo de uma corrida sem tempo para precauções de segurança. Oito anos depois, o homem que escrevia essas precauções saiu dizendo que a empresa não aguenta o próprio ritmo.

Conexão do vault

• Arquivo 1: [[montesquieu]] — a liberdade política é a segurança contra o arbítrio. Para garanti-la, "o poder deve frear o poder", e a função de julgar precisa ficar separada das funções de fazer a lei e de executá-la.
• Arquivo 2: [[byungchulhan]] — o panóptico digital é participativo. O controle não precisa de coação, porque as pessoas se expõem por vontade própria e alimentam o sistema que as vigia.
• A conexão: o Muse vai um passo além de Han: o perfilado já não precisa nem participar, basta que um amigo instale o app. Por isso a saída de Han, recuperar a opacidade pessoal, não protege ninguém, porque a pessoa pode ser exposta sem ter feito nada. O que protegeu alguém nesta semana foi a saída de Montesquieu, um poder separado dizendo não: uma juíza de Oklahoma barrando a polícia. Montesquieu também explica por que a manchete preocupa. Na força-tarefa de Clayton, quem investiga os laboratórios ajuda a escrever a regra para eles, e o freio que funcionou em Oklahoma depende de essas funções ficarem separadas.