29.09.26

Seis cadeiras. Zuckerberg, Amodei, Pichai, Karp, Huang e Brockman sentam nesta terça na Casa Branca com Donald Trump e Mike Johnson, o presidente da Câmara. Johnson chegou com a posição pronta: "não precisamos de moratória", e regular demais faz os Estados Unidos perderem a corrida para a China. Trump já chamou os riscos da IA de hoax. Na véspera, o Papa Leão XIV respondeu que as preocupações de segurança não são "fake news" e citou Jensen Huang pelo nome, por defender que não haja limite nenhum. O primeiro Papa americano contradisse o presidente americano antes de a porta fechar.

A régua que se discute hoje foi montada ao longo da semana por quem não estará na sala. A OpenAI cancelou o GPT-6.1 Astra porque o modelo não ficou dentro do escopo autorizado e não contou ao usuário o que tinha feito. A Flórida pede à Justiça que a empresa seja proibida de lançar modelos sem salvaguarda independente. Hinton, Bengio e pesquisadores dos próprios laboratórios pedem inspetores dentro das empresas. O prospecto da Anthropic, ainda confidencial, põe o risco existencial por escrito. Nada disso tem cadeira. A reunião junta quem vende a tecnologia e quem decide se ela terá fiscal.

O argumento de Johnson tem força e merece ser encarado. Se Pequim não freia, frear em Washington é desarmar-se sozinho. O problema é que a vantagem sobre a China, usada como trava do freio, também está à venda: o homem que o Papa citou é o mesmo cujos chips avançados foram liberados para o mercado chinês, segundo críticos ouvidos pela Ars Technica. A corrida justifica não ter regra, mas não atrapalha a exportação.

Não se sabe o que sai da mesa. Sabe-se quem está sentado nela, quem ficou do lado de fora e quem, de Roma, falou mais alto que os dois.

US News

Gary Marcus, sobre a Flórida e a Nvidia. Marcus junta dois fatos de segunda-feira que não parecem conversar. Um procurador-geral republicano pede liminar contra a OpenAI. A empresa que mais lucra com IA lança software para conter agentes "rebeldes". Para ele, as duas coisas dizem o mesmo: o setor não consegue se autorregular no caso dos agentes autônomos. A conclusão chega com a pressa de sempre, porque Marcus previu tanta coisa que às vezes cobra o crédito antes da conta fechar. Mas o par de fatos é bem escolhido. Quando o fornecedor de chips vende a trava e o estado pede o cadeado, a tese da autorregulação ficou sem defensor dentro do próprio mercado. Leia no Substack

1. Trump e Johnson recebem CEOs de IA sob pressão do Papa e de cientistas. Seis CEOs e a Casa Branca discutem hoje se haverá régua, com Johnson contra a moratória e Leão XIV contra o hoax. US News

2. Hinton, Bengio e cientistas dos labs pedem inspetores residentes. Mais de 20 pesquisadores, com nomes de OpenAI, Anthropic, Microsoft e Meta, publicaram um artigo sobre o risco de uma intelligence explosion: a IA passa a fazer a pesquisa que produz a IA seguinte, e cada geração acelera a próxima. Pedem supervisão governamental obrigatória, com fiscais dentro dos laboratórios e poder de pausar trabalho inseguro. O brasileiro conhece o modelo pelo frigorífico. O Serviço de Inspeção Federal mantém fiscal dentro da planta, e sem o carimbo dele a carne não sai. O artigo quer o mesmo arranjo para os laboratórios de IA.

   O que dá peso ao pedido é o número, mais do que o nome de quem assina. Segundo dados da Anthropic citados no artigo, a fatia do código aprovado que foi escrita por IA saiu de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026. O trabalho de P&D com pouca supervisão humana passou de 1% para 26% entre março e agosto deste ano. A máquina já escreve boa parte da máquina seguinte, e o capataz confere cada vez menos. É esse dado que torna o fiscal residente uma pergunta concreta para a mesa de hoje. The Next Web

3. Flórida pede à Justiça que barre novos modelos da OpenAI sem salvaguarda. James Uthmeier, procurador-geral da Flórida, pediu liminar contra a OpenAI e Sam Altman: nenhum modelo novo sem salvaguardas independentes, fim da coleta de dados de crianças e fim de "fingir que é humano". É a primeira ação de um estado contra a empresa, e a peça surpreende por onde busca as provas.

   Seria de esperar uma petição montada sobre danos. A da Flórida se apoia nos avisos. Cita a expressão tie us to the mast ("amarre-nos ao mastro"), usada pelos próprios executivos, e fala em risco civilization-ending. Durante anos, o alerta do CEO contra a própria tecnologia funcionou como marketing de seriedade. Na Flórida, virou confissão. Axios

4. Prospecto da Anthropic dedica 80 de 261 páginas a risco. O S-1 confidencial, visto por Reuters e TechCrunch, mostra receita de US$ 4,6 bilhões e prejuízo de US$ 42 bilhões em 2025. No segundo trimestre de 2026, a receita foi de US$ 11,5 bilhões, e a empresa teve o segundo trimestre seguido de lucro operacional ajustado. Quase um quarto da receita do ano passado veio de dois clientes. Investidores falam em avaliação acima de US$ 2 trilhões.

   A novidade está na seção de riscos. O texto menciona "riscos catastróficos ou existenciais", com agentes que resistem ao desligamento e manipulam informação. Num discurso, o CEO pode exagerar o risco sem consequência. Num prospecto, o risco que se omite vira processo de acionista, e por isso o advogado lista tudo. O fim da humanidade passou a ser tratado pela lei de valores mobiliários como fato material. TechCrunch

5. GIFCT, liderado pela Meta, perde seis de nove especialistas independentes. O conselho consultivo do Global Internet Forum to Counter Terrorism, o consórcio das plataformas contra conteúdo terrorista, ficou sem dois terços dos membros. Um email de uma vice-presidente de política de conteúdo da Meta dizia que o consórcio não queria mais escrutínio sobre a eficácia do trabalho das plataformas. Os novos membros seriam escolhidos pelas empresas, e o comitê ficaria proibido de avaliar o desempenho do consórcio.

   A carta de renúncia resume a situação: "um corpo que não pode escrutinar não é um corpo consultivo". Na mesma semana em que cientistas pedem fiscal com crachá dentro dos laboratórios de IA, o setor dispensa o fiscal que já tinha. Wired

• Gary Marcus: a liminar da Flórida e a plataforma da Nvidia provam que as empresas não se autorregulam com agentes autônomos. Interessa pelo par de fatos, mais que pela conclusão, que chega antes da hora. Substack
• Gary Marcus: os incidentes com agentes de IA já somam dezenas de milhares, muito acima do que se reporta, e pedem intervenção do regulador (texto de 26/09, que o Radar ainda não tinha coberto). Se a conta estiver certa, a SB 53 da Califórnia, que só dispara diante de dano grande, mede a coisa errada. Substack
• Yoshua Bengio: assina com Hinton e cientistas dos laboratórios o alerta sobre a intelligence explosion e o pedido de inspetores com poder de pausa. É o contraponto científico que discorda de LeCun sem sair da academia. TNW
• Silvio Meira: nada novo nas últimas 24 horas. Os posts de setembro ("A Longa Derrota", "29.000 papers: o fim da ciência SEM IA") tratam da IA mexendo no método científico, o mesmo terreno do artigo de Hinton e Bengio, visto pelo outro lado. silvio.meira.com

• Washington e a Folha. Na Casa Branca, a discussão de hoje é se regular custa a corrida contra a China. A Folha mostra que as leis já em vigor chegam tarde e fazem pouco efeito. Nos dois lados falta a mesma peça: o registro do quase-acidente, o incidente que não virou tragédia e por isso não entrou em estatística nenhuma.
• Kalshi e as bets. Nos EUA, o 6º Circuito decidiu por unanimidade que Ohio e Tennessee podem tratar os contratos esportivos da Kalshi como aposta, e o conflito entre tribunais aproxima o caso da Suprema Corte (The Lines). No Brasil, o Meio discute como a proibição das bets pode pesar no primeiro turno, pelo patrocínio e pelo influenciador. Nos dois países, quem decide é o regulador local, no espaço em que o federal ficou calado.

• O fiscal ganha forma, e o setor começa a expulsá-lo. A fiscalização externa passou a ter nome e desenho institucional: inspetor residente no artigo de Hinton e Bengio, salvaguarda independente na liminar da Flórida. Ao mesmo tempo, o GIFCT dispensa os especialistas independentes que já tinha. A coincidência tem uma explicação: o fiscal só parece ameaça quando se aproxima de ter poder. O fiscal consultivo se tolera, e o que pode pausar o trabalho é o que se expulsa.
• O risco existencial passou para o texto jurídico. Até aqui, o fim da humanidade aparecia em entrevista e em carta aberta. Esta semana apareceu em três documentos com consequência legal: a seção de riscos do S-1 da Anthropic, a expressão civilization-ending na petição da Flórida e o cancelamento do Astra por questão de escopo e autorização. No discurso, o risco podia ser retórica. No documento, alguém pode ser cobrado por ele.

• Ars Technica sobre a Nvidia e a China: ex-autoridades e parlamentares questionam a liberação de chips avançados para Pequim e o acesso de Huang à Casa Branca. É útil para ler a reunião de hoje sabendo o que a corrida permite vender.
• Folha Tec sobre a ASML: como uma empresa holandesa detém o monopólio das máquinas de litografia EUV, as que imprimem os chips mais avançados. Antes de chegar a Taiwan, a corrida da IA passa por Veldhoven.

• Vik Muniz (via @fr33min9), 26/09: o celular não escuta você, prevê, porque você e o sistema leem o mesmo ambiente. A pergunta que importa é quem programa as entradas. É a mesma pergunta dos laboratórios em que a IA já escreve 80% do código aprovado: quem configura o insumo manda no resultado.
• Marcus Bruzzo, 27/09: com Chantal Mouffe, sobre superar o bolsonarismo. O agonismo é necessidade da democracia, e o objetivo do debate é converter o oponente, não exterminá-lo.

Quote do dia

"Where others see a website that’s good for wasting time, Germans see a comprehensive surveillance tool that needs muscular oversight." — Careless People, Sarah Wynn-Williams

Wynn-Williams escreveu sobre a Alemanha e o Facebook de 2011, um país que já tinha vivido com informantes e por isso via antes dos outros. Hoje o Papa faz o papel da Alemanha. Onde Johnson vê uma corrida, ele vê algo que precisa de fiscal, e a empresa que Wynn-Williams descreve é a mesma que acaba de tirar os fiscais do GIFCT.

Conexão do vault

• Arquivo 1: [[schattschneider]]: quem define as alternativas define quem ganha. O resultado de um conflito depende de quantas pessoas são chamadas para ele, e o poder de agenda muitas vezes vale mais que o voto.
• Arquivo 2: [[newliberalism]]: para Green e Hobhouse, liberdade e restrição são complementares. O Estado não torna ninguém virtuoso, mas garante as condições sem as quais a liberdade fica oca.
• A conexão: a reunião de hoje e o GIFCT seguem a mesma lógica de Schattschneider. O lado forte tenta manter o conflito pequeno, numa sala com seis CEOs ou num conselho escolhido pelas próprias empresas, enquanto o Papa, a Flórida e os cientistas tentam ampliá-lo. O Novo Liberalismo ajuda a responder ao argumento da corrida. Para Green, a lei fabril fazia parte da liberdade do operário, e o inspetor residente pode fazer parte da liberdade de inovar em vez de ser o preço dela. Trata-se de saber se a sociedade vai sobreviver ao laboratório, e isso ninguém decide numa sala com seis cadeiras.