15.10.26

Peça à IA da Meta uma imagem com o nome de Lula e ela recusa. Peça com o nome de Flávio Bolsonaro e ela gera. A BBC Brasil e o Brasil de Fato noticiaram o caso. A Meta prometeu mudar a ferramenta depois das acusações de favorecimento. Na mesma semana, a campanha de Lula acusou a empresa de interferência eleitoral por restrição de alcance, e o TSE deu à Meta 48 horas para explicar. O episódio não veio sozinho. Segundo o Diário do Pará, a Meta bloqueou anúncios de Lula no Facebook dez dias antes do primeiro turno e liberou a conta no mesmo dia. São três incidentes numa campanha, e cada um foi corrigido só depois da reclamação.

A pergunta automática é se alguém em Menlo Park escolheu um lado. Provavelmente é a pergunta errada. Filtros de geração de imagem costumam trabalhar com listas de nomes protegidos, e quem governa um país está nelas antes de todo mundo, para impedir deepfake de chefe de Estado. A Meta não explicou o critério. Se foi esse, a regra nasceu para proteger presidentes e acabou punindo o presidente que é candidato. Ninguém precisou querer o desequilíbrio para que ele acontecesse. Uma gráfica que imprime o santinho de um candidato e recusa o do outro responde à Justiça Eleitoral, tenha ou não intenção. O gerador de imagens virou essa gráfica, com a diferença de que ninguém sabe o que está escrito na lista.

A Meta tem uma objeção razoável: ninguém deixou de fazer campanha porque um gerador de imagens recusou um pedido. Mas o meme feito em dez segundos é munição de quem defende um candidato no grupo da família, e o custo de produzi-lo agora depende de qual nome se digita. O tamanho do efeito importa menos que o modelo de conduta. A plataforma edita, o eleitor percebe, a campanha reclama, o TSE cobra e a empresa corrige. Tudo acontece depois. O Brasil não tem uma regra prévia e auditável que diga como um filtro de IA trata candidatos durante a eleição, e por isso cada caso vira notificação com prazo de 48 horas.

O tema vence hoje porque o calendário não espera. No segundo turno, um ajuste de produto anunciado numa quinta-feira pode chegar tarde para quem vota no dia 25. A Meta promete mudar a ferramenta. Promessas desse tipo costumam chegar depois da apuração.

A Economist publicou um texto sobre o dado que sustenta o boom da IA: números de adoção e de retorno que, quase sempre, vêm de quem vende a tecnologia, medidos com perguntas que facilitam o sim. O dinheiro que entra em data centers e laboratórios é calculado sobre essas curvas. A Forbes Brasil oferece o retrato local, com 80% das empresas brasileiras dizendo que usam IA e só 7% usando no centro do negócio. Os dois números estão corretos e medem coisas diferentes. Vale ler inteiro porque explica a fragilidade do mercado neste dia de bolsa em queda. O problema não está nos modelos. Está na régua. Economist

1. A IA da Meta desenha Flávio e não Lula, e o TSE cobra explicação — O filtro de um gerador de imagens virou assunto eleitoral no segundo turno, e a Meta tem 48 horas para responder. BBC Brasil

2. Estados americanos processam a OpenAI pela segurança das crianças — Segundo a The Verge, oito estados americanos processam a OpenAI e dizem que o ChatGPT não é seguro para crianças. A Flórida abriu o primeiro processo estadual em junho, e agora outros seguiram. Washington não aprovou nenhuma lei federal de IA. Os procuradores estaduais não precisam de uma, porque têm leis de defesa do consumidor que já cobrem produto perigoso vendido a menor de idade.

   O caminho tem precedente. Nos anos 1990, os estados não esperaram o Congresso para enfrentar a indústria do tabaco. Processaram as fabricantes uma a uma com leis que já existiam, e o acordo de 1998 acabou funcionando como regulação nacional sem nunca ter passado por votação. Visto do Brasil, o padrão é o mesmo da manchete: a plataforma é regulada por quem tem competência local. Nos EUA, é o procurador estadual. Aqui, é o TSE. The Verge

3. O crédito de IA encarece e a bolsa de chips cai — A Dell perdeu 11% num só dia, segundo a CNBC, com dúvidas sobre o calendário da IA nas empresas. A Reuters informou que ficou mais caro o seguro contra calote da dívida de IA, o contrato que um credor compra para receber caso o devedor quebre. Quando esse preço sobe, o mercado está dizendo que acredita menos no pagamento. O FT acrescenta que o apetite por IPOs de data center chegou ao limite.

   O medo que se lê na tela não é o de a IA deixar de funcionar. É o de a conta chegar antes da receita. Um data center é construído com dinheiro emprestado hoje e pago com aluguel de computação nos anos seguintes, e o descompasso entre essas datas é o que o mercado precificou ontem. Gary Marcus afirmou que a CoreWeave, a operadora de data centers mais endividada do grupo, caiu mais de 15% no dia. CNBC

4. A TSMC lucra mais e abre outra fábrica de 3nm enquanto o setor afunda — No mesmo dia em que as ações de chips caíam, o FT noticiou que o lucro da TSMC disparou com a demanda por IA, e a The Information informou que a empresa vai acrescentar uma fábrica de 3nm para atender a pilha de pedidos. A demanda física continua de pé.

   As duas notícias não se contradizem. A TSMC funciona como uma empreiteira com fila de obras: recebe por encomenda e não carrega a dívida de quem encomendou. O risco ficou com o comprador, que tomou o empréstimo para pagar o chip e ainda precisa provar que vai alugá-lo. Taiwan fatura enquanto o crédito do cliente sofre. FT

5. Os números da IA medem mal — A Economist mostra que o boom se apoia em métricas de adoção ruins, quase sempre produzidas por fornecedores. No Brasil, a pesquisa da Forbes separa quem experimenta de quem depende, e encontra 80% num grupo e 7% no outro. O mercado de crédito do item 3 empresta com base no primeiro número. A receita depende do segundo. Economist

• Gary Marcus: em "Generative AI in disarray", registra a queda forte das ações de tecnologia e a perda de mais de 15% da CoreWeave, que tem dívida crescente. O resto do texto está atrás de paywall. Interessa porque Marcus sustenta há meses que o elo fraco é o balanço, não o modelo, e ontem o mercado de crédito agiu na mesma direção. Substack
• Yoshua Bengio: segundo o Decrypt, a carta dele e de outros 400 cientistas pedindo que os modelos sejam desconectados da internet continua repercutindo. O Radar tratou o tema ontem, e ele entra aqui só como eco. Decrypt
• Meio — Cotidiano Digital: o feed traz só os títulos das edições do dia. Um deles, "Lula e Flávio tiraram as luvas", ajuda a entender o tom da campanha que recebeu o caso da Meta. Meio

A OpenAI nos tribunais estaduais americanos e a Meta no TSE. Nos EUA, procuradores estaduais processam a OpenAI pela segurança de crianças. No Brasil, a Justiça Eleitoral cobra a Meta por um filtro de imagem no segundo turno. Nenhum dos dois países tem uma lei nacional de IA em vigor, e a plataforma acaba regulada por quem tem competência sobre uma parte do problema: o consumidor menor de idade lá, a eleição aqui. O resultado é regulação por caso, depois do fato, uma notificação de cada vez.

A bolsa em Nova York e a pesquisa em São Paulo. Os investidores vendem papéis de chips por medo da dívida de IA. A Forbes Brasil mostra que só 7% das empresas brasileiras usam IA no centro do negócio. O Brasil também mede adoção com pesquisa de fornecedor, e por isso também não sabe quanto da onda é uso e quanto é teste.

O mercado passou a vigiar o credor. Até agora, a pergunta que movia os papéis de IA era técnica: qual modelo, qual benchmark. Ontem, o seguro contra calote, o fim do apetite por IPOs de data center e a dívida da CoreWeave se moveram juntos, e a TSMC lucrou no mesmo dia. Quando a demanda física sobe e o preço do crédito também sobe, a dúvida deixou de ser se a IA funciona. Passou a ser quem aguenta esperar até ela pagar.

O filtro de IA virou questão de neutralidade eleitoral. Nas eleições anteriores, as brigas com plataformas eram sobre alcance de post e veiculação de anúncio, coisas que já existiam antes. A geração de imagem é a primeira capacidade nova da IA que entra no calendário do TSE. Um filtro é uma lista, e lista tem critério. A próxima eleição vai cobrar esse critério antes da campanha, não durante.

• O pacote da Economist sobre IA na ciência — três peças: IA ajudando cientistas com a burocracia, IA projetando organismos do zero e laboratórios que querem virar pesquisadores de fronteira, com o risco biológico no mesmo pacote. Lido ao lado do texto da Wired sobre a IA que "veio pela matemática", mostra qual é o próximo mercado que os laboratórios pretendem conquistar. Economist
• O CEO da Flock contra a reação à vigilância — o TechCrunch entrevista o chefe da empresa que vende à polícia câmeras de leitura de placas e microfones. Os microfones detectariam "só tiros", mas o site da própria empresa diz outra coisa. É um bom estudo de como se vende vigilância privada ao Estado. TechCrunch

Lea Ypi, na London Review of Books, sobre Platão, democracia e Big Tech. Ypi lê a crítica de Platão à democracia como crítica ao governo da opinião sem critério, e diz que a Big Tech assumiu uma autoridade parecida com a da Igreja medieval, o que pede uma nova resistência esclarecida. A ponte com a manchete é direta: quem decide quais imagens a máquina gera durante uma eleição ocupa um pedaço dessa autoridade, e ninguém o elegeu para isso.

A estreia de John Ternus como CEO da Apple. Uma especialista em palestras critica o discurso de estreia por soar ensaiado e diz que, na era da IA, a plateia desconfia do que parece perfeito demais. O primeiro teste real de Ternus vem em dezembro, com a Apple Intelligence na China, onde as regras de censura locais decidem o produto.

Quote do dia

"A study later published in Nature showed that 61 million people saw the button, and it actually changed people's behavior: it led an additional 340,000 people to vote." — Careless People, Sarah Wynn-Williams

Em 2010, o Facebook pôs um botão no topo do feed e levou mais 340 mil americanos às urnas. Era um experimento, com grupo de controle. Dezesseis anos depois, a mesma empresa muda um filtro no segundo turno brasileiro, e ninguém mede o efeito.

Conexão do vault

• Arquivo 1: [[espiral_do_silencio]] — na caixa de comentários, o clima de opinião vem de uma lista ordenada por um critério de máquina que o leitor não conhece. A formulação que fica é que "a ordenação distorce a percepção do tamanho, não a do mérito". Ninguém precisa ser censurado para que o espaço visível pareça mais unânime do que é.
• Arquivo 2: [[socialphysics]] — o programa de Pentland segue cinco passos: observar, representar, inferir, prever e intervir. O último passo, mudar regras e incentivos e medir o resultado, é o teste A/B feito em escala de sociedade, e o vault aponta o risco de engenharia social tecnocrática.
• A conexão: Um filtro que gera memes de um candidato e não do outro não censura ninguém. Muda só a quantidade de material visível de cada lado, que é a variável que, segundo Noelle-Neumann, define quem se sente maioria e quem se cala. Para a física social, mudar um filtro é uma intervenção, o quinto passo do método. A diferença é que, numa eleição, a intervenção não tem grupo de controle, nem medição, nem autor declarado. O TSE está pedindo explicação sobre um experimento que ninguém admite ter feito.