In partnership with

ED 054

Você escolhe as próximas edições: a votação está no fim desta edição.

A visita que o SyRI pulava antes de apontar fraude

Em 2020, a Justiça de Haia desligou o algoritmo que marcava endereços pobres. O fiscal holandês voltou a bater na porta.

Corredor de prédio residencial em Roterdã com uma prancheta apoiada ao lado de uma porta fechada e um painel de dados apagado ao fundo.

A porta que o algoritmo não abria

▼

Aos 56 anos, o escritor e filósofo holandês Maxim Februari ouviu em 5 de fevereiro de 2020, num tribunal de Haia, a sentença de um processo que ele ajudara a mover contra o próprio governo.

Februari não era advogado. Escrevia sobre direito e tecnologia nos jornais, e entrou na ação como cidadão, ao lado de entidades de defesa da privacidade e de um sindicato, a FNV.

Na sala, os juízes leram uma decisão que a imprensa europeia tratou como rara: um tribunal mandava um governo parar de usar um algoritmo de vigilância sobre beneficiários de auxílio social, com base em direitos humanos.

O alvo tinha sigla curta: SyRI, de Systeem Risico Indicatie (Sistema de Indicação de Risco). Era um programa do Ministério de Assuntos Sociais e Emprego que cruzava bancos de dados públicos para apontar quem tinha mais chance de fraudar benefício social.

O cidadão marcado não sabia que estava marcado. Ninguém explicava quais dados tinham pesado, nem qual fórmula transformava a conta de água, o endereço e o histórico de emprego num alerta.

Para quem recebia o auxílio, a primeira notícia costumava chegar como carta: uma exigência de documentos, um corte provisório, uma convocação para explicar a própria rotina. O motivo nunca vinha escrito.

A Justiça de Haia decidiu que o governo não podia seguir assim. O sistema violava o artigo 8 da Convenção Europeia de Direitos Humanos, que protege a vida privada, porque era opaco demais para que alguém se defendesse dele.

A sentença tinha consequência prática. Sem o alerta pronto, o fiscal de benefício voltava a depender da ferramenta mais antiga do ofício: ir até o endereço, tocar a campainha e conversar com quem mora lá.

Como o SyRI escolhia seus alvos, quem o levou ao tribunal e o que a visita revela que a planilha esconde começa num bairro operário de Roterdã.

Continue lendo ↓

Quem banca a edição de hoje

What if AI made us prove we’re creative?

This year AI shook up creative strategy. Most teams are still working like it didn't.

Ari Murray, Chief Digital Officer at Salt and Stone sits down with Bryan Harvey, Head of Brand at Hightouch, for an honest conversation about what's breaking on creative teams right now, how the roles are changing, and what a day looks like when creatives spend it on ideas, concepts, and craft while agents handle the manual execution.

Leave with new insights from 3 experts in the field and 5 prompts to instantly improve your creative output.

Reserve your seat

Patrocinadores mantêm a edição gratuita

I A história de quem atravessou

Haia desliga o SyRI

Uma lei de 2014, um bairro de Roterdã e uma sentença de 2020.

O SyRI nasceu por lei em 2014, aprovado pelo parlamento holandês como ferramenta contra fraude em auxílios, moradia subsidiada e impostos. O decreto que o regulava listava 17 categorias de dados que podiam ser cruzadas.

Entravam na conta emprego, multas, dívidas, educação, aposentadoria, imóveis, seguro de saúde e consumo de água e energia. Um gasto de água baixo demais num endereço, por exemplo, podia sugerir que ninguém morava ali, ou que a família vivia em outro lugar.

O programa não rodava no país inteiro de uma vez. Prefeituras e órgãos públicos pediam um projeto, e o ministério aplicava o cruzamento a bairros escolhidos. Os bairros escolhidos eram, quase sempre, os de renda mais baixa.

Em 2019, a vez foi de Hillesluis e Bloemhof, no sul de Roterdã. Moradores, associações locais e vereadores protestaram. Em julho de 2019, a prefeitura de Roterdã suspendeu o projeto antes de o processo chegar ao fim.

Quando o algoritmo apontava alguém, o nome ia para um registro de alertas de risco, onde podia ficar até 2 anos. A pessoa não era avisada. Só descobria se um fiscal aparecesse ou se um benefício travasse.

No mesmo ano, o australiano Philip Alston, relator especial da ONU para extrema pobreza, mandou ao tribunal de Haia um parecer de amicus curiae (amigo da corte, opinião de quem não é parte do processo). Ele escreveu que o SyRI tratava os pobres como suspeitos por padrão.

“O sistema de bem-estar digital tem um enorme potencial de prejudicar os mais pobres e vulneráveis da sociedade.” Philip Alston, relatório ao Conselho de Direitos Humanos da ONU, 2019.

A corte de Haia não declarou que todo algoritmo é ilegal. Disse que o governo podia combater fraude com tecnologia, mas que o SyRI não equilibrava o objetivo com a privacidade de quem era vasculhado.

O ponto central foi a opacidade. O Estado se recusou a mostrar o modelo de risco no processo, alegando que fraudadores aprenderiam a escapar. Sem o modelo à vista, os juízes concluíram que ninguém conseguia contestar um alerta.

Em abril de 2020, o governo holandês anunciou que não recorreria. O SyRI foi desligado de vez, e os alertas guardados no registro deixaram de alimentar novas fiscalizações.

O que se sabe pouco é o efeito sobre cada pessoa marcada. O ministério nunca publicou quantos alertas o SyRI gerou nem quantos viraram fraude comprovada, e a corte não exigiu essa conta para decidir.

Maxim Februari seguiu escrevendo sobre o caso. Para ele, a vitória ficou registrada na sentença, e a pergunta sobre como fiscalizar sem a máquina ficou com os fiscais.

II Radar de Automação

O que o cruzamento não vê

Um alerta de risco diz onde olhar. A visita diz o que está acontecendo, e só ela separa a fraude da vida que mudou de endereço.

O fiscal de benefício na Holanda trabalha na prefeitura, num setor que os holandeses chamam de handhaving (fiscalização do cumprimento das regras). Ele confere se quem recebe auxílio mora onde declara, vive sozinho como diz e não tem renda escondida.

Antes do SyRI, a pista vinha de denúncia de vizinho, de cruzamento simples entre dois cadastros ou de uma inconsistência que o próprio atendente via no balcão. O algoritmo prometia trocar a sorte por estatística.

A troca tinha um custo que só aparecia na rua. Um consumo de água baixo pode ser fraude, mas também pode ser uma idosa que toma banho rápido, uma família que passa o dia na casa da avó ou um encanamento novo.

A visita domiciliar tem regra própria. O fiscal se identifica, explica o motivo e só entra com permissão do morador. Se a pessoa recusa, o caso segue por documentos, e a recusa sozinha não prova fraude.

O cruzamento enxerga o número. Quem bate na porta enxerga a caneca na pia, a escova de dente no banheiro e o filho que dorme ali três noites por semana por acordo de guarda.

O risco de pular a visita ficou exposto em outro caso holandês. Na toeslagenaffaire (o escândalo dos auxílios-creche), a Receita do país tratou milhares de famílias como fraudadoras e cobrou de volta valores que elas não deviam. O relatório do parlamento, de dezembro de 2020, chamou o caso de injustiça sem precedentes.

Em 15 de janeiro de 2021, o gabinete de Mark Rutte renunciou por causa do escândalo dos auxílios. O SyRI e os auxílios-creche eram sistemas distintos, mas tinham o mesmo vício: confiar no alerta e cobrar antes de olhar.

Roterdã voltou ao noticiário em 2023. A investigação Suspicion Machines, da redação Lighthouse Reports com a revista Wired, obteve o modelo que a prefeitura usara para pontuar beneficiários entre 2017 e 2021.

O modelo dava nota de risco maior a mulheres, a pais jovens e a quem não falava holandês fluente. A prefeitura já tinha parado de usá-lo em 2021, e admitiu à reportagem que o modelo trazia viés.

Para o fiscal, a lição é de ordem dos passos. A ferramenta pode sugerir o endereço. A conclusão sobre fraude depende de um fato que só se colhe no lugar: quem dorme ali, o que entra de dinheiro e por quê.

Antes: o alerta saía do cruzamento e o benefício podia travar antes de alguém pisar no endereço

Depois: o alerta vira hipótese, e a visita e a conversa decidem se há caso

Para quem trabalha longe da assistência social, a divisão serve de espelho. Painel, filtro e pontuação automática apontam onde olhar. A decisão que pesa na vida de alguém continua pedindo um olho no lugar.

Quem banca a edição de hoje

SOC 2 Ready in 14 days. Three sessions from you.

Enterprise buyers will not put your product near their customer data without a SOC 2 report. Sprinto gets you audit ready in 14 days, across three working sessions. AI agents do the collecting, you approve. Your auditor signs off.

Book a Demo and get $1,000 off

Patrocinadores mantêm a edição gratuita

III O movimento de hoje

Faça a visita antes da conta

O movimento de hoje é conferir, por uma semana, quantas decisões suas saem de um número que ninguém foi olhar no lugar.

1. Escolha um painel, relatório ou pontuação que você usa para decidir algo: cliente inadimplente, candidato fraco, fornecedor atrasado.

2. Durante 5 dias, anote cada decisão tomada a partir dele e marque se alguém confirmou o dado fora da tela.

3. Pegue 3 casos marcados como problema e faça a visita: ligue, abra o pedido original ou pergunte a quem está perto do caso.

4. Anote o que a visita mostrou que o número escondia. Um prazo que era do banco, um cadastro antigo, um endereço trocado.

A objeção vem rápido: visitar caso por caso toma tempo que a ferramenta economizava. Em Haia, a conta saiu ao contrário. O tempo que o SyRI poupou na triagem voltou como processo, protesto e um sistema inteiro desligado.

Um segundo passo completa a semana. Para cada caso conferido, escreva quanto custaria agir sem a visita: um cliente perdido, uma multa errada, uma pessoa cobrada por algo que não fez.

Leve a lista a quem decide a ferramenta. Mostre em quais casos o número bastou e em quais ele apontou a porta errada.

Guarde o registro mesmo que nada mude agora. Ele mostra o seu ofício na parte que a máquina ainda não faz, e pesa quando alguém propuser automatizar a decisão inteira.

Maxim Februari ajudou a desligar um algoritmo que marcava bairros pobres sem explicar por quê. O fiscal de Roterdã voltou a subir a escada do prédio e tocar a campainha.

Recalcular a rota começa pelos 3 casos da semana. Confiar no alerta e agir rápido, sabendo que parte das marcações aponta a porta errada, ou fazer a visita antes de decidir e gastar o tempo que o painel prometia poupar. Os dois caminhos estão acima.

“Agir pelo alerta da tela ou fazer a visita antes de decidir?”