O Departamento de Correções da cidade deve renovar um contrato multimilionário com uma gigante das telecomunicações prisionais que se gaba de usar gravações de chamadas telefônicas privadas de pessoas encarceradas para treinar seus modelos de inteligência artificial.
De acordo com um anúncio no City Record, a administração Mamdani planeja pagar à Securus Technologies até US$ 23 milhões ao longo de cinco anos pelo serviço telefônico usado por cerca de 7.000 detidos em Rikers Island. O contrato terá início em 1º de julho.
O grupo de assistência jurídica Brooklyn Defenders e especialistas em tecnologia estão pedindo ao governo Mamdani que desfaça o acordo, dizendo que poderia transferir grandes quantidades de dados pessoais, incluindo gravações de áudio, impressões de voz e conexões sociais, para uma empresa privada com supervisão limitada e um histórico conturbado.
As conversas que as pessoas na prisão têm com os seus entes queridos incluem momentos íntimos e interações privadas e vulneráveis. Não está claro se, além de serem gravadas, as ligações privadas de pessoas detidas na cidade de Nova York foram usadas para treinar o modelo de IA da Securus.
Num memorando em oposição ao contrato, os Defensores de Brooklyn alertaram para “um aparelho de vigilância comunitária que vai muito além dos muros das prisões, atacando as famílias, amigos e comunidades de nova-iorquinos encarcerados sem o seu conhecimento”.
A Securus começou a desenvolver o sistema de IA em 2023 usando um arquivo de chamadas de prisão gravadas para treinar modelos projetados para alertar sobre possíveis atividades criminosas, disse o presidente da empresa, Kevin Elder. Revisão de tecnologia do MIT.
Um modelo foi construído com base em sete anos de ligações do sistema prisional do Texas, disse ele, com esforços adicionais em andamento para criar ferramentas semelhantes adequadas para outros estados e localidades.
Segundo Elder, ao longo do ano passado a empresa testou essas ferramentas para analisar as conversas dos presidiários em tempo real.
Ele descreveu o sistema como tendo a capacidade de digitalizar o que chamou de “tesouro” de dados, utilizando grandes modelos de linguagem para identificar sinais de que um crime pode ser planeado, com o objectivo de detectar potenciais actividades criminosas numa fase precoce do seu desenvolvimento.
Os funcionários penitenciários rejeitaram algumas das preocupações levantadas pelos defensores – particularmente relacionadas com a fiscalização da imigração – dizendo que a agência não se inscreveu na rede mais ampla de partilha de dados da Securus.
“O departamento não optou por nenhum aplicativo que compartilhe dados ou informações com usuários externos”, disse a porta-voz Latima Johnson em comunicado.
As disposições de confidencialidade do contrato proíbem a Securus de compartilhar relatórios ou dados sem a aprovação prévia por escrito do departamento, acrescentou ela.
Os funcionários do departamento recusaram-se a responder a perguntas detalhadas sobre se as agências federais de imigração alguma vez procuraram acesso aos dados ou se o novo contrato continha proteções adicionais relacionadas com a IA ou a integração de terceiros.
O contrato proposto ainda não foi anunciado publicamente.
Apoiadores apontam que Securus já foi descoberto gravado incorretamente centenas de ligações entre advogados e clientes de Rikers, posteriormente divulgadas aos promotores em 2020 e 2021.
O assunto veio à tona depois que defensores públicos descobriram a gravação em provas compartilhadas pelos promotores. A empresa acabou removendo as ligações afetadas e trabalhou com a cidade para revisar suas proteções.
Representantes da Securus, com sede em Dallas, não responderam a um e-mail solicitando comentários.
‘Faça uma varredura nesses sistemas’
Zina Maka, professora de direito que estuda vigilância prisional e tecnologias emergentes, disse que os sistemas prisionais têm operado historicamente com sigilo generalizado e respeito pela lei.
“Muito do que acontece no espaço prisional está sujeito a uma opacidade considerável”, disse ela à THE CITY.
O advento da tecnologia melhorou a comunicação nas prisões – os detidos têm agora acesso a tablets para videochamadas – e proporcionou educação aos detidos.
Mas também estende a vigilância para além dos muros da prisão, disse Maka.
“As famílias que não fizeram nada de errado estão cada vez mais apanhadas nestes sistemas simplesmente porque estão a comunicar com alguém que está detido”, disse ela.
Os críticos observam a plataforma THREADS da Securus, que agrega gravações de chamadas, transcrições, voz e dados financeiros para mapear conexões sociais e sinalizar padrões de comportamento que os investigadores consideram suspeitos.
A Securus disse anteriormente que o banco de dados inclui informações de mais de 1,5 milhão de pessoas – incluindo muitas pessoas que nunca foram detidas, mas que receberam uma ligação de alguém que o foi.
O Departamento de Correções disse que as ligações gravadas de e para Rikers não faziam parte da comunidade THREADS.
As autoridades penitenciárias não estão detalhando atualmente quais proteções de privacidade farão parte do novo contrato, se houver.
Os Brooklyn Defenders também levantaram preocupações sobre o recurso que permite às agências participantes compartilhar dados entre jurisdições. Se ativada, essa ferramenta poderá agregar dados sobre prisões da cidade de Nova Iorque com informações de instalações noutros estados – incluindo algumas que detêm regularmente imigrantes para o governo federal.
Os críticos do novo contrato disseram que ele poderia permitir que investigadores externos procurassem dados sobre os nova-iorquinos presos em Rikers.
Funcionários do DOC confirmaram que nenhuma ligação foi compartilhada com o ICE.
‘Controle cada palavra’
Bianca Tylek, diretora executiva do grupo de defesa Worth Rises, disse que o Departamento de Correções deveria parar completamente de gravar as ligações das pessoas encarceradas.
“Encarcerar pessoas é um castigo”, disse ela à CIDADE. “Mas há tantos momentos privados – conversas sobre finanças familiares, saúde mental, coisas que não têm nada a ver com crime – que realmente não deveriam estar sob a alçada do governo.”
Tylek também destacou o impacto nas pessoas fora do sistema prisional.
“Não são apenas pessoas que estão sendo detidas”, disse ela. “As famílias que não fizeram nada de errado são apanhadas nesta vigilância – as suas vozes são gravadas, armazenadas e armazenadas durante anos, se não para sempre.”
Uma mãe cujo filho está detido em Rikers Island há mais de dois anos disse que a vigilância constante mudou fundamentalmente a forma como falam entre si.
“Temos que controlar cada palavra”, disse a mulher, que pediu anonimato, à CIDADE. “É impossível realmente falar com meu filho sobre os filhos dele.”
Ela disse que seu filho às vezes começa a chorar ao telefone, mas evita discutir o motivo porque acredita que a conversa está sendo gravada.
Tylek observou que a gravação de chamadas das prisões só começou em 2008, sob o comando do ex-comissário Martin Horn. Inicialmente, as chamadas ficarão retidas por 18 meses antes de serem excluídas. O DOC não informou se esse ainda era o caso. Horn argumenta há muito tempo que as gravações são uma ferramenta importante para manter as pessoas seguras na prisão e para os promotores fortalecerem seus processos criminais.
Tylek observou que as autoridades municipais nunca divulgaram publicamente dados sobre a frequência com que as chamadas gravadas levaram a esses resultados.
“Pedimos ao DOC que compartilhasse quantas horas eles estão gravando e que porcentagem dessas chamadas estão sendo sinalizadas para fins de segurança”, disse ela.
Comissário de proteção de contrato
O contrato da Securus é liderado por James Conroy, vice-comissário do departamento para assuntos regulatórios. Conroy, que passou 25 anos no departamento jurídico do NYPD, ingressou no Correcional em 2024.
O acordo proposto ainda deve ser registrado oficialmente pelo controlador da cidade, Mark Levine. O porta-voz Terence Cullen disse que seu escritório está revisando o contrato e isso provavelmente levará várias semanas.
A extensão do contrato ocorre no momento em que a administração Mamdani contratou um consultor sênior de tecnologia e inovação para supervisionar o uso expandido de IA pela cidade. Rashida Richardson, advogada de direitos civis, trabalhou anteriormente como consultora sênior na Mastercard.
Quando questionada sobre o acordo com a Securus, ela respondeu: “Tive que recusar”.
O contrato surge no momento em que o novo Comissário Penitenciário, Stanley Richards, fala publicamente sobre sua difícil experiência de detenção em Rikers durante a década de 1980, enquanto lutava contra o vício.
Richards defendeu o contrato em um evento não relacionado na semana passada, dizendo que as ligações não seriam compartilhadas com o ICE.
Quando questionado se estava preocupado com as ligações de Rikers Island para seu pai gravadas naquele dia, Richards respondeu: “Não”.
