Na semana passada, Ava Kofman escreveu uma peça interessante, mas aterradora, no The Intercept about Voice RT. Você provavelmente nunca ouviu falar do Voice RT antes, porque tem sido uma daquelas coisas que o governo dos EUA faz em segredo; neste caso, estava desenvolvendo tecnologia que pode identificar positivamente alguém pelo som de sua voz. Não deixe de ler. É uma informação importante que todos precisam conhecer.
Nossa voz é o identificador biométrico perfeito; é estável e único.
Agora, a idéia de reconhecer alguém por sua voz é fácil de entender. Fazemos isso todos os dias quando conversamos com as pessoas próximas a nós. A voz de uma pessoa é bastante única e não é necessário muito poder de processamento - seja do tipo orgânico em nossas cabeças ou do tipo de silício em nossos gadgets - para saber com quem você está falando apenas por ouvi-los falar. Mas a NSA foi capaz de levar as coisas ao extremo. Eles têm a capacidade de ouvir tudo, em qualquer lugar. Se você estiver usando um telefone público no meio do nada, eles poderão ouvir. Eles podem até ter autoridade para fazê-lo, e isso significa que podemos ter um grande problema em nossas mesas de cabeceira ou mesinhas de centro chamadas Google Home e Amazon Echo.
Em conversa com The Verge, Albert Gidari, diretor de privacidade do Stanford Center for Internet and Society, disse que esses produtos "são vulneráveis às demandas do governo por acesso e divulgação; acho que o governo poderia obter uma ordem de assistência técnica para facilitar a verificação, e sob a FISA, talvez para construir a ferramenta também ". Tenho certeza de que Gidari está certo, porque o governo já pode intimar nossos telefones, computadores e até nossas televisões para facilitar uma investigação. Os senadores Wyden (D., Oregon) e Paul (R., Kentucky) acham que a FISA também pode ser abusada dessa maneira.
E não se trata de uma agência governamental espionando o que estamos dizendo ou fazendo quando conversamos com o Alexa ou o Google Home. Eles não precisam dessa informação; tudo o que eles querem é uma gravação de nossas vozes.
Tanto o Echo quanto o Google Home armazenam gravações do que dizemos ao conversar com eles. Ambos também transmitem dados de voz para um servidor em nuvem para processamento. Felizmente, cada um só grava após a palavra quente ser detectada e todos os dados que saem do dispositivo são criptografados e anonimizados. Se eles podem interceptar e descriptografar os dados, exigi-los nos tribunais ou retirá-los diretamente do dispositivo, tudo o que eles ouvirão são pessoas como você e eu dizendo ao Assistant ou Alexa para mudar de canal ou fornecer uma previsão do tempo - informações mundanas que você não está tentando manter segredo. A polícia de Bentonville, Arkansas, descobriu exatamente isso quando um Amazon Echo foi intimado em um caso de assassinato de 2016. Mas, novamente, não era isso que a NSA estava coletando com o Voice RT; eles só queriam alguns dados de amostra de uma voz para que eles pudessem corresponder ao fazer espionagem em tempo real.
Não é o que você diz. É o fato de você dizer isso que o torna interessante para a NSA.
Procurando nos documentos vazados por Edward Snowden, Kofman descobriu que a NSA coleciona dados de reconhecimento de voz há anos. Essa tecnologia foi usada para identificar Saddam Hussein e corresponder a algumas gravações anteriores que foram capturadas. Impressões de voz para Osama Bin Laden e outros membros de alto escalão da Al Qaeda foram criadas, e um memorando conta como Abu Musab al-Zarqawi foi considerado o orador em arquivos de áudio on-line nos quais a CIA estava muito interessada. Esses documentos classificados mostram que entre Em 2004 e 2012, a NSA refinou e usou sua tecnologia de reconhecimento de oradores em operações de contraterrorismo e detenções internacionais de drogas.
Se você acha que a principal agência de espionagem do país, colecionando gravações aleatórias do que as pessoas dizem para ajudar no combate ao terrorismo ou ao tráfico de drogas, está bem, poucas pessoas discutem com você. O Google e o Facebook (e provavelmente todas as outras empresas da Internet) examinam dados coletados em busca de pornografia infantil ou abuso, violação de direitos autorais e atividades terroristas porque alguém sente que é para um bem maior. Eu não vou discutir. Mas Snowden também revelou que a NSA planeja empregar a mesma tecnologia para impedir que denunciantes como ele exponham seus crimes anos antes da assinatura da Ordem Executiva 13587.
A NSA planeja usar as táticas que ajudam a capturar Bin Laden para vigiar os americanos.
Isso está indo longe demais e há pessoas como o ex-conselheiro da Casa Branca do diretor de inteligência nacional Timothy Edgar preocupado com a nossa privacidade e as repercussões de uma agência governamental dominante, se pensam que dissemos ou fizemos algo que não gostam. Todos nós já ouvimos casos em que uma linha muito fina foi percorrida e cruzada e tudo não era muito legal de acordo com o espírito da Constituição. Quando se trata de nossas vozes, os especialistas em liberdade civil acham que o Google e a Amazon precisam mudar o funcionamento do Home e do Echo para que nenhum dado de voz seja retido.
Nossas vozes são estáveis; algo que eu disse há dez anos pode ser identificado positivamente através de uma impressão de voz como vindo de mim hoje. Com as gravações de voz em mãos, mesmo que sejam arquivos dizendo algo como "OK Google, reduza as luzes da sala para 50%", é fácil usá-las contra nós para qualquer investigação ou operação. Imagino que a NSA tenha muitos dados de voz que possam identificar uma pessoa que serviu bebidas a um terrorista procurado em um hotel ou o agente no balcão de passagens de um aeroporto. Também imagino que esses inocentes foram interrogados e depois servidos com uma ordem de vingança, apesar de inocentes de quaisquer crimes e a NSA, a CIA e o FBI sabiam que eram inocentes.
Não acredite na conversa de que programas como o FISA são projetados e usados apenas para nos proteger. Temos muitas evidências em contrário.
Isso precisa ser desmascarado e debatido em público. A tecnologia que pode ser usada para rastrear jornalistas ou expor suas fontes é perigosa quando não usada corretamente e não deve ser escondida atrás de um muro de classificação governamental. Enquanto grupos como a EFF e a Freedom of the Press Foundation tentam fazer isso acontecer, há pressão no Google e na Amazon para que parem de salvar e analisar os dados de voz da maneira que fazem agora. Isso coloca o amortecedor em um sistema projetado para analisar tudo e ficar mais inteligente. O aprendizado de máquina precisa de grandes quantidades de dados para analisar repetidamente para "aprender". O Google e a Amazon precisam se preocupar em coletar e armazenar tudo de uma maneira que o mantenha anônimo, em vez de se preocupar com o modo como suas máquinas de aprendizado podem aprender sem os dados de que precisam.
Uma máquina precisa de dados para aprender. Muitos dados foram repetidos várias vezes.
Apontar o dedo para Alexa e Assistant como a raiz do problema não é bom para quem os considera úteis. Precisamos nos concentrar em amarrar em nosso governo e acabar com a vigilância injustificada dos americanos. E isso não é apenas uma coisa dos EUA; A Interpol e o GCHQ da Grã-Bretanha "trabalharam em estreita colaboração" com a NSA e com programas de crédito como o Voice RT como "desempenhando um papel importante em nosso relacionamento com a NSA". Diz-se que a China tem o mesmo tipo de programa e agora é capaz de identificar positivamente dezenas ou talvez centenas de milhares de cidadãos chineses pelo som de sua voz automaticamente.
Não confio que a NSA possua tecnologia secreta que possa identificar qualquer um de nós a qualquer momento e não usá-la de forma inadequada. Concordo com os especialistas em liberdade civil de que este é um caminho perigoso e deve ser tornado público. Não concordo em pressionar o Google e a Amazon a parar de inovar enquanto esperamos. Estamos vendo o futuro se desdobrar diante de nossos olhos e até que as máquinas "inteligentes" que o Google e a Amazon estejam usando para nos mostrar que precisam reinar, não vamos segurar o futuro.
