Por menos de 10 dólares qualquer um pode usar IA para escrever um discurso falso da ONU

Usando menos de US $ 8 e 13 horas de treinamento, pesquisadores das Nações Unidas conseguiram desenvolver um programa que poderia criar discursos aparentemente realistas para a Assembléia Geral das Nações Unidas.

O estudo, relatado pela primeira vez pela Technology Review da MIT, é outra indicação de que a idade dos deepfakes está aqui e que textos falsos podem ser tão ameaçadores quanto vídeos falsos.

Talvez mais, dado o quão barato eles são para produzir.

Para o seu experimento, Joseph Bullock e Miguel Luengo-Oroz criaram uma taxonomia para os algoritmos de aprendizado de máquina usando transcrições de discursos em inglês de discursos proferidos por políticos na Assembléia Geral da ONU entre 1970 e 2015.

O objetivo era treinar um modelo de linguagem que pudesse gerar texto no estilo dos discursos sobre temas que vão desde a mudança climática até o terrorismo.

De acordo com os pesquisadores, seu software foi capaz de gerar de 50 a 100 palavras por tópico, simplesmente baseado em uma ou duas frases de entrada com um determinado tópico.

O objetivo era mostrar como realisticamente o software poderia reproduzir um discurso realista sobre um tópico geral ou uma declaração específica de um secretário-geral da ONU e, finalmente, se o software poderia incluir digressões em tópicos politicamente sensíveis.

De maneira um tanto tranquilizadora, quanto mais imprevisíveis ou mais secos fossem os assuntos, melhor os algoritmos se comportariam. Em cerca de 90% dos casos, o programa foi capaz de gerar textos que poderiam ter vindo de um orador na Assembléia Geral sobre um tópico político geral ou relacionado a um assunto específico tratado pelo secretário geral. O software teve mais dificuldade em lidar com digressões em tópicos sensíveis, como imigração ou racismo, porque os dados não podiam imitar efetivamente esse tipo de discurso.

E tudo o que esse software levou para criar foi de US $ 7,80 e 13 horas de tempo de programação.

Os próprios autores observam as profundas implicações que os deepfakes textuais podem ter na política.

Eles concluíram:

A crescente convergência e onipresença das tecnologias de IA aumentam a complexidade dos desafios que eles apresentam, e muitas vezes essas complexidades criam uma sensação de distanciamento de suas implicações potencialmente negativas. Devemos, no entanto, assegurar a nível humano que esses riscos sejam avaliados. Leis e regulamentações voltadas para o espaço da AI são urgentemente necessárias e devem ser projetadas para limitar a probabilidade desses riscos (e danos). Com isso em mente, a intenção deste trabalho é aumentar a conscientização sobre os perigos da geração de textos de IA para a paz e a estabilidade política, e sugerir recomendações relevantes para aqueles nas esferas científica e de políticas que visam enfrentar esses desafios.