Joe Biden anunciou sua campanha de reeleição esta manhã, e o Comitê Nacional Republicano (RNC) respondeu com um anúncio de ataque com imagens geradas por IA.
O anúncio contém uma série de imagens estilísticas que imaginam a reeleição de Biden em 2024. Ele sugere que isso levará a uma série de crises, com imagens retratando explosões em Taiwan após uma invasão chinesa e implantações militares em ruas presumivelmente americanas.
Um pequeno aviso no canto superior esquerdo do quadro diz “construído inteiramente com imagens de IA”, enquanto a legenda abaixo do vídeo do YouTube diz: “Uma visão gerada por IA sobre o possível futuro do país se Joe Biden for reeleito em 2024”. Um porta-voz do RNC disse Axios foi o primeiro anúncio desse tipo divulgado pela organização.
Não está claro quais ferramentas foram usadas para criar as imagens, nem se isso violaria quaisquer termos e condições. Vários geradores de imagem de IA de alto perfil, como Midjourney e DALL-E, limitam a criação de imagens abertamente políticas. (Midjourney, por exemplo, não permite que você gere fotos de Xi Jinping para “minimizar o drama” e proibiu o uso do termo “preso”.) No entanto, a maioria das imagens no anúncio são bastante genéricas e provavelmente podem ser gerado sem cair em qualquer filtro do sistema.
Outras questões levantadas pelo anúncio são complexas e preocupantes. Muitos especialistas alertaram que deepfakes gerados por IA podem ser usados para espalhar desinformação política, mas e se essa desinformação vier dos próprios políticos? E como traçar a linha entre desinformação e campanha regular? Por exemplo, o RNC poderia ter decidido fazer o anúncio sobre a idade de Biden e incluir imagens dele em uma cadeira de rodas geradas por IA. Os espectadores podem confundir as fotos com fotos reais, especialmente se as isenções de responsabilidade forem tão pequenas quanto no anúncio de hoje.
Se os políticos adotarem os deepfakes, eles também poderão ter uma mão mais livre para compartilhar esse conteúdo online. Em 2020, o proprietário do Facebook e do Instagram, Meta, proibiu o conteúdo gerado por IA que provavelmente enganaria os espectadores, mas a empresa se recusou a responder a perguntas sobre se essa regra também se aplica a políticos, que já estão isentos de verificação de fatos.
0 comentários:
Postar um comentário