Márcio Galvão - Research
Fake News
A manipulação social por Fake News na forma de posts em mídias sociais e na Internet abrange desde textos inverídicos até imagens e vídeos falsos (Deep Fakes) criados por sistemas de IA Generativa. Em muitos casos, esta propagação de desinformação ocorre de forma deliberada e é amplificada por algoritmos de IA.
Mais do que ameaçar reputações individuais, estas campanhas de desinformação compostas por lixo extremista, sensacionalista e/ou conspiratório corroem o tecido social, geram uma crise de legitimidade e confiança e representam uma ameaça real para os sistemas democráticos em todo o mundo.
Não se preocupe com alunos usando ChatGPT para fazer trabalhos escolares. Em vez disso, pense na Eleição Presidencial nos Estados Unidos, e tente imaginar o impacto que as ferramentas de IA podem ter na produção massiva de conteúdo político, na geração de fake-news e até mesmo escrituras para novos cultos religiosos"…
Yuval Noah Harari
Referências selecionadas: Fake News e riscos para as democracias
AlgorithmWatch
October 5, 2023
TRISTAN HARRIS, SARA FRUEH
MAY 16, 2023
Alexander Puutio & David Alexandru Timis (World Economic Forum)
Oct 5, 2020
Stefan Schaible
FEBRUARY 27, 2020
Robert Chesney & Danielle Keats Citron
Dec 17, 2019
Martin Moore
23 outubro 2018
Moderação e filtragem de conteúdo
A moderação automática e filtragem de conteúdo por algoritmos de IA "decide" quais conteúdos serão exibidos em mídias sociais e nas buscas na Internet e forma "bolhas" de pessoas com pensamentos semelhantes, sem o contraditório de visões diferentes.
A moderação (fitragem) automática de conteúdo por IA traz riscos negativos como a formação de bolhas e alienação - que tal uma IA escolhendo por você os posts que você pode ler em mídias sociais, ou determinando as imagens que você pode ou não ver, ou censurando propositalmente conteúdos ativistas que contrariem os interesses das Big Techs?
Por outro lado, a moderação automática de conteúdo por IA também (entendida como tecnologia) pode trazer importantes benefícios, dado que em função do volume de tráfego produzido a cada minuto em mídias sociais seria completamente impossível fazer qualquer tipo de moderação manual por seres humanos, e a ausência total de moderação é, como sabemos, altamente perigosa em tempos de Fake News e desinformação proposital, sobretudo por movimentos extremistas de direita.
"The smart way to keep people passive and obedient is to strictly limit the spectrum of acceptable opinion, but allow very lively debate within that spectrum. That gives people the sense that there's free thinking going on, while all the time the presuppositions of the system are being reinforced by the limits put on the range of the debate". ~Noam Chomsky
"A maneira inteligente de manter as pessoas passivas e obedientes é limitar o espectro de opiniões aceitáveis, mas permitir um nível mínimo de debate dentro deste espectro. Isso passa para as pessoas a impressão de que existe liberdade de pensamento, enquanto na verdade durante todo o tempo os preconceitos do sistema estão sendo reforçados pelos limites impostos na amplitude do debate"
(Noam Chomsky, How the World Works https://amzn.to/43IbAoj)
Observar que a IA pode ser utilizada tanto para produzir Fake News quanto para detectar e reduzir o risco de Fake News.
Merlyna Lim, Ghadah Alrasheed
May 16, 2021
Sara Morrison
Feb 25, 2021
Why Facebook banned (and then unbanned) news in Australia - A law that would require some tech companies to pay news publishers is making waves around the world.
Robert Gorwa et al
February 2020
Referências selecionadas: Fake News e Inteligência Artificial
Sze-Fung-Lee and Benjamin C. N. Fung
November 28, 2021
Veja também