ANÁLISE DEMOCRACIA E DIREITOS HUMANOS INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA 2024 foi um ano de intenso debate da ideia de integridade da informação. Foi assinado o Pacto Digital Global, foram publicados os princípios de integridade da informação pela ONU e terminamos o ano com uma ideia mais complexa do que tínhamos no começo. Vale ressaltar que a ideia de enquadrar o debate sobre o digital sob o termo de integridade da informação tem a intenção de mudar o foco do combate a problemas para a proposição de soluções. Isso exige não apenas uma mudança de olhar, mas a construção de novos consensos, com base em realidades muito diferentes. Nina Santos Dezembro de 2024 A incipiência da ideia de integridade da informação pode dar espaço à proposição de um ambiente comunicacional alicerçado menos nos interesses geopolíticos dos países centrais e mais em lutas essenciais de sociedades como a brasileira, como aquelas contra a desigualdade, contra o racismo, contra a destruição ambiental.

DEMOCRACIA E DIREITOS HUMANOS INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA

Índice Introdução 2 De onde surge e como tem sido construído 3 Organismos internacionais 3 Governo brasileiro 5 Produção acadêmica(em coautoria com Rafael Cardoso Sampaio) 5 O Global Digital Compact(GDC) e os cinco princípios para a Integridade da Informação 12 GDC 12 Princípios 12 Considerações finais e desafios no cenário- A oportunidade de construção de uma agenda informacional a partir do Sul 14 REFERÊNCIAS BIBLIOGRÁFICAS 15 1

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA INTRODUÇÃO A ideia de“integridade da informação” tem ganhado espaço no debate sobre o mundo digital especialmente a partir de 2022. Apesar de o termo estar se alastrando rapidamente entre organismos internacionais, organizações da sociedade civil, think tanks e filantropias, a construção conceitual dessa ideia ainda está em disputa. Ela nasce com a proposta de virar a chave do viés negativo- combate à desinformação, mitigação de danos etc.- para uma perspectiva propositiva. Mas o fato é que, se há alguns consensos sobre os problemas, sobre propostas para enfrentá-los e como construir uma sociedade efetivamente democrática na era digital, os consensos são escassos. O que está posta é a necessidade de discutir esse termo, compreender suas origens e motivações e tentar entender como ele pode ser usado de fato para construir um mundo digital mais saudável. Neste documento, nos propomos a contribuir para essa discussão em três frentes: primeiro, retraçando as origens do termo e sua história, identificando como ele tem sido usado tanto no mundo acadêmico quanto pelo governo brasileiro; segundo, fazendo um panorama das discussões sobre esse termo no cenário das organizações internacionais, especialmente a partir do Pacto Digital Global, assinado em 2024 pelos países membros da Organização das Nações Unidas(ONU) e dos Princípios para a Integridade do Ecossistema Informacional, propostos pelo secretário-geral da ONU; terceiro, fazendo um balanço do que temos até aqui e de alguns pontos chave para avançarmos na disputa desta ideia. 2

DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO ] O termo“integridade da informação” tem sido cada vez mais usado, sobretudo por organismos internacionais e agora, também, pelo governo do Brasil. Em 2023, pelo menos quatro instrumentos de cooperação entre o Brasil e outros países, com esse termo, foram assinados. No contexto da presidência brasileira do G20, essa ideia tem ganhado ainda mais destaque e pautado ações relativas ao combate à desinformação, ao discurso de ódio, à defesa da regulação de plataformas digitais e à construção de um espaço digital dito democrático ou saudável. Trata-se de uma tentativa de deslocar o debate sobre o atual ecossistema de comunicação de um viés do combate a fenômenos negativos, como a desinformação, discurso de ódio ou teorias da conspiração, para um viés positivo e propositivo. Além disso, o governo brasileiro tem defendido que o termo é uma oportunidade de superar conceitos politicamente sensíveis ou insuficientes para dar conta do problema. É preciso dizer ainda que o conceito de integridade da informação transmite duas ideias importantes: primeiro, a de que se trata de um debate central para as democracias contemporâneas; segundo, de que a normatividade de integridade da informação tem um viés coletivo, de acordo com o qual o conceito precisa ser abordado. ameaçada pela desinformação, pela informação incorreta e pelo discurso de ódio”(p.5). Também neste documento, a ideia de“ information integrity” é apresentada como oposta a“ information pollution”, um termo sobre o qual o documento não traz referências externas. O Policy Brief 8, que indica a construção de um código de conduta para integridade da informação em plataformas digitais, propõe um“compromisso com a integridade da informação”. Segundo a ONU, isso implica em que:“todas as partes interessadas devem abster-se de utilizar, apoiar ou amplificar a desinformação e o discurso de ódio para qualquer fim, nomeadamente para prosseguir objetivos políticos, militares ou outros objetivos estratégicos, incitar a violência, minar processos democráticos ou visar populações civis, grupos vulneráveis, comunidades ou indivíduos”(p.21). Pouco mais de um ano antes, em fevereiro de 2022, o Programa de Desenvolvimento das Nações Unidas(PNUD) havia publicado o documento“Information Integrity: Forging a Pathway to Truth, Resilience and Trust”. O texto tem o objetivo justamente de tentar dar bases para o uso do termo e há, portanto, um esforço maior na sua conceituação. Para o PNUD, Tudo isso tem certamente um fator muito positivo, mas o fato é que não há literatura acadêmica sobre a ideia de integridade da informação, o que dificulta a construção teórica e política do termo. Afinal, o que o termo“integridade da informação” quer dizer? De onde ele surgiu e como chegou às mais altas esferas de debate político internacional? O que está pressuposto nessa ideia, e será que de fato interessa ao Brasil adotar esse termo sem maior discussão? Do que precisamos de fato dar conta, quando discutimos o cenário de comunicação atual a partir de uma perspectiva que interesse ao Sul global? ORGANISMOS INTERNACIONAIS A expressão“integridade da informação” ganha notoriedade global sobretudo a partir do Policy Brief 8, publicado pela Organização das Nações Unidas(ONU) em junho de 2023. Neste documento,“ information integrity” se refere a“acurácia, consistência e confiabilidade da informação. Ela está “O conceito de integridade da informação é emprestado de sistemas corporativos, onde se refere à segurança da informação e à proteção de dados dentro das empresas. Aplicada de forma mais ampla, a integridade da informação é determinada pela‘precisão, consistência e confiabilidade do conteúdo, dos processos e sistemas de informação para manter um ecossistema de informação saudável’. Ele requer que os cidadãos tenham acesso a informações confiáveis, equilibradas e completas sobre assuntos atuais, ações governamentais, atores políticos e outros elementos relevantes para as suas percepções políticas e tomada de decisões”(p.4). Este documento traz duas referências para conceituação do termo. A primeira é o documento“What is Information Integrity?”, produzido por uma empresa chamada Yonder em janeiro de 2019. Segundo a Wikipedia, a Yonder“era uma empresa de Austin, Texas, especializada em integridade da informação. Ela é mais conhecida por apoiar o Comitê Seleto 3

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA de Inteligência do Senado[dos Estados Unidos] em sua investigação sobre a interferência russa nas eleições presidenciais dos EUA em 2016”. A segunda referência mencionada no texto do PNUD é o relatório“Protecting Information Integrity: National and International Policy Options” do Club de Madrid de novembro de 2018. O Club de Madrid menciona o programa Democracia e Internet da Universidade de Stanford, cujo site fala no apoio a pesquisas sobre proteção da integridade da informação. Também é citada a Iniciativa de Integridade do Institute for Statecraft’s. Segundo a Wikipedia, o instituto é um think-tank pró-democracia baseado na Escócia. De acordo com essa mesma fonte, a iniciativa de integridade“é um projeto do Institute for Statecraft com a missão declarada de defender a democracia da desinformação, em particular da Rússia, bem como da China e de grupos extremistas como o Estado Islâmico do Iraque e do Levante(ISIL)”. Seguindo o caminho que começa nos documentos de organismos internacionais, portanto, é perceptível que a ideia de “ information integrity” aparece muito próxima de tentativas de proteção de ecossistemas de comunicação, sobretudo de interferências estrangeiras. Termos como segurança, proteção, consistência e confiabilidade são frequentemente usados para caracterizar integridade da informação. É preciso dizer ainda que a totalidade das referências usadas não apenas é de organizações situadas no norte global, mas também se baseiam em exemplos e casos concretos destes países, especialmente casos que envolvem supostas interferências estrangeiras na sociedade estadunidense, especialmente de países fora do eixo ocidental. Para além das referências diretas à integridade da informação em si, a ideia de integridade parece chegar ao debate sobre comunicação especialmente por duas vias de influência. A primeira é a ideia de integridade eleitoral. Trata-se de uma ideia mais ampla, que envolve uma série de requisitos para a realização de eleições íntegras. Entre os parâmetros adotados estão questões relativas ao ambiente comunicacional. Para Frederico Alvim, por exemplo, ao se discutir integridade eleitoral, é necessário considerar a qualidade da informação recebida pelo cidadão e como ela se relaciona com a liberdade de sufrágio e a igualdade de oportunidades. Aqui, não se trata de integridade da informação em si, mas de como um determinado ambiente de informação pode influenciar a integridade do processo eleitoral. Os debates sobre proteção de dados são outro caminho importante pelo qual a questão da integridade chega aos debates comunicacionais. Neste caso, a ideia de integridade é usada para pensar tanto a necessidade de respeito à privacidade e à gestão de sistemas e bancos de dados quanto, como discute Bruno Bioni retomando as ideias de Hellen Nissenbaum, para propor uma integridade do tráfego dos dados pessoais. Essa discussão aproxima os debates sobre privacidade de dados de uma consideração sobre contextos sociais em que circulação de dados acontece e como esse fluxo tem um valor social. Não há consenso sobre a tradução O termo foi cunhado em inglês:“ information integrity” e não há uma forma única de traduzi-lo. Na versão em português do Policy Brief 8 e nos acordos internacionais firmados pelo governo brasileiro, se fala sobre“integridade da informação”, mas há também menções à“integridade informacional”, por exemplo, o que não é exatamente a mesma coisa. Outra ideia, menos disseminada, é a de“integridade do ambiente/espaço/ecossistema comunicacional”. O problema de fundo é que, uma vez mais, estamos importando um conceito externo sem grande discussão. Isso dificulta a escolha por uma tradução – e, portanto, por um sentido social- já que não há acúmulo sobre o que ele de fato quer dizer. Importação sucessiva de conceitos do norte global e de uma guerra que não dá conta dos nossos problema Boa parte da discussão sobre o novo cenário comunicacional tem se pautado em termos estrangeiros que simplesmente não têm tradução precisa em português. Foi assim com fake news, que, como vários autores já ressaltaram, não é a mesma coisa de“notícia falsa”. Foi assim também com a diferença entre“ misinformation” e“ disinformation”, que é impraticável em língua portuguesa e que acabou colocando tudo no mesmo balaio da desinformação. Quanto à“information integrity” tem se feito um esforço de encontrar melhores caminhos e não apenas adotar um termo- e um imaginário- estrangeiro simplesmente tentando encontrar uma tradução linguística, sem pensar no real significado dele. As referências originais sobre o termo mostram que há uma relação clara dele com tentativas de proteção do ambiente comunicacional estadunidense de ameaças externas, especialmente de países não ocidentais. É uma ideia que embute um posicionamento geopolítico que não dá conta dos nossos problemas. É verdade que ameaças externas ao ambiente comunicacional brasileiro são reais e precisam ser estudadas e combatidas, mas esse não me parece ser o centro do problema do ambiente comunicacional que temos hoje. Lembro precisamente de uma história contada pelo presidente Luiz Inácio Lula da Silva sobre sua primeira ida ao encontro do G8, em 2003. Ele relata que foi abordado pelo então presidente americano, George W. Bush, que perguntou sobre como o Brasil se envolveria na guerra do Iraque. Lula então respondeu:“Presidente Bush, o Iraque não é um problema do Brasil. Eu tenho uma outra guerra para fazer no meu país, que é combater a miséria e a fome de 50 milhões de brasileiros que vivem[abaixo] da linha da pobreza”. Em 2008, Lula ressaltou que usaria seu protagonismo internacional para pautar a luta contra a fome- e não a guerra no Iraque, como atores hegemônicos gostariam. Em 2024, momento de novo protagonismo internacional do Brasil em que os debates sobre informação estão no centro da pauta, qual é a proposta brasileira? Considerando a realidade brasileira, da América Latina, dos BRICS, dos Sul global, o que nos é realmente relevante no debate sobre um ambiente comunicacional digital? Em seguida, analiso um pou4

DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO co mais de perto os esforços que têm sido feitos pelo governo brasileiro neste sentido. GOVERNO BRASILEIRO A partir da atual gestão de Luiz Inácio Lula da Silva, que começa em janeiro de 2023, o tema da integridade da informação passou a estar presente e a aparecer entre as prioridades do governo, especialmente nas relações internacionais. Neste sentido, foram assinadas declarações, lançadas iniciativas e propostas medidas a partir da presidência brasileira no G20. Abaixo relatamos essas iniciativas: Declaração Global sobre Integridade da Informação Online : trata-se de uma proposta construída pelo Canadá e pelos Países Baixos e subscrita- além do Brasil, por Bélgica, Canadá, Chile, República Dominicana, Estônia, Irlanda, Luxemburgo, Moldávia, República Checa, Coreia do Sul e Suíça. Ela foi assinada em setembro de 2023 e conceitua integridade da informação como“um ecossistema de informação que produz informações precisas, confiáveis e de fonte segura, o que significa que as pessoas podem confiar na precisão das informações que acessam enquanto são expostas a uma variedade de ideias”. O documento diz ainda que o uso do termo pretende“oferecer uma visão positiva de um ecossistema de informação mais amplo, que respeite os direitos humanos e apoie sociedades abertas, seguras, prósperas e democráticas”. Na declaração, os signatários assumem compromissos que devem ser desenvolvidos pelos estados e também pontos que devem ser desenvolvidos juntamente com plataformas digitais. Declaração conjunta de Brasil e Alemanha sobre Integridade da Informação : a Declaração de Intenções Conjunta sobre Integridade da Informação e Combate à Desinformação foi assinada pelo ministro Paulo Pimenta, da Secretaria de Comunicação Social da Presidência da República(Secom), e pelo Secretário de Estado Steffen Hebestreit, porta-voz do governo alemão, em dezembro de 2023. Segundo o governo brasileiro, a declaração prevê ações de cooperação nas áreas de promoção da integridade da informação, combate à desinformação e defesa das instituições democráticas, além de regulação de serviços digitais e educação midiática. Declaração dos Presidentes do Mercosul sobre Democracia e Integridade da Informação em Ambientes Digitais : assinada também em dezembro de 2023, na Cúpula dos presidentes do Mercosul realizada no Rio de Janeiro, a declaração fala da“importância fundamental do acesso à informação e da liberdade de expressão, opinião, comunicação e manifestação de pensamento, em caráter de princípios e direitos humanos e liberdades fundamentais de sociedades democráticas, particularmente no ambiente digital”. Os países declaram ter acordo sobre a realização de ações conjuntas emergenciais, a partir de uma perspectiva de direitos humanos,“para a construção da confiança cidadã, a proteção de dados pessoais e a promoção da integridade, exatidão, consistência e confiabilidade das informações circulantes em ambientes digitais, bem como sobre a necessidade de proteger a população contra a disseminação de informações falsas, de discursos de ódio e de outras formas de conteúdo nocivo”. Sobre as plataformas digitais, os países decidem cooperar para que as plataformas digitais estejam comprometidas com a integridade da informação e“aperfeiçoem o combate à desinformação e aos discursos de ódio, especialmente quando incitem a violência, ataquem processos e instituições democráticas ou tenham como alvo indivíduos ou populações em situação de vulnerabilidade”. Declaração Ministerial do Grupo de Trabalho de Economia Digital do G20 : o tema da integridade da informação foi apresentado pelo governo brasileiro como um dos quatro eixos do grupo de trabalho sobre economia digital do G20. O tema foi bastante debatido durante a presidência brasileira do órgão, que segue até o final de novembro de 2024. Em setembro de 2024, o grupo de trabalho publicou uma declaração ministerial em que defende a integridade da informação, entendida como“o resultado de um ecossistema de informações que permite informações e conhecimentos confiáveis, diversificados e precisos em tempo hábil” 1 . O documento faz uma relação interessante e pioneira da integridade da informação como forma de mitigar a“instabilidade política, social e econômica, a radicalização e o extremismo violento”. Outro tema que aparece pela primeira vez aqui é o da inteligência artificial. A declaração diz que“para proteger e promover a integridade da informação, o desenvolvimento e a implementação de soluções de inteligência artificial(IA) em ecossistemas de informação, especialmente quando voltadas para a personalização, moderação e geração de conteúdo, devem ser éticas, transparentes, auditáveis e responsáveis, com supervisão humana e em conformidade com as estruturas legais aplicáveis para garantir a privacidade, a proteção de dados pessoais e o respeito aos direitos humanos, liberdades fundamentais e propriedade intelectual”. Iniciativa Global para integridade da informação sobre mudanças climáticas : além das declarações multilaterais, o governo brasileiro também lançou, em maio de 2024, uma iniciativa voltada para a integridade da informação relacionada a questões climáticas. A ação foi anunciada em evento paralelo do G20 e, segundo o governo, deve reunir“coletivos internacionais de pesquisadores como a Rede de Conhecimento Global, o Observatório da Informação e Democracia e o Painel Internacional sobre o Ambiente Informacional, assim como outras agências do Sistema ONU envolvidas no enfrentamento das mudanças climáticas”. PRODUÇÃO ACADÊMICA (TEXTO ESCRITO EM COAUTORIA COM RAFAEL CARDOSO SAMPAIO) A pouca produção acadêmica sobre a questão da integridade da informação relacionada ao combate à desinformação é um dos fortes indícios de que o termo ainda tem pouca aderência social e precisa ser aprofundado. Além disso, a 1 “ understood as the result of an information ecosystem that allows for reliable, diverse, accurate information and knowledge, in a timely fashion”. 5

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA concentração do termo em publicações estadunidenses e europeias também demonstra que a discussão precisa ser ampliada. Para aprofundar nosso conhecimento sobre o que já foi produzido pelo campo acadêmico até aqui e o que essa bibliografia nos mostra sobre a construção do tema, fizemos uma análise bibliométrica do uso do termo. Para analisar a bibliografia acadêmica, optamos por partir da base da Scopus, que é a base de publicações acadêmicas mais abrangente em termos de ciências humanas. Iniciamos fazendo uma busca por termos referentes à integridade da informação em inglês, espanhol, francês e português 2 , o que nos retornou 26.496 referências de toda a base. Ao verificarmos a base completa, fica claro que integridade da informação e integridade de dados são estudos bastante técnicos, geralmente mais visitados nas áreas de ciências da computação. Os três termos mais associados à desinformação em inglês( disinformation, fake news e misinformation) não chegam a ter qualquer destaque nesta visualização geral dos resultados. Diante disso, partimos do pressuposto que este destaque seria mais natural a partir de 2016, quando acontece a eleição de Donald Trump nos Estados Unidos e a saída do Reino Unido da União Europeia(Brexit). Então, fizemos um corpus de referências apenas de 2017 a 2024(n°= 10.237). Todavia, ainda assim, a presença destas palavras-chave é baixa na análise de coocorrência(16 ou mais), como podemos ver no Gráfico 1. Ao destacarmos a rede de“ information integrity”, vemos que há poucas conexões com outras palavras-chave da rede, evidenciando que é uma associação mais restrita às palavras que designam o fenômeno da desinformação de modo amplo, a exemplo disinformation, fake news, misinformation, o local de tal fenômeno(social media), e preocupações sobre privacidade, como privacy e data privacy. Em termos técnicos, vemos a conexão de“ information integrity” apenas com blockchain e feature extraction 3 (Gráfico 2). Isso provavelmente poderia estar ocorrendo pelo grande número de referências de ciências da computação, engenharia, 2 A string foi:(“ information integrity” OR“integrity of information” OR “informational integrity” OR“data integrity” OR“content integrity” OR “message integrity” OR“integridade da informação” OR“integridade informacional” OR“integridade dos dados” OR“ intégrité de l’information” OR“ intégrité informationnelle” OR“intégrité des données” OR“integridad de la información” OR“ integridad informacional” OR “integridad de los datos” OR“trustworthy information” OR“information quality” OR“information accuracy” OR“information reliability” OR “information authenticity”). 3 A Extração de Características é um procedimento crucial no campo do aprendizado de máquina e da ciência de dados. Ele consiste em converter dados brutos em um formato que possa ser usado para análise e modelagem. Isso se torna particularmente crucial em situações, nas quais os dados são intrincados e extensos, como imagens, textos e sinais de áudio. O objetivo principal é localizar e coletar dados pertinentes que possam ser empregados na formação de modelos preditivos, aprimorando a eficácia e a exatidão das análises. Gráfico 1 6

Gráfico 2 DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO matemática e áreas duras. Então, resolvemos filtrar o corpus total apenas às áreas de humanas, ciências ambientais e ciências da saúde 4 , resultando em 7.496 referências. Não obstante, o resultado se repete. As palavras-chave relacionadas à 4 Áreas no Scopus: Social Sciences; Business, Management and Accounting; Economics, Econometrics and Finance; Environmental Science; Arts and Humanities; Multidisciplinary; Psychology; Health Professions. desin­formação e integridade da informação praticamente desaparecem no grafo de coocorrência(17 vezes ou mais) (Gráfico 3). Fica notável, portanto, que as conexões entre integridade da informação e desinformação são uma aproximação bastante recente na literatura e ainda em uma quantidade pouco significativa em relação a outros estudos exclusivamente sobre integridade da informação e outros termos. Isso fica ainda Gráfico 3 7

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA mais claro quando passamos a fazer o cruzamento entre termos próximos à integridade da informação a diversos termos ligados à desinformação, conforme a nossa string final. (“information integrity” OR“integrity of information” OR“informational integrity” OR“data integrity” OR “content integrity” OR“message integrity” OR“ integridade da informação” OR“i ntegridade informacional” OR“ integridade dos dados” OR“intégrité de l’information” OR“intégrité informationnelle” OR“intégrité des données” OR“integridad de la información” OR“integridad informacional” OR“integridad de los datos”) AND(disinformation OR misinformation OR“fake news” OR“false information” OR“information disorder” OR “ desinformação” OR“ notícias falsas” OR“ notícias fraudulentas” OR“ informação falsa” OR“désinformation” OR“fausses nouvelles” OR“infox” OR“information trompeuse” OR“desinformación” OR“ notícias falsas” OR“bulos” OR“información falsa” OR“information manipulation” OR“information warfare” OR“information operations” OR“ manipulação da informação” OR “ guerra de informação” OR“ operações de informação” OR“manipulation de l’information” OR“guerre de l’information” OR“opérations d’information” OR“manipulación de la información” OR“guerra de información” OR“operaciones de información” OR propaganda OR rumor OR hoax OR“conspiracy theory” OR boato OR “ teoria da conspiração” OR propagande OR rumeur OR canular OR“théorie du complot” OR bulo OR“teoría de la conspiración” OR“fact-checking” OR“truth verification” OR“information verification” OR“ verificação de fatos” OR“ verificação da verdade” OR“ verificação de informações” OR“vérification des faits” OR“vérification de la vérité” OR“vérification de l’information” OR“verificación de hechos” OR“verificación de la verdad” OR “verificación de la información” OR“content moderation” OR“ moderação de conteúdo” OR“modération de contenu” OR“moderación de contenido”). Ao fazer esse cruzamento, saímos das 26.496 referências iniciais para apenas 174. Ao fazermos uma nova verificação de coocorrência de palavras(3 vezes ou mais), notamos que agora alcançamos de fato a literatura que nos interessava. Formam-se quatro clusters de palavras-chave(Gráfico 4). Podemos ver que fake news é a palavra central a conectar todos os grupos. O maior grupo em vermelho é basicamente técnico e parece estar baseado em técnicas para análises automáticas de dados(textos) aparentemente para a detecção automatizada de fake news( fake news detection). O segundo grupo em verde inclui fake news e fact-checking e outras técnicas para análises de dados. Interessantemente, já aparece aqui o termo“ large language models”, que é bastante usado quando se fala de modelos e aplicações de inteligência artificial. O terceiro grupo, em azul, apresenta as principais palavras que nos interessam em termos conceituais, como disinformation, information integrity, misinformation, out-of-context, rumor detection, social media e social networks. O menor grupo apresenta alguns termos próximos à discussão de integridade de dados, como data integrity, data security, privacy, security. Também aparece o nome de uma rede social( Twitter), uma tecnologia( blockchain) e um fenômeno no qual houve muita desinformação(covid-19). Abaixo, os clusters no formato de quadro para facilitar a leitura. Gráfico 4 Cluster 1(13 items) Cluster 2(9 items) Cluster 3(8 items) Cluster 4 (7 items) artificial intelligence fact-checking cybersecurity blockchain classification fake news disinformation covid-19 convolutional neural network deep learning ensemble learning fake news detection feature extraction large language models long short-term memory(lstm) natural language processing information integrity misinformation out-of-context rumor detection data integrity data security privacy security logistic regression neural networks social media twitter lstm text classification social networks machine learning Natural language processing random forest verification word embedding xgboost Em termos temporais, a relação entre os termos“integridade da informação” e fenômenos digitais, como o combate à desinformação é bastante recente. Abaixo, podemos ver um gráfico de linha com a produção por ano e fica claro que essa aproximação só ganha destaque a partir de 2020. Até aquele ano, nunca havia aparecido mais de três referências por ano na base de dados, mas nos anos seguintes há um salto: 15 referências em 2020, 9 em 2021, 16 em 2022, 40 em 2023 e até agora foram identificadas 76 publicações em 2024(Gráfico 5). 8

Gráfico 5 DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO Ao olharmos para os países dos primeiros autores das publicações, podemos ver a predominância da literatura estadunidense, seguida pela Índia, tendo a China em terceiro lugar. Vale dizer que essa informação geográfica se refere aos autores e não às universidades em que esses pesquisadores se encontram, o que seria uma informação adicional importante neste caso(Gráfico 6). E, finalmente, ao olharmos as referências mais co-citadas, notamos que há grupos distintos tratando sobre a temática, mas não consolidados ao ponto de se conectarem. Da mesma forma, contrariando nossas expectativas, relatórios de grandes entidades internacionais, a exemplo do ONU, não são conectores entre os grupos e nem fontes muito citadas e relevantes para os mesmos(Gráfico 7). Gráfico 6 9

Gráfico 7 FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA Por sua vez, se olharmos os documentos mais citados no corpus, veremos que a maioria não passou de 2 citações, sendo apenas 22 com 3 ou mais citações, sendo a maioria sobre técnicas de detecção de fake news, deep fake e similares e o restante com questões mais conceituais a respeito de desinformação e fake news, conforme a tabela abaixo. Lista das referências mais citadas Referência vosoughi s., roy d., aral s., the spread of true and false news online, science, 359, 6380, pp. 1146-1151,(2018) devlin j., chang m.-w., lee k., toutanova k., bert: pre-training of deep bidirectional transformers for language understanding,(2018) allcott h., gentzkow m., social media and fake news in the 2016 election, journal of economic perspectives, 31, 2, pp. 211-236,(2017) shu k., sliva a., wang s., tang j., liu h., fake news detection on social media: a data mining perspective, acm sigkdd explorations newsletter, 19, 1, pp. 22-36,(2017) 10 Citações 13 8 7 6 continua

DE ONDE SURGE E COMO TEM SIDO CONSTRUÍDO zhou x., zafarani r., a survey of fake news: fundamental theories, detection methods, 6 and opportunities, acm computing surveys(csur), 53, 5, pp. 1-40,(2020) liu y., ott m., goyal n., du j., joshi m., chen d., levy o., lewis m., zettlemoyer l., stoyanov 5 v., roberta: a robustly optimized bert pretraining approach,(2019) aneja s., bregler c., niessner m., cosmos: catching out-of-context misinformation with 4 self-supervised learning,(2021) shu k., mahudeswaran d., wang s., lee d., liu h., fakenewsnet: a data repository with 4 news content, social context, and spatiotemporal information for studying fake news on social media, big data, 8, 3, pp. 171-188,(2020) xie l., mo y., sinopoli b., integrity data attacks in power market operations, ieee trans. 4 smart grid, 2, 4, pp. 659-666,(2011) aldwairi m., alwahedi a., detecting fake news in social media networks, procedia com- 3 puter science, 141, pp. 215-222,(2018) altheneyan a., alhadlaq a., big data ml-based fake news detection using distributed 3 learning, ieee access, 11, pp. 29447-29463,(2023) bondielli a., marcelloni f., a survey on fake news and rumour detection techniques, inf. 3 sci., 497, pp. 38-55,(2019) grinberg n., joseph k., friedland l., swire-thompson b., lazer d., fake news on twitter 3 during the 2016 us presidential election, science, 363, 6425, pp. 374-378,(2019) hamid a., shiekh n., said n., ahmad k., gul a., hassan l., al-fuqaha a., fake news detec- 3 tion in social media using graph neural networks and nlp techniques: a covid-19 usecase,(2020) hochreiter s., schmidhuber j., long short-term memory, neural computation, 9, 8, pp. 3 1735-1780,(1997) korshunov p., marcel s., deepfakes: a new threat to face recognition? assessment and 3 detection,(2018) kosut o., jia l., thomas r.j., tong l., malicious data attacks on the smart grid, ieee trans. 3 smart grid, 2, 4, pp. 645-658,(2011) sridhar s., govindarasu m., model-based attack detection and mitigation for automatic 3 generation control, ieee trans. smart grid, 5, 2, pp. 580-591,(2014) wang p., yang a., men r., lin j., bai s., li z., ma j., zhou c., zhou j., yang h., ofa: unifying 3 architectures, tasks, and modalities through a simple sequence-to-sequence learning framework, corr,(2022) wu g., wu w., liu x., xu k., wan t., wang w., cheap-fake detection with llm using prompt 3 engineering,(2023) zhang x., ghorbani a.a., an overview of online fake news: characterization, detection, 3 and discussion, inf. process. manage., 57, 2,(2020) zubiaga a., liakata m., procter r., hoi g.w.s., tolmie p., analysing how people orient to 3 and spread rumours in social media by looking at conversational threads, plos one, 11, 3,(2016) Fica claro, portanto, que a discussão acadêmica sobre a ideia de“integridade da informação” como termo relacionado ao combate à desinformação é ainda bastante incipiente, técnica e bastante desconectada do debate feito pelos organismos internacionais, que parecem ter mais influência na elaboração de políticas públicas e na produção acadêmica sobre o assunto. 11

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA PASSOS MAIS RECENTES NO DEBATE GLOBAL: O PACTO DIGITAL GLOBAL E OS CINCO PRINCÍPIOS BRASILEIROS PARA A INTEGRIDADE DO ECOSSISTEMA COMUNICACIONAL Os organismos internacionais como ONU, Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco), Organização para a Cooperação e Desenvolvimento Econômico(OCDE) e PNUD têm adotado de forma progressiva a ideia de integridade da informação em seus documentos, propostas e pesquisas, o que tem ajudado o termo a se consolidar como uma referência. Neste sentido, havia grande expectativa sobre o papel do Pacto Digital Global, documento que foi aprovado pelos estados membros da ONU durante a Cúpula do Futuro, realizada em paralelo à Assembleia Geral da ONU de 2024. O documento é um primeiro acordo global sobre a governança do espaço digital. Abaixo, destrinchamos um pouco o que o pacto traz para o debate sobre integridade da informação. De maneira quase concomitante às negociações do pacto, a ONU publicou, através do escritório do secretário-geral, um outro documento bastante relevante: uma proposta de cinco princípios para a integridade da informação, do qual também trataremos. Todos os princípios e medidas para um futuro digital melhor devem levar em conta as disparidades existentes entre diferentes países e regiões, especialmente em uma questão que é amplamente dominada por empresas do Norte Global. Os países do Sul Global estão física e imaginariamente distantes das sedes das grandes empresas de tecnologia, que tratam esses países e seus cidadãos como menos importantes. Isso exige medidas específicas. A ideia de“soberania” nem sequer aparece no documento. OS CINCO PRINCÍPIOS A Organização das Nações Unidas lançou, em junho de 2024, um documento chamado“Princípios Globais para a Integridade da Informação”. É mais um passo na direção de tentar caracterizar o que seria a tal“integridade da informação”, como ela pode contribuir para democracias e o que devemos fazer para atingi-la. GLOBAL DIGITAL COMPACT(GDC) O conceito de“integridade da informação”, amplamente difundido e defendido em diferentes documentos da ONU, especialmente no Policy Brief 8, permanece vago. O termo, supostamente uma nova estrutura para definir um ecossistema digital seguro, é mencionado apenas em uma seção específica relacionada ao Objetivo 3: Fomentar um espaço digital inclusivo, aberto, seguro e protegido que respeite, proteja e promova os direitos humanos. Várias organizações da sociedade civil destacaram a importância de vincular a ideia de integridade das informações aos princípios de direitos humanos, caso contrário, essa questão permanecerá isolada. Mesmo que tenham sido feitos avanços ao longo das diferentes versões do documento, continua faltando uma ideia mais ampla de integridade da informação como um pilar para uma sociedade democrática. Além disso, chamou atenção no documento a falta de medidas para lidar com as desigualdades na“distribuição global de riscos e oportunidades oferecidas pelas tecnologias existentes e emergentes”, como publicou a Global South Alliance na Reunião da Sociedade Civil de Nairóbi. Primeiro, há de se reconhecer um notável avanço: o documento fala inúmeras vezes em“integridade do ecossistema de comunicação” superando uma visão muito unitária e conteudista que estava presente em documentos anteriores. Além disso, o documento publicado pelo secretário-geral da ONU estabelece cinco princípios para a integridade da informação: confiança e resiliência social; incentivos saudáveis; empoderamento público; mídia independente, livre e plural; e transparência e pesquisa. Como já tratamos aqui, uma das grandes questões por trás do debate sobre integridade da informação é o quanto ele ainda está concentrado em concepções do norte global. Por mais que esses princípios sejam bastante genéricos, o que os torna adaptáveis a quase qualquer realidade, fiz o esforço de refletir sobre eles especificamente a partir da realidade brasileira, tentando agregar uma perspectiva um pouco diferente ao debate. Não se trata de me opor aos princípios da ONU, que me parecem salutares e importantes, mas sim de pensá-los a partir de uma realidade específica. Pois bem, pensemos sobre o princípio de“incentivos saudáveis”. Com isso, o documento da ONU se refere ao modelo de negócios das plataformas, que se baseia em publicidade direcionada e acaba por basear seu lucro inclusive na disse12

PASSOS MAIS RECENTES NO DEBATE GLOBAL minação de desinformação e de discurso de ódio. Faz muito sentido combater isso, é verdade. Porém, me parece que para o Brasil- e para o Sul Global em geral- faria muito mais sentido estabelecer a soberania digital enquanto princípio. É verdade que lutar contra o modelo atual das plataformas e promover incentivos saudáveis é elemento crucial e talvez adicional à questão da soberania, mas ele me parece parte de um problema maior. O fato é que hoje países como o Brasil têm sua soberania sistematicamente desrespeitada na sua capacidade de definir as regras que valem no debate público digital. Já quando fala sobre o princípio de“promoção de uma mídia independente, livre e plural”, o documento defende que elas são a base de uma sociedade democrática e da tomada de decisão informada por parte dos cidadãos. Muito bem, não há como discordar. Contudo, na realidade brasileira de hoje, seríamos capazes de caracterizar o que atende a esse princípio? O que vemos é que o ecossistema comunicacional brasileiro- e de outros países- está amplamente povoado por produtores de conteúdo que frequentemente têm compromisso apenas com seu próprio ponto de vista, muitas vezes mas não sempre-, descambando para a disseminação de desinformação. A depender do ponto de vista, essas mídias poderiam ser caracterizadas como independentes, livres e quiçá também plurais- já que se vendem como aquelas que expõem pontos de vista excluídos da mídia mainstream. No entanto, certamente não é isso que queremos promover para fortalecer a integridade do ecossistema comunicacional. Neste contexto, parece-me que faria muito mais sentido discutir o jornalismo enquanto princípio. Não o jornalismo restrito aos profissionais e às grandes redações, mas o jornalismo enquanto prática, ideia e deontologia capaz de incluir o alternativo, o comunitário, o periférico. não me parece fazer sentido algum pensar nisso sem destacar/problematizar/levar em consideração as desigualdades gigantescas que temos hoje em nossa sociedade. Desigualdades sociais, raciais, de gênero entre tantas outras. A grande medida que precisamos, a meu ver, para promover o empoderamento público é a redução de desigualdades. Por fim, a ONU defende” transparência e pesquisa” como pilares fundamentais da integridade do ecossistema comunicacional. E de fato o são. Essa defesa não pode ser feita, no entanto, sem ressaltar a imensa desigualdade mundial que há hoje no acesso a dados e na possibilidade de realizar pesquisas sobre o ambiente digital. Vivemos hoje a absurda realidade em que pesquisadores brasileiros- e de outros países do Sul Global- precisam passar por processos de validação de universidades estadunidenses para ter acesso a dados de algumas plataformas. Isso é simplesmente inaceitável. Portanto, o que precisamos é de um acesso igualitário a dados e às condições de fazer pesquisas. Pois bem, talvez possamos pensar em cinco princípios que poderiam inspirar o Brasil e, quem sabe, o Sul Global a pensar o caminho para a integridade do ecossistema comunicacional: soberania digital; defesa do jornalismo; reconstrução do comum; luta contra desigualdades; e acesso igualitário a dados e às condições de fazer pesquisas. Apenas assim, me parece, que teremos chance de realmente construir um espaço comunicacional democrático que não apenas permita a tomada de decisões individuais informadas, mas também transforme estruturas de promoção de desigualdade. A ONU propõe ainda a“confiança e resiliência sociais” como princípios que se baseiam na confiança que as pessoas têm em fontes de informação e capacidade de resistir a manipulações. É uma visão interessante, mas que vê os problemas do ambiente digital hoje como uma ameaça externa que nos é infligida- pelas plataformas, por atores estrangeiros ou simplesmente por pessoas más. Isso, portanto, se resolveria se as pessoas estivessem bem informadas e tivessem capacidade de discernimento. Considero que o problema é maior e mais complexo porque está entranhado na nossa sociedade, não vem de fora. As plataformas, as disputas geopolíticas inclusive com estratégias de interferências informativas- fazem parte da nossa sociedade atual. O problema é que o cenário comunicacional torna a construção de um espaço comum cada vez mais difícil. Ele incentiva não apenas a formação de opiniões diversas- o que é muito salutar-, mas também a formação de visões de mundo descoladas dos fatos. O que precisamos é reconstruir um espaço social comum, alguma leitura comum do que se passa no mundo. Sem ela, aumentar a confiança em fontes e a resiliência a interferências pode só aumentar a fragmentação que já vivemos. “Empoderamento público” é outro dos princípios propostos, no sentido de que as pessoas tenham controle de suas experiências digitais. É bem verdade que isso é necessário, mas 13

FRIEDRICH-EBERT-STIFTUNG – INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA CONSIDERAÇÕES FINAIS E DESAFIOS NO CENÁRIO- A OPORTUNIDADE DE CONSTRUÇÃO DE UMA AGENDA INFORMACIONAL A PARTIR DO SUL O panorama traçado até aqui mostra que a virada de chave proposta pelo termo“integridade da informação” ainda está em processo e em disputa. Ainda que se encontre em estágios mais avançados nos organismos internacionais, com repercussões em políticas nacionais de alguns países, inclusive o Brasil, a construção conceitual do que efetivamente queremos, quando se fala em integridade da informação, ainda permanece pouco clara. O ano de 2025 deve marcar um aprofundamento dos debates sobre esse tema não apenas pelo progressivo acúmulo dos debates, mas especialmente pelo desafio de implementação do Pacto Digital Global, aprovado pela ONU em 2024. Apesar de, em termos de concepção, ele não estar entre os documentos mais fortes do sistema internacional sobre o tema, ele representa um compromisso assumido pelos países membros e prevê o acompanhamento de sua implementação. Portanto, a partir de agora, questões sobre formas de mensuração da chamada“integridade da informação” devem ganhar força no debate, o que evidentemente traz a reboque uma necessidade de definição conceitual do que se quer medir, do que importa para a integridade da informação nessa nova acepção que tenta se consolidar. Vale ressaltar novamente a ideia de que enquadrar o debate sobre o digital sob o termo de integridade da informação tem a intenção de mudar o foco do combate a problemas para a proposição de soluções. Isso exige não apenas uma mudança de olhar, mas também a construção de novos consensos, com base em realidades muito diferentes. Se, nesta quase uma década de discussão intensa sobre fake news e desinformação(Gomes e Dourado, 2019) foi possível avançar alguns passos na definição dos problemas, a chave das soluções ainda se encontra bastante incipiente. Justamente por isso o desafio de formular a ideia de integridade da informação não me parece pequeno. Este desafio tem dimensões muito peculiares em contextos muito distintos e, justamente por isso, me parece que a disputa em torno dele pode ser a oportunidade de construção de uma agenda informacional a partir do Sul. Parece fazer pouco sentido pensar em formas de conceituação, implementação e mensuração de questões como o direito à informação e à promoção da informação de qualidade se não como parte de um sistema social complexo em que essas questões devem ser encaradas. Evidentemente, o fenômeno da comunicação digital exige ações e acordos globais, mas ele se manifesta de maneiras bastante diferentes nas distintas realidades locais e o debate da integridade da informação não pode se furtar desta dimensão que, por ora, aparece pouco ou quase nada seja nos documentos acadêmicos, de organismos internacionais ou do próprio governo brasileiro. Trata-se certamente de um desafio, mas que me parece também de uma oportunidade. O Brasil tem lugar privilegiado neste debate sendo uma voz ativa e uma referência para outros países. Este lugar não foi dado, mas sim conquistado graças a grandes esforços especialmente do governo brasileiro que tem se empenhado em elaborar, debater, propor e encontrar caminhos possíveis para avançar essa agenda. Justamente por isso, o Brasil, juntamente com outros países do Sul Global, tem a oportunidade de liderar um processo regional e global de construção de um novo marco de construção de um ambiente comunicacional democrático. Em um momento em que o modelo de sociedade democrática se encontra ameaçado em tantas partes do mundo, a luta por informação de qualidade me parece central. Para conectar com a luta contra desigualdades, contra discriminações, contra os ataques ao meio ambiente, entendendo que a realidade dessas questões em países como o Brasil é muito diferente daquela dos Estados Unidos ou da Europa. Portanto, falar de empoderamento público ou de mídia independente, como propõe a ONU nos princípios para a integridade da informação, impõe parâmetros e desafios bastante diferentes nessas realidades. Além de que, estamos falando de países que estão em posições muito diferentes em relação às grandes empresas dessa economia digital, tanto física e imaginariamente. A incipiência da ideia de integridade da informação pode dar espaço para a proposição de um ambiente comunicacional construído a partir de outras bases. Bases essas que respondam menos aos interesses geopolíticos dos países centrais e mais às lutas essenciais de sociedades como a brasileira- como aquelas contra a desigualdade, contra o racismo, contra a destruição ambiental- sem as quais a garantia da informação de qualidade faz pouco sentido. 14

REFERÊNCIAS BIBLIOGRÁFICAS Alvim, Frederico F. Integridade eleitoral: significado e critérios de qualificação. Revista Ballot, v1, n2, 2015. Bioni, Bruno R. Proteção de dados pessoais. A função e os limites do consentimento. Rio de Janeiro: Forense, 2020. Club de Madrid. Protecting Information Integrity. National and International Policy Options. 2018. Gomes, Wilson; Dourado, Tatiana. Fake news, um fenômeno de comunicação política entre jornalismo, política e democracia. Estudos de Jornalismo e Mídia, v. 16, n. 2, 2019. Organização das Nações Unidas. Global Digital Compact, 2024. Disponível em: https://www.un.org/global-digital-compact/sites/default/files/2024-09/Global%20Digital%20 Compact%20-%20English_0.pdf Organização das Nações Unidas. Our Common Agenda- Policy Brief 8: Information Integrity on Digital Platforms. 2023. DOI: https://doi.org/10.5007/1984-6924.2019v16n2p33 Santos, Nina. Por que precisamos discutir a“integridade da informação”? Le Monde Diplomatique. Brasil. 2024. Disponível em: https://diplomatique.org.br/integridade-da-informacao/ Santos, Nina. Five Brazilian Principles for the Integrity of the Information Ecosystem. Tech Policy Press. 2024. Disponível em: https://www.techpolicy.press/five-brazilian-principles-for-the-integrity-of-the-information-ecosystem/ REFERÊNCIAS BIBLIOGRÁFICAS 15

FICHA TÉCNICA AUTORA FICHA TÉCNICA Nina Santos é diretora-executiva do Aláfia Lab e pesquisadora no Instituto Nacional de Ciência e Tecnologia em Democracia Digital(INCT.DD) e no Centre d’Analyse et de Recherche Interdisciplinaires sur les Médias(Université Panthéon-Assas). É membro do International Panel on the Information Environment, do comitê de coordenação da Global Coalition for Tech Justice e do Comitê sobre Integridade Digital e Transparência nas Plataformas de Internet do Tribunal Superior Eleitoral. Também é professora da pós-graduação em Estratégias de Comunicação Digital da FGV e do mestrado em comunicação, sistemas de informação e mídia da Université Sorbonne-Nouvelle e autora do livro“S ocial media logics: Visibility and mediation in the 2013 Brazilian protests”. Friedrich-Ebert-Stiftung(FES) Brasil Av. Paulista, 2001- 13° andar, conj. 1313 01311-931• São Paulo• SP• Brasil Responsáveis: Jan Souverein, representante e diretor geral da FES no Brasil Willian Habermann, diretor de projetos https://brasil.fes.de Contato: fesbrasil@fes.de O uso comercial de material publicado pela Friedrich-EbertStiftung não é permitido sem a autorização por escrito. As opiniões expressas nesta publicação não necessariamente refletem as da Friedrich-Ebert-Stiftung. 17 ISBN 978-65-83333-11-7

INTEGRIDADE DA INFORMAÇÃO: UMA AGENDA EM DISPUTA 2024 foi um ano de intenso debate da ideia de integridade da informação. Foi assinado o Pacto Digital Global e foram publicados os princípios de integridade da informação pela ONU. O governo brasileiro já assinou pelo menos cinco acordos sobre integridade da informação e tem sido protagonista desta agenda no cenário internacional, especialmente durante sua presidência do G20. Terminamos o ano com uma ideia mais complexa do que tínhamos no começo. Vale ressaltar que a ideia de enquadrar o debate sobre o digital sob o termo de integridade da informação tem a intenção de mudar o foco do combate a problemas para a proposição de soluções. Isso exige não apenas uma mudança de olhar, mas a construção de novos consensos, com base em realidades muito diferentes. Se, nesta quase uma década de discussão intensa sobre fake news e desinformação foi possível avançar alguns passos na definição dos problemas, a chave das soluções ainda se encontra bastante incipiente. Justamente por isso o desafio de formular a ideia de integridade da informação não é pequeno. A incipiência da ideia de integridade da informação pode dar espaço para a proposição de um ambiente comunicacional construído sobre bases que respondam menos aos interesses geopolíticos dos países centrais e mais às lutas essenciais de sociedades como a brasileira- como aquelas contra a desigualdade, contra o racismo, contra a destruição ambiental- sem as quais a garantia da informação de qualidade faz pouco sentido. Para mais informações sobre o tema, acesse: https://brasil.fes.de