Curadoria
Neste área, você encontrará um repositório de textos, documentos e referências que consideramos importantes para a área de Inteligência Artificial e Educação. Veja mais referências em Relatórios, Materiais do Grupo e Outras indicações.
Os capítulos da obra abordam usos diferentes da Inteligência Artificial Generativa, considerando suas implicações éticas e sociais. Ainda que com enfoques diferentes, as análises convergem na preocupação com a reprodução e ampliação de vieses existentes na sociedade, como o racismo, sexismo e discriminação, muitas vezes devido à qualidade e pouca transparência dos dados de treinamento. Discute-se também o impacto da IAGen no mundo do trabalho, no setor artístico, e a necessidade de regulamentação para proteger os direitos dos trabalhadores e a propriedade intelectual.
Questões como custos ambientais relacionados ao alto consumo energético e hídrico dos data centers, e a disseminação de desinformação e pseudociência que minam a integridade da informação e podem perpetuar ignorâncias históricas são tratados em capítulos diferentes do livro, em uma linguagem acessível, que convida os leitores à reflexão sobre os desafios, riscos e impactos sociais da IAGen em nossa contemporaneidade.
SILVA, Tarcízio (org.). Inteligência artificial generativa: discriminação e impactos sociais. Online: Desvelar, 2024. Disponível em: https://desvelar.org. Acesso em: 2 jun. 2025.
Safiya Umoja Noble e os “Algoritmos da Opressão”
Safiya Umoja Noble é professora catedrática da Universidade da Califórnia em Los Angeles (UCLA) e uma das principais vozes críticas quando se trata do impacto das tecnologias digitais nas dinâmicas de poder social. Em sua obra Algoritmos da Opressão (2018; edição brasileira em 2021), ela propõe uma reflexão sobre os algoritmos, especialmente os de plataformas como o Google, demonstrando que não são neutros. Pelo contrário, operam reforçando racismo, sexismo e outras formas de desigualdade estrutural. Por que isso importa para a educação? Entender os algoritmos como construtores de sentidos e reprodutores de desigualdades é essencial para educadores que desejam formar estudantes críticos em relação à tecnologia. A obra de Noble ajuda a desconstruir o mito da neutralidade algorítmica e convida a pensar o papel das plataformas digitais como espaços de disputa simbólica. Incorporar essas discussões em sala de aula é uma medida importante para mitigar operações de injustiça digital.
O informe Modelos de Inteligências Artificiais e a Propensão ao Autoritarismo Algorítmico documenta a análise das respostas de seis modelos de Inteligência Artificial (IA) generativa (Claude, Gemini, ChatGPT, Deepseek, Grok e Mistral) a partir de um conjunto de afirmações extraídas de escalas psicométricas validadas para medir tendências autoritárias, convencionalismo, preconceito e adesão à agenda de Direitos Humanos. O estudo, conduzido pelo Fórum Brasileiro de Segurança Pública (FBSP) em parceria com a UNILAB, busca entender as inclinações político-ideológicas expressas por esses algoritmos e o potencial risco de "autoritarismo algorítmico" no contexto brasileiro. Os resultados indicam que, embora a maioria dos modelos apresente respostas mais alinhadas com valores democráticos e de direitos humanos (especialmente Gemini, Mistral, GPT e Claude), Grok e DeepSeek demonstram maior variabilidade e proximidade a posições de agressividade autoritária e preconceito. Os resultados e a análise da pesquisa ressaltam a preocupação de que o aprendizado reforçado desses modelos, no cenário social e político brasileiro, possa amplificar padrões autoritários e prejudicar o espaço cívico e democrático e reforçam a necessidade urgente de debates e ações sobre a regulamentação da IA, a transparência algorítmica e a incorporação de princípios éticos e democráticos em seu desenvolvimento e aplicação
O texto discute o impacto da inteligência artificial (IA) e algoritmos na sociedade e na mídia, enfatizando a necessidade da reflexão crítica e da regulação ética para garantir que seu uso não reforce preconceitos ou ameace a democracia.
O e-book “Educação Midiática e Inteligência Artificial” explora a urgente necessidade de cultivar uma sociedade informada e crítica frente aos desafios impostos pelos avanços tecnológicos e suas implicações na democracia e justiça social.
O texto apresenta uma análise que mostra que a Lei Geral de Proteção de Dados (LGPD) ainda não é um instrumento eficaz e limitador para combater o capitalismo de vigilância, visto que ao trazer o instituto do consentimento e da autodeterminação informacional como fundamentos basilares da norma, negam a condição de vulnerabilidade do sujeito nestas relações constituídas na era informacional. O texto apresenta o "capitalismo de vigilância", termo cunhado por Shoshana Zuboff, e analisa a LGPD como possível limitador do acesso de grandes empresas a dados sensíveis. Um tema importante e diretamente relacionado ao uso de tecnologias na educação.