Estudio cienciométrico y temático de la producción sobre ética y privacidad en modelos de lenguaje a gran escala de inteligencia artificial.
Resumen
Con la creciente popularidad de los chatbots de IA, se han evidenciado brechas en cuanto a sesgos, mal uso de datos personales y otros problemas. Dada su importancia para la sociedad y con el objetivo de garantizar su uso seguro, los Modelos de Lenguaje a Gran Escala (Large Language Models- LLMs) deben respetar las directrices éticas y de privacidad. El objetivo es dilucidar las características de la producción científica sobre ética y privacidad en los LLMs, en relación con la cantidad de artículos publicados en Ciencia de la Computación y Ciencia de la Información, y analizar los temas y enfoques éticos más relevantes. Procedimientos metodológicos: búsqueda en bases de datos internacionales, recopilación de artículos por período y área; análisis temático y agrupamiento de resúmenes mediante el modelo Bertopic. Como resultado, se observó una tendencia creciente en el volumen publicado, con la mayoría de los trabajos en Ciencias de la Computación y una participación reducida de artículos de Ciencia de la Información y Latinoamérica. El análisis temático reveló ocho grupos con temas variados, destacando la salud y la educación. Los enfoques éticos priorizan una visión tecnocrática y microenfocada de la Computación. Se concluye que una mayor participación de la Ciencia de la Información (CI) en este ámbito es necesaria para propiciar debates éticos más amplios y profundos que sigan siendo válidos ante la constante evolución de la tecnología.
Descargas
Citas
BARCAUI, André. (2025). Guia da inteligência artificial. São Paulo: Almedina Brasil.
BERTOPIC. (2026). BERTopic – Advanced Transformer Topic Modeling Library. Recuperado de https://bertopic.org/
CAPURRO, R. (2006). Privacy. An intercultural perspective. Ethics and Infor-mation Technology, 8(1), 37–47. Recuperado de https://doi.org/10.1007/s10676-005-4407-4
CAPURRO, R. (2008). Information ethics for and from Africa. Journal of the American Society for Information Science and Technology, 59(7), 1162-1170. Recuperado de https://onlinelibrary.wiley.com/doi/full/10.1002/asi.20850
CAPURRO, R. (2020). Enculturing algorithms. Ethics and Information Technolo-gy, 22(2), 131-137. Recuperado de https://link.springer.com/article/10.1007/s11569-019-00340-9?utm_source=researchgate.net&utm_medium=article
CORREIO BRAZILIENSE. (2026, 4 maio). A nova aposta de Mark Zuckerberg: o futuro da inteligência artificial. Correio Braziliense. Recuperado de https://www.correiobraziliense.com.br/aqui/2026/05/04/a-nova-aposta-de-mark-zuckerberg-o-futuro-da-inteligencia-artificial/
DUARTE, Danieli Aparecida. (2022). A ética da informação de Floridi: aplicação aos desafios atuais da Sociedade da Informação para a formação humana (Dissertação de Mestrado Profissional em Educação Tecnológica). Institu-to Federal de Educação, Ciência e Tecnologia do Triângulo Mineiro, Cam-pus Uberaba, Uberaba.
FACELI, Katti; LORENA, Ana C.; GAMA, João; ALMEIDA, Tiago Agostinho De; CARVALHO, André C. P. L. F. De. (2025). Inteligência Artificial - Uma Abordagem de Aprendizado de Máquina (3. ed.). Rio de Janeiro: LTC.
FEFERBAUM, Marina; SILVA, Alexandre Pacheco da; COELHO, Alexandre Z.; et al. (2023). Ética, Governança e Inteligência Artificial. São Paulo: Almedina.
GALANTE, J. P. T. (2026, 16 de junho). Regulação da IA, interferência das big techs e o futuro pro Brasil. Instituto de Estudos Avançados da Universi-dade de São Paulo. Recuperado de https://www.iea.usp.br/noticias/regulacao-da-ia-interferencia-das-big-techs-e-o-futuro-pro-brasil
GONZALEZ, Maria Nélida. (2013, jan./jun.). Luciano Floridi e os problemas filo-sóficos da informação: da representação à modelização. InCID, 4(1), 03-25. Recuperado de https://cidad.bu.ufsc.br/files/2021/10/%C3%89tica-de-Floridi-por-N%C3%A9lida-Gonzales.pdf
IBM. (2025). Risco de ataque de inferência de associação para IA. Recuperado de https://www.ibm.com/docs/pt-br/watsonx/saas?topic=atlas-membership-inference-attack
KOSINSKI, M., & SCAPICCHIO, M. (n.d.). What is the EU AI Act? IBM. Re-cuperado em maio 26, 2026, de https://www.ibm.com/think/topics/eu-ai-act
KRANTZ, Tom; JONKER, Alexandra. (2025). Jailbreak de IA: desenraizar uma ameaça em evolução. IBM Think Insights. Recuperado de https://www.ibm.com/br-pt/think/insights/ai-jailbreak
LABATE, Alice. (2025, 27 maio). Meta anuncia divisão de AGI, ‘super’ inte-ligência artificial, de olho em rivais como OpenAI e Google. O Estado de São Paulo. Recuperado de https://www.estadao.com.br/link/empresas/meta-anuncia-divisao-de-agi-super-inteligencia-artificial-de-olho-em-rivais-como-openai-e-google-nprei/
LOPES JUNIOR, José Evaldo Gonçalves et al. (2025). Tecnologias digitais e inte-ligência artificial na educação em saúde: transformações do ambiente acadêmico ao contexto hospitalar. Revista Educação & Ensino, 9. Recupe-rado de https://periodicos.uniateneu.edu.br/index.php/revista-educacao-e-ensino/article/view/882/534
MARTINELLI, Dante P. (2012). TEORIA GERAL DOS SISTEMAS. Rio de Janeiro: Saraiva.
NIST (National Institute of Standards and Technology). (2024, jul.). Artificial Intelligence Risk Management Framework: Generative Artificial Intelli-gence Profile (NIST AI 600-1). Gaithersburg, MD: National Institute of Standards and Technology. Recuperado de https://doi.org/10.6028/NIST.AI.600-1
OCDE. (2025). How can AI help make better regional development policies in Korea (OECD Regional Development Papers). Paris: OECD Publishing. Recuperado de https://www.oecd.org/en/publications/how-can-ai-help-make-better-regional-development-policies-in-korea_be01f52d-en.html
OLFF, Sabine. (2025, 1 dez.). As alternativas europeias ao ChatGPT (vídeo). Bra-sil: Deutsch Welle [DW]. Recuperado de https://www.dw.com/pt-br/as-alternativas-europeias-ao-chatgpt/video-74962113
PELLEGRINI, Eliane; VITORINO, Elizete Vieira. (2018, abr./jun.). A dimensão ética da competência em informação sob a perspectiva da filosofia. Pers-pectivas em Ciência da Informação, 23(2), 117-133. doi: https://doi.org/10.1590/1981-5344/2953
RUSSELL, Stuart J.; NORVIG, Peter. (2022). Inteligência Artificial: Uma Abor-dagem Moderna (4. ed.). Rio de Janeiro: GEN LTC.
RUSSELL, Stuart J.; NORVIG, Peter. (2022). Inteligência Artificial - Uma Abor-dagem Moderna (4. ed., e-book). Rio de Janeiro: GEN LTC.
SANT’ANA, Ricardo César Gonçalves. (2016, maio/ago.). Ciclo de vida dos da-dos: uma perspectiva a partir da ciência da informação. Informação & In-formação, 21(2), 116-142. doi: 10.5433/1981-8920.2016v21n2p116
SANT’ANA, Ricardo César Gonçalves; MARTINS, Dayane de Oliveira. (2024, set./dez.). Contextualizando a taxonomia da privacidade de Solove no ci-clo de vida dos dados. Comun. Mídia Consumo, 21(62), 558-582. doi: 10.18568/cmc.v20162.2873
SCHAU, Kevin; CHEN, Szu Yu; TIKU, Nitasha. (2023, 19 abr.). Inside the se-cret list of websites that make AI like ChatGPT sound smart. The Wash-ington Post. Recuperado de https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning/
SHANAHAN, Murray; MCDONELL, Kyle; REYNOLDS, Laria. (2023, 16 nov.). Role play with large language models. Nature, 623, 493–498. doi: https://doi.org/10.1038/s41586-023-06647-8
VALENÇA, Lucas Rodrigues; SANTOS, Ronnie de Souza. (2025). Justiça algo-rítmica: instrumentalização, limites conceituais e desafios na engenharia de software. In: Anais do 6. Workshop sobre as Implicações da Computação na Sociedade (WICS), Maceió, p. 225-234. Porto Alegre: Sociedade Brasi-leira de Computação. doi: https://doi.org/10.5753/wics.2025.8032
VASWANI, A. et al. (2017). Attention Is All You Need. In: Anais da 31. Confer-ence on Neural Information Processing Systems (NIPS), Long Beach. Long Beach: NIPS. Recuperado de https://arxiv.org/abs/1706.03762
YE, Jiayuan et al. (2022). Enhanced membership inference attacks against ma-chine learning models. In: Proceedings of the 2022 ACM SIGSAC Confer-ence on Computer and Communications Security (CCS '22), Los Angeles, CA, USA, p. 1-14. New York, NY, USA: ACM. doi: https://doi.org/10.1145/3548606.3560675
ZHAO, Pinlong et al. (2025). Data Poisoning in Deep Learning: A Survey. Recuperado de https://github.com/Pinlong-Zhao/Data-Poisoning
ZOU, Andy; WANG, Zifan; KOLTER, J. Zico; FREDRIKSON, Matt. (2023). Universal and transferable adversarial attacks on aligned language models. Recuperado de https://arxiv.org/abs/2307.15043
Derechos de autor 2026 Leonardo Agostinelli Pereira Pinheiro de Souza, Ricardo César Gonçalves Sant'Ana
Esta obra está bajo licencia internacional Creative Commons Reconocimiento 4.0.
.png)
