Inteligencia artificial y emociones: Psicopolítica mediante datos y algoritmos (2015-2022)
Resumen
Los sistemas de inteligencia artificial invadieron los espacios vitales y se orientan a reconfigurar las subjetividades, sus relaciones e identidades. En estos desarrollos se entrelazan dispositivos, datos y algoritmos que se alimentan de la información emocional entregada libremente por los usuarios en los escenarios digitales. Estas emociones se convirtieron en un capital utilizado por el neoliberalismo para el ejercicio de la psicopolítica, mediante dispositivos y estrategias suaves de manipulación, gobierno y modificación conductual. El artículo de revisión narrativa (2015-2022) se orienta a establecer la configuración de la psicopolítica ejercida sobre las emociones, mediante datos y algoritmos en los sistemas fuertes de inteligencia artificial. Los resultados temáticos indican que los datos emocionales transformados en inscripciones digitales son utilizados para el ejercicio del biopoder dirigido al interior (psique) de los individuos en una secuencia de manipulación, dominación, gobernanza, modificación de conducta y reconfiguración de las subjetividades en forma de máscaras y perfiles. Las conclusiones principales indican que los sistemas de inteligencia artificial trasegaron de mejorar aspectos de la vida, a la invasión de la interioridad de los individuos, la cual se convirtió en un capital explotable que posibilita el ejercicio del psicopoder, con el riesgo para los derechos humanos.
Descargas
Citas
Arbeláez-Campillo, D. F., Villasmil, J. J., y Rojas-Bahamón, M. J. (2021). Inteligencia artificial y condición humana: ¿Entidades contrapuestas o fuerzas complementarias? Revista de Ciencias Sociales (Ve), XXVII(2), 502-513. https://doi.org/10.31876/rcs.v27i2.35937
Barrero, J. M. (2022). Psicopolítica, Big Data y Nudge. Acerca del dominio sin resistencia. Revista de la Facultad de Derecho y Ciencias Políticas, 52(136), 239-261. https://doi.org/10.18566/rfdcp.v52n136.a10
Barrios, H., Díaz, V., y Guerra, Y. (2020). Subjetividades e inteligencia artificial: Desafíos para ‘lo humano’. Veritas, (47), 81-107. http://dx.doi.org/10.4067/S0718-92732020000300081
Barrios-Tao, H. (2020). Desarrollo de experiencias emocionales en educación: Una contribución para la formación humanística. Civilizar: Ciencias Sociales y Humanas, 20(38), 119-135. https://doi.org/10.22518/jour.ccsh/2020.1a08
Beer, D. (2016). Metric power. Palgrave Macmillan
Benítez, R., Escudero, G., Kanaan, S., y Masip, D. (2014). Inteligencia artificial avanzada. Editorial UOC.
Broncano, F. (2006). Entre ingenieros y ciudadanos: Filosofía de la técnica para días de democracia. Montesinos.
Cardon, D. (2018). Con qué sueñan los algoritmos: Nuestra vida en el tiempo de los Big Data. Dado Ediciones.
Chanchí-Golondrino, G.-E., Hernández-Londoño, C.-E., y Ospina-Alarcón, M.-A. (2022). Aplicación de la computación afectiva en el análisis de la percepción de los asistentes a una feria de emprendimiento del SENA. Revista Científica, 44(2), 215-227. https://doi.org/10.14483/23448350.18971
Chapman, C., Fong, W., y Fiedler, T. (2021). Seduction as control: Gamification at Foursquare. Management Accounting Research, 53, 100765. https://doi.org/10.1016/j.mar.2021.100765
Cheney-Lippold, J. (2017). We are data: Algorithms and the making of our digital selves. University Press.
Colmenarejo, R. (2018). Ética aplicada a la gestión de datos masivos. Anales de la Cátedra Francisco Suárez, 52, 113-129. https://doi.org/10.30827/acfs.v52i0.6553
Cortina, A. (2013). El futuro de las humanidades. Revista Chilena de Literatura, (84), 207-217. https://revistaliteratura.uchile.cl/index.php/RCL/article/view/28515
Cotino, L. (2017). Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales. Dilemata, 9(24), 131-150. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000104
Cruz, M. (2017). De la biopolítica a la psicopolítica en el pensamiento social de Byung-Chul Han. Athenea Digital, 17(1), 187-203. https://doi.org/10.5565/rev/athenea.1782
Damasio, A. R. (1996). El error de Descartes. La razón de las emociones. Editorial Andrés Bello.
De Azevedo, R. C. (2022). Platformization of the skin? Biometric tattoos, dataism, and consumer datification. Cadernos EBAPE, 20(2), 207-217. https://doi.org/10.1590/1679-395120210032x
De la Quadra-Salcedo, T. (2018). Retos, riesgos y oportunidades de la sociedad digital. En T. De la Quadra-Salcedo y J. L. Piñar (Dirs.), Sociedad digital y derecho (pp. 21-85). Boletín Oficial del Estado.
Du Toit, C. W. (2014). Emotion and the affective turn: Towards an integration of cognition and affect in real life experience. HTS Toelogiese Studies / Theological Studies, 70(1), a2692. https://doi.org/10.4102/hts.v70i1.2692
Echeverría, J. (9 de diciembre de 2016). Ciberpersonas y cibermasas en las cibersociedades. Acento. https://acento.com.do/opinion/ciberpersonas-cibermasas-las-cibersociedades-8408618.html
Espinosa, L. (2018). La mano y el algoritmo. Una antropología compleja ante los desafíos tecnológicos del presente. Araucaria, 20(40), 109-136. https://philpapers.org/rec/ESPLMY-2
European Commission (2018). Algorithms and Human Rights. European Commission. https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5
European Commission (2020). White Paper on Artificial Intelligence: A European approach to excellence and trust. European Commission. https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en
Feldman, Z., y Sandoval, M. (2018). Metric power and the academic self: Neoliberalism, knowledge and resistance in the British university. TripleC, 16(1), 214-233. https://doi.org/10.31269/triplec.v16i1.899
Firdaus, S. N., Ding, C., y Sadeghian, A. (2021). Retweet prediction based on topic, emotion and personality. Online Social Networks and Media, 25, 100165. https://doi.org/10.1016/j.osnem.2021.100165
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., y Vayena, E. (2018). AI4People – An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28, 689-707. https://doi.org/10.1007/s11023-018-9482-5
Foucault, M. (2009). El yo minimalista y otras conversaciones. La Marca Editora.
Fukuyama, F. (2008). El fin del hombre: Consecuencias de la revolución biotecnológica. Ediciones B.
Galparsoro, J. I. (2017). Big data y Psicopolítica. Dilemata, 9(24), 25-43. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000099
Galparsoro, J. I., y Pérez, R. M. (2018). Revolución digital y psicopolítica algunas consideraciones críticas a partir de Byung-Chul Han, Foucault, Deleuze y Nietzsche. SCIO: Revista de Filosofía, (14), 251-275. https://doi.org/10.46583/scio_2018.14.493
García, A. (2010). Tiempo, cuerpo y percepción en la imagen técnica. Paul Virilio y la ‘estética de la desaparición’. STVDIVM. Revista de Humanidades, 16, 231-247.
García-Gutiérrez, J. (2017). ¿Cómo mejorar al ser humano? Un análisis de las tecnologías convergentes desde la antropología pedagógica. Pedagogia e Vita, 75, 94-105.
García, V., Guzmán, A., y Marín, R. D. (2017). El tránsito de las emociones en la acción colectiva. Revista Latinoamericana de Estudios sobre Cuerpos, Emociones y Sociedad, 8(22), 21-32. http://www.relaces.com.ar/index.php/relaces/article/view/93
Gomes, M. A., y Vargas, S. R. (2019). Da violência psicopolítica na contemporaneidade: uma análise das dimensões afetivas. Psicologia em Estudo, 24. https://doi.org/10.4025/psicolestud.v24i0.43021
Han, B.-C. (2014). Psicopolítica. Neoliberalismo y nuevas técnicas de poder. Herder.
Harari, Y. N. (2016). Homo Deus. Breve historia del mañana. Debate.
Henríquez C. N., y Guzmán J. (2017). A review of sentiment analysis in Spanish. TECCIENCIA, 12(22), 35-48. http://dx.doi.org/10.18180/tecciencia.2017.22.5
Hil, R. K. (2016). What an algorithm is? Philosophy and Technology, 29(1), 35-59. https://doi.org/10.1007/s13347-014-0184-5
Huici, V., y Davila, A. (2016). Del Zoon Politikón al Zoon Elektronikón. Política y Sociedad, 53(3), 757-772. https://doi.org/10.5209/rev_POSO.2016.v53.n3.50776
Illou, E. (2007). Intimidades congeladas: Las emociones en el capitalismo. Katz Editores.
Kaplan, A., y Haenlein, M. (2019). Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, 62(1), 15-25. https://doi.org/10.1016/j.bushor.2018.08.004
Lanier, J. (2018). Diez razones para borrar tus redes sociales de inmediato. Debate.
Lupton, D. (2016). The diverse domains of quantified selves: self-tracking modes and dataveillance. Economy and Society, 45(1), 101-122. http://dx.doi.org/10.1080/03085147.2016.1143726
Lupton, D., Mewburn, I., y Thomson, P. (Eds.) (2018). The digital academic: Critical perspectives on digital technologies in higher education. Routledge.
Magallón, R., y Campos, E. (2021). Redes sociales y polarización. Cuando el algoritmo amplifica las emociones humanas. Dossieres EsF, (42), 27-31.
Maita-Cruz, Y. M., Flores-Sotelo, W. S., Maita-Cruz, Y. A., y Cotrina-Aliaga, J. C. (2022). Inteligencia artificial en la gestión pública en tiempos de Covid-19. Revista de Ciencias Sociales (Ve), XXVIII(E-5), 331-330. https://doi.org/10.31876/rcs.v28i.38167
Marín-Casanova, J. A. (2018). La resemantización TIC de la cultura humanista. index.Comunicación, 8(1), 179-195. https://indexcomunicacion.es/index.php/indexcomunicacion/article/view/367
Melhado, F., y Rabot, J.-M. (2021). Análise de sentimentos: Da Psicométrica à Psicopolítica. Comunicação e Sociedade, 39, 101-118. https://doi.org/10.17231/comsoc.39(2021).2797
Moffatt, K., Todd, S., Barnoff, L., Pyne, J., Panitch, M., Parada, H., McLeod, S., y Young, N. H. (2018). Worry about professional education: Emotions and affect in the context of neoliberal change in postsecondary education. Emotion, Space and Society, 26, 9-15. https://doi.org/10.1016/j.emospa.2017.10.006
Monasterio, A. (2017). Ética algorítmica: Implicaciones éticas de una sociedad cada vez más gobernada por algoritmos. Dilemata, (24), 185-217. https://www.dilemata.net/revista/index.php/dilemata/article/view/412000107
Moore, P., y Robinson, A. (2016). The quantified self: What counts in the neoliberal workplace. New Media & Society, 18(11), 1-19. https://doi.org/10.1177/1461444815604328
Mora, L. J., Pineda, G. E., Londoño, D. A., y Vásquez, A. M. (2021). Formación humana: De la deshumanización tecnológica a la reconstrucción del cuerpo. Horizontes Pedagógicos, 23(1), 1-9. https://doi.org/10.33881/0123-8264.hop.23101
Nguyen, C. T. (2020). Echo chambers and epistemic bubbles. Episteme, 17(2), 141-161. https://doi.org/10.1017/epi.2018.32
Niño, J. I., Barquero, M., y García, E. (2017). Opinión pública e infoxicación en las redes: los fundamentos de la post-verdad. Vivat Academia, Revista de Comunicación, XX(139), 83-94. https://doi.org/10.15178/va.2017.139.83-94
Nussbaum, M. C. (2003). Upheavals of thought: The intelligence of emotions. Cambridge University Press. https://doi.org/10.1017/CBO9780511840715
Nussbaum, M. C. (2010). Sin fines de lucro. Por qué la democracia necesita de las humanidades. Katz Editores.
O’neil, C. (2018). Armas de destrucción matemática: Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Capitán Swing.
Padios, J. M. (2017). Mining the mind: emotional extraction, productivity, and predictability in the twenty-first century. Cultural Studies, 31(2-3), 205-231. https://doi.org/10.1080/09502386.2017.1303426
Palmeiro, C. (2010). Escritas contemporâneas: Tecnologias e subjetividades. Viso Cadernos de Estética Aplicada, Revista Eletrônica de Estética, 4(8), 64-84. https://revistaviso.com.br/article/89
Pérez, P. J. (2021). Polarización artificial: cómo los discursos expresivos inflaman la percepción de polarización política en internet. RECERCA. Revista de Pensament i Anàlisi, 26(2), 1-23. http://dx.doi.org/10.6035/recerca.4661
Piñar, J. L. (2018). Identidad y persona en la sociedad digital. En T. De la Quadra-Salcedo y J. L. Piñar (Dirs.), Sociedad digital y derecho (pp. 95-111). Boletín Oficial del Estado.
Poma, A., y Gravante, T. (2017). Emociones, protesta y acción colectiva. Aposta. Revista de Ciencias Sociales, (74), 32-62. https://laoms.org/aposta-revista-ciencias-sociales-74/
Popay, J., Roberts, H., Sowden, A., Petticrew, M., Arai, L., Rodgers, M., y Britten, N. (2006). Guidance on the conduct of narrative synthesis in systematic reviews. ESRC.
Prinsloo, P. (2017). Fleeing from Frankenstein’s monster and meeting Kafka on the way: Algorithmic decision-making in higher education. E-Learning and Digital Media, 14(3), 138-163. https://doi.org/10.1177/2042753017731355
Saura, G., y Bolívar, A. (2019). Sujeto académico neoliberal: Cuantificado, digitalizado y bibliometrificado. REICE, 17(4), 9-26. https://doi.org/10.15366/reice2019.17.4.001
Segado-Boj, F., Díaz-Campo, J., y Navarro-Sierra, N. (2020). Emociones y difusión de noticias sobre el cambio climático en redes sociales. Revista Latina de Comunicación Social, (75), 245-269. https://www.doi.org/10.4185/RLCS-2020-1425
Serrano-Puche, J. (2016). Internet y emociones: nuevas tendencias en un campo de investigación emergente. Comunicar. Revista Científica de Comunicación y Educación, XXIV(46), 19-26. http://dx.doi.org/10.3916/C46-2016-02
Sibilia, P. (2006). El hombre postorgánico: Cuerpo, subjetividad y tecnologías digitales. Fondo de Cultura Económica de España.
Sibilia, P. (2008). La intimidad como espectáculo. Fondo de Cultura Económica de España.
Sibilia, P. (2012). La escuela en un mundo hiperconectado: ¿Redes en vez de muros? Revista Educación Y Pedagogía, 24(62), 135-144. https://revistas.udea.edu.co/index.php/revistaeyp/article/view/14199
Stone, P. (Dir.). (2016). Artificial Intelligence and life in 2030. Stanford University.
Susser, D., Roessler, B., y Nissenbaum, H. (2019). Technology, autonomy, and manipulation. Internet Policy Review, 8(2). https://doi.org/10.14763/2019.2.1410
Sutton, R. E., y Wheatley, K. F. (2003). Teachers' emotions and teaching: A review of the literature and directions for future research. Educational Psychology Review, 15(4), 327-358. https://doi.org/10.1023/A:1026131715856
Szlechter, D. F., y Zangaro, M. B. (2020). Big data y people analytics: Intimidad y emociones en la gestión de los recursos humanos. Innovar, 30(78), 75-87. https://doi.org/10.15446/innovar.v30n78.90306
Telefónica (2018). Manifiesto por un nuevo pacto digital: Una digitalización centrada en las personas. Telefónica, S.A. https://www.telefonica.com/es/wp-content/uploads/sites/4/2021/06/manifiesto_por_un_nuevo_pacto_digital.pdf
Vafeiadis, M., y Xiao, A. (2021). Fake news: How emotions, involvement, need for cognition and rebuttal evidence (story vs. informational) influence consumer reactions toward a targeted organization. Public Relations Review, 47(4), 102088. https://doi.org/10.1016/j.pubrev.2021.102088
Virilio, P. (1997). El Cibermundo, la política de lo peor. Ediciones Cátedra.
Zafra, J. M. (2018). Entrevista Jaron Lanier: “Tenemos que cambiar el modelo: Toda la economía se basa en manipular personas”. Telos. Telefónica Fundación, 109, 26-34. https://telos.fundaciontelefonica.com/wp-content/uploads/2018/09/telos-109-entrevista-portada-jaron-lanier.pdf
Zawacki-Richter, O., Marín, V. I., Bond, M., y Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, 16, 39. https://doi.org/10.1186/s41239-019-0171-0
Zembylas, M. (2007). Theory and methodology in researching emotions in education. International Journal of Research & Method in Education, 30(1), 57-72. https://doi.org/10.1080/17437270701207785
Zovko, M.-É., y Dillon, J. (2018). Humanism vs. competency: Traditional and contemporary models of education. Educational Philosophy and Theory, 50(6-7), 554-564. https://doi.org/10.1080/00131857.2017.1375757
Esta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.