Digital Capitalism, Artificial Intelligence and Universities: a reflection on the educational risks of the use of profit-oriented technology
Article Sidebar
Main Article Content
Abstract
The dominant narrative of expansion, adoption and use of AI in education is a by-product of the deployment of digital capitalism in education under the mantra of technological innovation and modernisation of the education system. But this digital capitalism works on the basis of the monopolistic concentration and control of technology in a few BigTech companies, the systematic extractivism of massive data (the new white gold of the 21st century) that is used to predict behaviour and shape our desires, and the displacement of much of the educational work by the machine and the reorganisation of the teaching-learning-evaluation processes. Globally, the possibility of generative AI transforming the way we understand and approach university education has been raised, but this transformation has its risks, which are analysed in this text, and we warn that it is necessary to be alert and to continue to critically investigate these technologies that are too often uncritically sold to us as the radical educational innovation that will re-evolve Higher Education in the 21st century.
Downloads
PLUMX Metrics
Article Details
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
The author keeps the property rights with no restriction whatsoever and guarantees the magazine the right to be the first publication of the work. The author is free to deposit the published version in any other medium, such as an institutional archive or on his own website.
References
Acemoglu, D. (2024). The Simple Macroeconomics of AI. National Bureau of Economic Research
Aguilar, R. (2024, abril 3). Amazon quería tiendas 100% automatizadas. Acabó con 1.000 trabajadores en la India vigilando cada compra. Xataca. https://bit.ly/3Rmb8HX
Airoldi, M. (2021). Machine habitus: Toward a sociology of algorithms. John Wiley & Sons.
Airoldi, M. (2024). The nested relationality of perceived legitimacy: Mapping taste hierarchies with granular digital traces. Poetics, 102, 101864. https://doi.org/10.1016/j.poetic.2024.101864
Aydin, Ö. (2023). Revisión de literatura generada por Google Bard: metaverso. Journal of AI, 7 (1), 1-14. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4454615
Ayoola, OO, Alenoghena, R. y Adeniji, S. (2023). Impactos de ChatGPT en la eficiencia del acceso, el empleo, la educación y la ética: la socioeconomía de un modelo de lenguaje de IA. BizEcons Quarterly, 16, 1-17.
Bachiller, R. (2022, febrero 12). El tortuoso viaje de un clic. El Mundo. https://bit.ly/3XvPkOf
Baskara, FR y Mukarto, FX (2023). Exploración de las implicaciones de ChatGPT para el aprendizaje de idiomas en la educación superior. IJELTAL. Revista indonesia de enseñanza del idioma inglés y lingüística aplicada, 7 (2), 343-358. https://ijeltal.org/index.php/ijeltal/article/view/1387/pdf
Bengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Darrell, T., ... & Mindermann, S. (2024). Managing extreme AI risks amid rapid progress. Science, 384(6698), 842-845. DOI: 10.1126/ciencia.adn0117
Castillejos, B. (2022). Inteligencia artificial y entornos personales de aprendizaje: atentos al uso adecuado de los recursos tecnológicos de los estudiantes universitarios. Educación, 31(60), 9-24. http://dx.doi.org/10.18800/educacion.202201.001
Cotton, D.E., Cotton, P.A. & Reuben-Shipway, J. (2023). Chat y trampas: cómo garantizar la integridad académica en la era de ChaGPT. Innovations in Education and Teaching International. Routledge. Taylor & Francis Group, 1-12. https://doi.org/10.1080/14703297.2023.2190148
Chance, C. (2022). ¿Ha habido un segundo Big Bang de la IA? Forbes.
Dell'Acqua, F., McFowland, E., Mollick, E. R., Lifshitz-Assaf, H., Kellogg, K., Rajendran, S., ... & Lakhani, K. R. (2023). Navigating the jagged technological frontier: Field experimental evidence of the effects of AI on knowledge worker productivity and quality. Harvard Business School Technology & Operations Mgt. Unit Working Paper, (24-013).
Dempere, J.; Modugu, K.; Hesham, A., & Kumar, L. (2023). The impact of ChatGPT on higher education, Frointiers in Education, 8:1206936
Dodson, Mark & Gann, David. (2017). Así es como la inteligencia artificial transforma las universidades, Blog del Foro Económico Mundial. https://bit.ly/4cow74E
Du, H., Liu, G., Niyato, D., Zhang, J., Kang, J., Xiong, Z., ... y Kim, D.I. (2023). Comunicaciones semánticas seguras sin entrenamiento conjunto asistidas por IA generativa a través de indicaciones multimodales. https://arxiv.org/html/2401.13699v2
Faraboschi, P., Frachtenberg, E., Laplante, P., Milojicic, D. y Saracco, R. (2023). Inteligencia artificial general: ¿la decadencia de la humanidad o la prosperidad ilimitada? Computer, 56 (10), 93-101. https://doi.org/10.1109/MC.2023.3297739
Ferrer-Bonsoms, C. (2024, marzo 20). El CEO de Nvidia asegura que la inteligencia artificial general está a 5 años de distancia. Business Insider. https://bit.ly/3yQx7R8
Flores-Vivar, J. M. (2023). Paradigmas de la inteligencia artificial en los nuevos escenarios de enseñanza y aprendizaje: Desafíos tecnológicos, pedagógicos y éticos. Brazilian Journal of Development, 9(05), 14718–14732. https://doi.org/10.34117/bjdv9n5-015
Flores-Vivar, J. M., & García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4). Comunicar, 74, 37-47. https://doi.org/10.3916/C74-2023-03
Gallent-Torres, C., Zapata-González, A., & Ortego-Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE, 29(2). https://doi.org/10.30827/relieve.v29i2.29134
Gault, M. (2021). Billionaires See VR as a Way to Avoid Radical Social Change. Wired. https://bit.ly/3RjJETo
Gawdat, M. (2024). La inteligencia que asusta: El futuro de la inteligencia artificial y cómo podemos salvar nuestro mundo. Ediciones Paidós.
Guerra-Jáuregui, M. (2024, febrero 12). Principios éticos de la educación con Inteligencia Artificial (IA). Edu News. https://bit.ly/3Kvj1ap
Gutiérrez-Cirlos, C., Bermúdez-González, JL, Carrillo-Pérez, DL, Hidrogo-Montemayor, I., Martínez-González, A., Carrillo-Esper, R., & Sánchez-Mendiola, M. (2023). La medicina y el metaverso: aplicaciones actuales y futuro. Gaceta Médica, 159, 286-292. https://doi.org/10.24875/GMM.23000166
Haidt, J. (2024). La generación ansiosa: Por qué las redes sociales están causando una epidemia de enfermedades mentales entre nuestros jóvenes. Deusto.
Hao, K. (2019). Entrenar un solo modelo de IA puede emitir tanto carbono como cinco automóviles a lo largo de su vida. Revisión de tecnología del MIT, 75, 103-122.
Hao, K. (2022). Artificial intelligence is creating a new colonial world order. MIT Technology Review. https://bit.ly/3XeSS74
Haskins, C. (2024, mayo 22). Los humanos mal pagados detrás de la IA piden a Biden que los libere de la “esclavitud moderna”. Wired. https://bit.ly/4cvjwgH
Heath, M. K., Gleason, B., Mehta, R., & Hall, T. (2023). More than knowing: Toward collective, critical, and ecological approaches in educational technology research. Educational technology research and development, 1-23. https://doi.org/10.1007/s11423-023-10242-z
Hui, X., Reshef, O., & Zhou, L. (2023). The short-term effects of generative artificial intelligence on employment: Evidence from an online labor market. Available at SSRN 4527336.
Javaid, M., Haleem, A. y Singh, RP (2023). Un estudio sobre ChatGPT para la industria 4.0: antecedentes, potencial, desafíos y eventualidades. Journal of Economy and Technology. https://doi.org/10.1016/j.ject.2023.08.001
Jiménez, A. (2020). The Silicon Doctrine, TripleC, 18 (1): 322336
Jung, M. (2023). El capitalismo digital es una mina, no una nube, Transnational Institute, https://bit.ly/3M9hc3B
Kara, S. (2023). Cobalt red: How the blood of the Congo powers our lives. St. Martin's Press.
Khan, S. (2022, marzo 1). How can AI support diversity, equity and inclusion? World Economic Forum. https://bit.ly/3WPj4nd
Lehude, S. (2022, noviembre 2). Big Tech’s New Headache: Data Centre Activism Flourishes Across the World. Artificial Intelligence. https://bit.ly/45fMT46
Lassalle, J. M. (2024). Civilización artificial. Arpa.
Latorre, J. I. (2024). Ética para máquinas. Ariel.
Li, F. (2024). The Worlds I See: Curiosity, Exploration, and Discovery at the Dawn of AI.
Lumbreras, A. (2024, abril 11). De Alan Turing a ChatGPT. Realitat. https://bit.ly/3KvLxIL
Lv, Z. (2023). Inteligencia artificial generativa en la era del metaverso. Cognitive Robotics, 3, 208-217. https://doi.org/10.1016/j.cogr.2023.06.001
Martínez, G. (2021, enero 19). La Universidad Europea tramita un ERE inesperado para 275 trabajadores de sus tres sedes. El Salto. https://bit.ly/4csXkmO
McQuillan, D. (2022). Resisting AI: An Anti-fascist Approach to Artificial Intelligence. Bristol University Press.
Mejias, U. A., & Couldry, N. (2024). Data grab: The new colonialism of big tech and how to fight back. In Data Grab. University of Chicago Press.
Monroy, J. M. (2023, septiembre 20). El uso de la IA en la educación superior plantea desafíos éticos y pedagógicos. Gerencia. https://bit.ly/3RdR1vK
Montaño, A. (2023). El dispositivo digital en la era del capitalismo algorítmico: el caso de ChatGPT, Sintaxis (11), 33-48
Moorosi, N., Sefala, R., & Luccioni, S. (2023, December). AI for Whom? Shedding Critical Light on AI for Social Good. In NeurIPS 2023 Computational Sustainability: Promises and Pitfalls from Theory to Deployment.
Morozov, E. (2023). The problem with artificial intelligence? It’s neither artificial nor intelligent, The Guardian, https://bit.ly/3YOYHt0
Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Oppenlaender, J., Visuri, A., Paananen, V., Linder, R. y Silvennoinen, J. (2023). Generación de texto a imagen: percepciones y realidades. arXiv:2303.13530. https://doi.org/10.48550/arXiv.2303.13530
Ortiz, A. (2024). Dime dónde los costes laborales son altos y te diré dónde van a intentar sustituirlos con inteligencia artificial. Error500. https://bit.ly/3RfIOXW
Park, P. S., Goldstein, S., O’Gara, A., Chen, M., & Hendrycks, D. (2024). AI deception: A survey of examples, risks, and potential solutions. Patterns, 5(5), 1-16. https://doi.org/10.1016/j.patter.2024.100988
Pastor, J. (2024, febrero 27). Jensen Huang lo tiene claro: a estas alturas nadie debería aprender a programar, ya lo hará la IA por nosotros. Xataca. https://bit.ly/4bSUiZF
Pastor, J. (2024, febrero 28). La fintech Klarna despidió a 700 empleados en 2022. Ahora afirma que han cubierto esas bajas con una IA. Xataca. https://bit.ly/4bRDF0m
Peco, R. (2024, julio 17). Un caos global que deja al descubierto la fragilidad de la nube. La Vanguardia. https://bit.ly/46O1AMq
Perrault, R., & Clark, J. (2024). Artificial Intelligence Index Report 2024. Standford University.
Perrigo, B. (2023, enero 18). OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time. https://bit.ly/4bTH8vg
Pitron, G. (2021). L'enfer numérique: voyage au bout d'un like. Éditions Les Liens qui libèrent.
Rouhiainen, L.P. (2018). Inteligencia Artificial. 101 cosas que debes saber hoy sobre nuestro futuro. Editorial Planeta.
Rudolph, J., Tan, S., & Tan, S. (2023). ChatGPT: Bullshit spewer or the end of traditional assessments in higher education? Journal of applied learning and teaching, 6(1), 342-363.
Samaniego, J. F. (2022). Los cuatro grandes retos éticos de aplicar la inteligencia artificial a la educación online. Tecnología ++. https://bit.ly/3VhLDsJ
Sullivan, M., Kelly, A. y McLaughlan, P. (2023). ChatGPT en la educación superior: consideraciones para la integridad académica y el aprendizaje de los estudiantes. Journal of Applied Learning & Teaching, 6 (1), 31-40. https://doi.org/10.37074/jalt.2023.6.1.17
Svanberg, M., Li, W., Fleming, M., Goehring, B., & Thompson, N. (2024). Beyond AI Exposure: Which Tasks are Cost-Effective to Automate with Computer Vision? Available at SSRN 4700751.
UNESCO. (2023). ChatGPT and Artificial Intelligence, UNESCO
Varoufakis, Y. (2024). Tecnofeudalismo: El sigiloso sucesor del capitalismo. Deusto.
Vidal, J., Llorens-Largo, F., & García-Peñalvo, F.J. (2024). La nueva realidad de la educación ante los avances de la inteligencia artificial generativa. RIED, 27 (1). https://doi.org/10.5944/ried.27.1.37716
Villoro, J. (2024). No soy un robot. Anagrama.
Weatherby, L. (2023, abril 21). El ChatGPT es una máquina de ideología. Jacobin. https://cutt.ly/5wqsAE4R
Williamson, B. (2023, junio 30). Degenerative AI in education. Code Acts in education. https://bit.ly/45lsWZx