1Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Hitos Manipulación ideológica en redes sociales: acoso, engaño y violencia en el entorno digital* Juan Carlos Gaal Fong1 Fernando Ignacio Gutiérrez Cortés2 Óscar Mario Miranda Villanueva3 DOI: 10.5294/pacla.2022.25.3.9 Para citar este artículo / to reference this paper / para citar este artigo Gaal, J. C., Gutiérrez, F. y Miranda, Ó. (2022). Manipulación ideológica en redes sociales: acoso, engaño y violencia en el entorno digital. Palabra Clave, 25(3), e2539. DOI: https:// doi.org/10.5294/pacla.2022.25.3.9 Resumen Este artículo explora el fenómeno de asunción de identidades en las redes sociales y la influencia que tiene la inteligencia artificial (bots) para que agentes externos logren tomar ventaja de los momentos de vulnerabilidad de diversos sujetos. El tema se aborda desde la perspectiva que ofrecen los estudios de Jacques Lacan y René Girard, con el enfoque de la ecología de medios. La investigación se fundamenta en un análisis particular de mani- pulación en Twitter en torno del caso de la caravana migrante de 2018 y la propagación del discurso de odio. Palabras clave (Fuente: tesauro de la Unesco) Bots; caravana migrante de 2018; estadio del espejo; mímesis; ecología de me- dios; identidad; ideologías; inmigración; inteligencia artificial; internet; ma- nipulación ideológica; media control; persuasión; propaganda; redes sociales. 1 https://orcid.org/0000-0002-0032-5353. Tecnológico de Monterrey, México. jcgaal@exatec.tec.mx 2 https://orcid.org/0000-0003-1753-3527. Tecnológico de Monterrey, México. fgutierr@tec.mx 3 https://orcid.org/0000-0003-3180-889X. Tecnológico de Monterrey, México. oscar.miranda@tec.mx * Este material está basado en el proyecto denominado: Equidad Digital: Los efectos sociales de la IA en el ámbito de los derechos humanos en México. El trabajo fue realizado gracias al financiamiento del Instituto México Estados Unidos de la Universidad de California (UC MEXUS) y el Consejo Nacional de Ciencia y Tecnología de México (Conacyt). https://crossmark.crossref.org/dialog/?doi=10.5294/pacla.2022.25.3.9&domain=pdf&date_stamp=2022-08-03 https://doi.org/10.5294/pacla.2022.25.3.9 https://doi.org/10.5294/pacla.2022.25.3.9 https://doi.org/10.5294/pacla.2022.25.3.9 https://orcid.org/0000-0002-0032-5353 mailto:jcgaal@exatec.tec.mx https://orcid.org/0000-0003-1753-3527 mailto:fgutierr@tec.mx https://orcid.org/0000-0003-3180-889X mailto:oscar.miranda@tec.mx 2 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Ideological Manipulation on Social Media: Harassment, Deception and Violence in the Digital Environment* Abstract This article explores the phenomenon of identity assumption on social me- dia and the influence that artificial intelligence (bots) has so that external agents can take advantage of the vulnerable moments of various individuals. The subject is approached from the perspective offered by Jacques Lacan’s and René Girard’s studies, following the path of media ecology. The research is based on analyzing the phenomenon of manipulation on Twitter around the case of the migrant caravan of 2018 and the spread of hate speech. Keywords (Source: Unesco Thesaurus) Bots; the migrant caravan of 2018; mirror stage; mimesis; media ecology; identity; ideologies; artificial intelligence; immigration internet; ideologi- cal manipulation; persuasion; propaganda; social media. * This material is based on the project called “Equidad Digital: Los efectos sociales de la IA en el ámbito de los derechos humanos en México.” The work was carried out thanks to the financing of the University of California Institute for Mexi- co and the United States (UC MEXUS) and the Consejo Nacional de Ciencia y Tecnología de México (CONACYT). 3Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Manipulação ideológica nas redes sociais: assédio, fraude e violência no ambiente digital* Resumo Este artigo explora o fenômeno da assunção de identidade e a influência que a inteligência artificial (bots) tem para que agentes externos possam aproveitar os momentos de vulnerabilidade de diversos sujeitos. O assun- to é abordado na perspectiva dos estudos de Jacques Lacan, René Girard e sob a abordagem da ecologia da mídia. Esta pesquisa está baseada em uma análise particular da manipulação no Twitter em torno do caso da carava- na de migrantes de 2018 e da disseminação do discurso de ódio. Palavras-chave (Fonte: tesauro da Unesco) Bots; caravana de migrantes de 2018; estágio de espelho; mimese; ecolo- gia de mídia; inteligência artificial; internet; manipulação ideológica; re- des sociais. * Este trabalho está baseado no projeto denominado “Equidade digital: os efeitos sociais da IA no contexto dos direitos humanos no México”. Foi realizado graças ao financiamento do Instituto México Estados Unidos da Universidad de Ca- lifornia (UC MEXUS) e do Consejo Nacional de Ciencia y Tecnología de México (CONACYT). 4 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Debido a la incremental introducción de infraestructura con su con- secuente reducción de costos en materia de telecomunicaciones, la pene- tración y uso de internet llegó a más del 65% de la población global durante 2021, según puede apreciarse en Internet World Stats (2021). Durante este tiempo las plataformas de redes sociales como Facebook, Twitter, Instagram y YouTube lograron capturar un tercio de la población mundial (Meeker, 2020). Con la finalidad de incentivar la generación de contenidos gratui- tos, estas plataformas dieron paso a la creación de un mercado de atención secundario en el cual los usuarios, dependiendo de su alcance y sus audien- cias metas, se volvieron acreedores de diversos beneficios. Estas plataformas hoy han permitido la transición entre el consumo y la producción de información. Para lograr el proceso de distribución de contenido de manera efectiva, el sujeto se convierte en usuario, al verse for- zado a recrear su identidad de manera digital en un perfil dentro de las pla- taformas para presentarse como individuo de este contexto. Enseguida, y con la finalidad de lograr que sus mensajes sean recibidos, el sujeto debe interactuar con sus semejantes basándose en similitudes de intereses, los cuales son identificables a través de los elementos provistos por la platafor- ma para la creación de perfiles, como su fotografía (o avatar), nombre, des- cripción, y hasta los campos de descripción personalizados como género e intereses, entre muchos otros. Este proceso de formación de identidad sucede continuamente y evoluciona nutrido de interacciones metacontex- tuales, gracias a las cuales el usuario navega por las plataformas. Estas inte- racciones han sido gradualmente adoptadas por marcas y agentes políticos globales, mimetizando el comportamiento de usuarios para forjar y man- tener relaciones directas con sus consumidores. Este texto explora de manera central la asunción dinámica de iden- tidades de las personas en el entorno digital y la influencia que agentes externos logran ejercer, a través de la inteligencia artificial, para tomar ven- taja de la vulnerabilidad de diversos sujetos. El concepto de identidad se explora desde la óptica de Jacques Lacan (2009) y su trabajo sobre el es- tadio del espejo, mientras que la influencia inorgánica producida por la in- teligencia artificial se analiza con base en la teoría mimética del deseo de 5Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 René Girard et al. (1987). Mediante la conexión de estos dos trabajos clá- sicos se busca contextualizar una serie de eventos de índole político-so- cial, adyacentes a la fecha de la creación de este escrito, buscando resolver la siguiente pregunta: ¿cómo la nueva identidad, formada en gran medi- da por los medios digitales, moldea nuestras opiniones, fomenta la mer- cantilización ideológica y contribuye a la generación del conflicto social? Complementariamente, esta revisión se realiza también desde la perspec- tiva de la ecología de medios. Marco teórico El estadio del espejo Jacques Lacan (2009) es el primero en presentar un reporte analítico sobre el estadio del espejo (le stade du miroir). Este concepto es parte de la teo- ría psicoanalítica general de Lacan, inspirada en el libro Los orígenes del ca- rácter en el niño de Henri Wallon (1975). Este autor describe el momento clave en el cual el niño reconoce su ser en el espejo, su primera representa- ción con exterioridad de sus sensaciones y su reacción y comportamientos: Darwin nota que hacia el 8º mes el niño manifiesta por medio de “¡ah!” su sorpresa, cada vez que su mirada reencuentra su imagen, y Preyer señala que en la 35ª semana tiende la mano con entusiasmo hacia su imagen y se asombra cuando siente el contacto unido y duro del espejo. [...] La realidad atribuida a la imagen es aún tan completa que, no solamente entre la 41ª y 44ª semana, el niño de Preyer ríe y tiende sus brazos hacia ella cada vez que la ve, sino que en la 35ª semana, el niño de Darwin mira su imagen en el espejo cada vez que lo llama por su nombre. No es, pues, al menos de manera pasajera o intermitente, a su yo propioceptivo al que aplica su nombre cuando lo escucha pronunciar, sino a la imagen exteroceptiva que le da de sí mismo el espejo. (p. 210) Desde nuestro nacimiento experimentamos el mundo de una mane- ra fragmentada y desorganizada. Esto cambia durante el estadio del espejo, cuando, usualmente con la ayuda de un adulto, el niño ve su reflejo en un espejo por primera vez. Desde esta perspectiva que ofrece Lacan (2009), el sujeto comienza a afianzarse como una narrativa coherente. El niño em- pieza a identificarse a sí mismo como la reflexión en el espejo. Es enton- 6 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros ces cuando para el sujeto se crea la experiencia de sí mismo, a partir de las circunstancias en las cuales se desarrolla. La influencia estructuralista en el psicoanálisis de Lacan es clara, pues identifica al sujeto como una compo- sición de significantes interconectados que crean la experiencia de unidad que este percibe de sí mismo. Posterior al encuentro con el espejo, el suje- to va a construirse de manera coherente mediante significantes contextua- les como nacionalidad, religión, códigos éticos, entre otros. Lacan reafirma este raciocinio: ... el sujeto sigue el desfiladero de lo simbólico [...] el desplazamiento del significante determina a los sujetos en sus actos, en su destino, en sus rechazos, en sus cegueras, en sus éxitos y en su suerte, a despecho de sus dotes innatas y de su logro social, sin consideración del carácter o el sexo, y que de buena o mala gana seguirá al tren del significante como armas y bagajes, todo lo dado de lo psicológico. (1984, p. 40) Sin embargo, existe la posibilidad de irrumpir esta ilación de signifi- cantes, lo cual consecuentemente impide al individuo experimentarse como un sujeto cohesivo. El individuo entonces comienza a experimentar los sig- nificantes de manera desorganizada, similar a la época de su infancia previa al estadio del espejo. El contexto mediático actual se compone de experien- cias y eventos imposibles de racionalizar de manera general. Internet ha permitido la creación y distribución infinita de conte- nido, la cual carece de una inherente narrativa para el individuo, que hace que se pierda en ella. En lugar de contar con una narrativa consistente, te- nemos significantes desconectados. Al acceder a las plataformas de internet más populares de redes sociales, somos impactados por anuncios, videos, fotografías, comentarios y otros elementos inconexos, lo cual nos impide darles sentido de una manera significativa (Orozco et al., 2012). El entrete- nimiento, la política, las noticias, el arte y la ciencia se mezclan y se presen- tan en el mismo flujo de contenido. En el entorno digital no es distinguible un tema de otro. La documentación sobre el estadio del espejo, su potencia y sus efec- tos en el mundo del capitalismo de consumo es vasta y muy explorada (De- 7Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 clercq, 2006; Gwartz y Spence, 2020; Olivier, 2014; Peretti, 1996; Vanheule, 2016). Jonah Peretti (1996) refuerza esta idea mencionando que el sujeto experimenta precisamente lo que Lacan llama estadio del espejo, en múl- tiples ocasiones durante su vida. Esto usualmente se exacerba al exponerse a imágenes idealizadas de líderes de opinión o íconos culturales relevantes a través de la publicidad en los medios, los cuales están presentes de mane- ra constante en nuestra vida. La perspectiva de explotación del estadio del espejo parece ser un buen marco de referencia para entender el fenómeno de identidad. Peretti (1996) explica este paradigma de la siguiente forma: Debido a que la publicidad vincula la identidad con la necesidad de comprar productos, la aceleración de la cultura visual promueve el hi- perconsumo asociado al capitalismo tardío. [...] para promover el capitalismo de consumo, las imágenes deben tener algún contenido para crear la posibilidad de una identificación en el escenario espejo. Es esta identificación con un modelo, deportista o actor lo que fo- menta la compra del producto que se propone. Para que un anuncio en GQ [antiguo Gentlemen’s Quarterly] tenga éxito, debe provocar una formación de ego que haga que el producto sea parte integral de la identidad del espectador. Esta frágil formación del ego debe persis- tir el tiempo suficiente para que el lector de GQ compre el producto. (Traducción propia) En el contexto de las plataformas sociales, los mensajes publicitarios irrumpen el flujo del contenido que se presenta, por su naturaleza comer- cial. Por lo tanto, para generar una neoformación del ego en sus audiencias meta, las marcas recurren hoy en día a lo que se ha definido como publici- dad nativa, la cual se aparta de las tácticas de comunicación de la publicidad tradicional y adopta apariencias de contenido producido de manera orgá- nica, con la finalidad de que los usuarios generen una identificación genui- na directa con la marca sin haber sido expuestos a mensajes comerciales en el sentido histórico. La meta de los estrategas publicitarios en plataformas sociales entonces es llevar a cabo de manera sucinta y rápida el proceso de neoformación de identidad a través de un estadio del espejo tardío, con la suficiente duración para que el individuo genere la transacción que busca y deje de lado esta identidad formada. Así el siguiente publicista puede to- mar ventaja de este ciclo nuevamente. 8 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros La velocidad con la cual la formación y disolución de identidades se lleva a cabo actualmente es sorprendente, debido a la asequibilidad de in- formación y transaccionalidad rápida que existe tanto en internet como en las plataformas, que han diseñado la infraestructura necesaria para evitar alguna fricción entre el consumidor y el producto final. Mímesis y contagio cultural La tesis central de René Girard et al. (1987) gira en torno a la interrogante ¿por qué y de qué manera surgió la cultura? Girard es capaz de extrapolar el surgimiento de la cultura humana a partir de lo que denominó la teoría mimética o la teoría del deseo mimético. Siguiendo el enfoque estructura- lista que Lacan estableció para su trabajo, este otro autor hace uso del mis- mo marco referencial y confirma su relevancia para el entendimiento de la mímesis con fundamento del uso de símbolos y significantes: Como somos prisioneros de nuestras formas simbólicas, poco más podemos hacer que reconstruir las operaciones que generan signifi- cado, no solo para nosotros, sino también para otras culturas; somos incapaces de trascender significados particulares para indagar sobre el hombre mismo, su destino, etc. Lo máximo que podemos hacer es reconocer al hombre como aquel que produce formas simbólicas, sistemas de signos y luego los confunde con la ‘realidad’ misma, olvidando que para dar sentido a la realidad interpone un sistema siempre particular de signos entre la realidad y él mismo. (Girard et al., 1987, p. 6) Es a través de la predominante imitación de comportamientos y carac- terísticas como un sujeto, no solo se conforma, sino que también se percibe como parte de una cultura. Girard comenta que “no hay nada, o casi nada, en el comportamiento humano que no se aprenda y todo aprendizaje se basa en la imitación. Si los seres humanos de pronto dejaran de imitar, todas las formas de cultura desaparecerían” (p. 6). La mímesis puede observarse en una miríada de acciones: en la manera como los niños adoptan lenguajes, la manera en la cual la música y el gusto musical se propagan, incluso en el establecimiento de tendencias en cualquier campo (Cowdell et al., 2015). Los seres humanos buscan constantemente influenciarse y cuando forman parte de un grupo tienden a desear las mismas cosas. La mímesis de 9Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Girard nace de un objeto de deseo que se pretende imitar y permite el esta- blecimiento de confianza y cooperación entre sujetos. Sin embargo, cuando el objeto de deseo de imitación es escaso o de naturaleza limitada, esto da paso a un conflicto entre los individuos, el cual Girard define como “crisis mimética” (p. 25). Esta crisis tiende a evolucionar rápidamente en antago- nismo y subsecuentemente en violencia, lo cual tiene el riesgo de desenca- denar una guerra entre los involucrados en una espiral sin control. En este momento, los individuos pasan de estar interesados en el objeto y, en su lu- gar, se interesan en sus rivales, un riesgo inherente del deseo mimético, lo cual presenta una amenaza constante para la cohesión de grupos o comu- nidades que puede derivar en una sucesión de venganza recíproca. Girard reafirma esta idea diciendo que “cada rival se convierte para su contrapar- te en el modelo y obstáculo adorado y despreciado, el que debe ser a la vez golpeado y asimilado” (Girard et al., 1987, p. 25). Este efecto es contagioso y, por lo tanto, se espera que el conflicto sea foco de imitación para el resto de los miembros del grupo, lo que desencadena una intensificación de mí- mesis conflictiva como bola de nieve. La amalgama de la teoría del espejo de Lacan (2009; 1984) y la teoría de la mímesis de Girard et al. (1987) permite vislumbrar de una forma di- ferente el comportamiento de movimientos sociales en función de la iden- tidad individual y grupal. Los grupos sociales tradicionales han trascendido la materialidad y han tomado los espacios digitales, no solo como un medio de contacto, sino como una extensión de sí mismos, replicando sus com- portamientos y adaptándose a los nuevos formatos delimitados por las pla- taformas digitales. Violencia expiatoria y apalancamiento inorgánico: algunos efectos de la inteligencia artificial desde la perspectiva de la ecología de medios Precisamente hace más de 20 años el académico y crítico cultural Neil Post- man (2000) hizo una breve analogía sobre lo que representaban los me- dios de comunicación, con la finalidad de ilustrar la maleabilidad cultural a partir de estos: 10 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros … desde el momento en que se familiarizó por primera vez con una placa de Petri, que un medio se definía como una sustancia dentro de la cual crece un cultivo. Si reemplaza la palabra “sustancia” con la palabra “tecnología”, la definición se mantendría como un principio fundamental de la ecología de los medios: un medio es una tecnolo- gía dentro de la cual crece una cultura; es decir, da forma a la política, a la organización social y a las formas habituales de pensar de una cultura. (p. 10) Según Meenakshi Arora (2013), un medio biológico requiere de ele- mentos muy particulares en su ambiente para el adecuado desarrollo de las células. Entre estos se consideran desde la temperatura hasta el pH. El balan- ce en la interacción de estos químicos es crucial para que la vida de las célu- las se desarrolle de manera consistente. La analogía biológica que Postman presentó tendió un puente de entendimiento entre el desarrollo celular y el desarrollo de los individuos dentro de sus respectivos ambientes y medios. Marshall McLuhan et al. (2003) fueron capaces de resumir el ecosis- tema mediático del cual somos parte desde la popularización de los medios masivos afirmando que “el medio es el mensaje”. McLuhan propuso que los medios mismos, no el contenido que llevan, deberían ser el foco de estu- dio, porque siempre pensó que un medio afectaba a la sociedad, no por el contenido entregado a través de este, sino por las características del medio mismo (McLuhan y Fiore, 1967). Este es un momento único en la historia, definido por la accesibili- dad masificada a medios de comunicación globales que han derivado de grandes avances tecnológicos innovadores. Los medios modifican fun- damentalmente las interacciones de los individuos y los grupos sociales y generan ambientes recalibrados y en constante cambio. El nuevo para- digma tecnológico moldea la cultura y da paso a un producto resultante único con secuelas inesperadas e intransigentes (Gutiérrez et al., 2019). El incremento en la distribución de mensajes a través de las redes sociales y la susceptibilidad de cambio identitario de los individuos crean la sim- biosis necesaria para posibles subversiones no orgánicas con diversos fi- nes. McLuhan et al. (2005) explicaban la violencia como un problema de pérdida de identidad. 11Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 En el panorama de plataformas digitales como Facebook o Twitter, las palabras son la moneda de circulación y las transacciones se efectúan por millones, día tras día. El intercambio de información que un usuario ex- perimenta no tiene paralelo en la historia. Por ejemplo, hoy se estima que diariamente se producen aproximadamente quinientos millones de trinos (tweets) (Brandwatch, 2020) y al mes se publican cerca de cinco mil millo- nes de comentarios en Facebook. Una de las consecuencias más preocupantes de la interacción con in- teligencia artificial es la disolución digital de la poca privacidad que le que- daba a un individuo. La gente ha perdido el control sobre sus datos. Hoy diversas empresas tecnológicas saben prácticamente todo sobre nosotros (Couldry y Mejias, 2019). En Facebook, el usuario no es el cliente, es el “producto”. Recientemente, Brittany Kaiser (2019) reveló cómo Cambrid- ge Analytica (CA) utilizó un análisis psicográfico profundo para desplegar campañas de propaganda efectivas, decisivas en las victorias del Brexit y Do- nald Trump. La lucha contra los relatos propagandísticos digitales que des- truyen la convivencia y la paz social es el gran desafío de estos tiempos. Las redes sociales, que se habían percibido, en un inicio, como espacios demo- cráticos para el desarrollo, hoy pueden ser entendidas también como me- canismos de control de la opinión pública, ya sea por la contaminación a través de relatos falsos o por el posible control y censura que apliquen los gobiernos, en un intento por mitigar alguna situación (Rodríguez, 2015). Por tales razones el tema merece estudiarse ampliamente. Datos y metodología Durante 2018, investigadores de la Universidad de California en Berkeley y del Tecnológico de Monterrey analizaron información en Twitter de las siguientes 22 etiquetas (hashtags): #BuildTheWall, #BuildTheWallNow, #Caravan, #CaravanaDeMigrantes, #CaravanaMigrante, #CaravanCri- sis, #CaravanInvasion, #CloseTheBorder, #EndIllegalImmigration, #Hon- duranCaravan, #Invasion, #InmigrantCaravan, #KeepFamiliesTogether, #MigrantInvasion, #MigrantMob, #OpenForBusinessNotCriminals, #Se- cureTheBorder, #SendThemHome, #SorosCaravan, #SorosHondurasMob, #SponsoredInvasion, #StopTheCaravan y #StopTheInvasion. Se capturaron 12 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros 674.603 trinos de 146.460 cuentas únicas, durante el periodo del 22 de oc- tubre al 2 de noviembre de 2018 (Nonnecke et al., 2021), durante el cual se presentó la primer gran caravana migrante que partió de Centroaméri- ca rumbo a Estados Unidos. Figura 1. Total de trinos y etiquetas correspondientes Fuente: elaboración propia. Para la obtención de datos se utilizó la interfaz de programación de aplicaciones (API) de Twitter con las etiquetas antes referidas. Estos da- tos fueron analizados a través de las herramientas SQL y Metabase con la finalidad de realizar una minería de datos simplificada, en búsqueda de res- puesta a la pregunta central de investigación. De los datos obtenidos, solo fue posible trabajar con 502.145 registros de trinos y 134.379 nombres de usuario (handles) en total.4 En esta exploración se identificaron tres vectores de enfoque central para el análisis de los datos obtenidos: a) tiempo, con la finalidad de ilus- trar la velocidad con la cual los individuos asumen identidades; b) inteli- gencia artificial y comportamientos no orgánicos, para determinar el uso 4 El nombre de la cuenta (handle) es distinto del nombre en Twitter y aparece enseguida del signo @. [N. de E.] 38413 101399 7618 26843 3999 71946 7407 3993 44477 1914 5587 15193 23 11390 266 2510 99 399 83101 75568 0 20000 40000 60000 80000 100000 120000 TOTAL DE TRINOS 13Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 de herramientas programables para la diseminación de mensajes en volú- menes muy altos (bots); y c) contenido y tendencia ideológica de trinos, para ejemplificar la manera en la cual se busca transmitir la ideología a tra- vés del vehículo del lenguaje potenciado en las plataformas digitales. Resultados A continuación, se presentan algunos resultados derivados del análisis de los tres vectores antes mencionados. Tiempo La plataforma de analítica de mercadeo TrackMaven hizo un reporte (Bur- ney, 2017) sobre los días y horarios de mayor actividad en las plataformas digitales basándose en el análisis de 17.500.000 publicaciones sociales, en- tre ellas las de Twitter, y logró identificar el horario de las 5:00 p.m. del este de América del Norte como la hora con mayor actividad en la plataforma, así como los días miércoles como los de más registros generados. Un análisis de la actividad por día y horario reveló una tendencia poco tradicional dentro de las cuentas de Twitter estudiadas de etiquetas según la alta concentración de trinos emitidos, principalmente durante el día martes 23 de octubre de 2018; en cuanto a la hora, la mayor acti- vidad se identificó entre las 12:00 y las 2:00 de la madrugada en el este de América del Norte. La coordinación de horarios de la actividad regis- trada con el día en el que se realizó contrasta de manera directa con los resultados de la investigación de TrackMaven y arroja una considerable posibilidad de que los trinos hayan sido emitidos por agentes inorgáni- cos (bots) programados en horarios de baja actividad en la plataforma de Twitter (Figura 2). Inteligencia artificial y comportamiento no orgánico Durante el periodo de observación, los datos recabados permitieron iden- tificar que la actividad de las cuentas (handles) dentro de las etiquetas es generalmente esporádica con una emisión de seis trinos por cuenta en pro- medio. Del número total de registros obtenidos, la mayoría de las cuentas (84.016) contribuyeron con un solo trino durante el periodo, mientras que 14 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros 62.444 (42,6% del total de cuentas en la base) fueron responsables de emi- tir dos o más trinos. El primer grupo de cuentas que emitieron de dos a 10 trinos representan el 36,27% del total de la base, con 53.127 trinos, siendo esta la concentración más alta. Figura 2. Total de trinos por hora del día Fuente: elaboración propia. En este análisis, se identificaron solo 12 cuentas destacadas con más de 200 trinos originales en total y un rol central dentro de las conversacio- nes pertenecientes a la temática de la caravana migrante. Para determinar si el comportamiento de estas 12 cuentas era orgánico o inorgánico, se uti- lizó Botometer (OSoMe, 2014), herramienta que analiza los datos de cual- quier cuenta de Twitter para determinar la probabilidad que existe de que se trate de un bot o programa inorgánico, con una finalidad específica. Bo- tometer extrae más de 1.000 características para identificar el perfil de la cuenta: amigos, estructura de la red social, patrones de actividad, lengua- je y sentimiento. Estas características son utilizadas para calcular la pun- tuación de la cuenta. El rango de puntuación oscila entre 0 y 5, siendo esta última la señal más grande de una posible automatización de una cuenta. Botometer ha sido hasta el momento una de las herrmientas más utilizadas en diversas investigaciones para la detección de cuentas inorgánicas (bots). 30163 31615 28807 22541 16538 11976 8590 6506 6108 7949 12218 17363 20969 23521 25748 25620 25257 26933 26392 24131 24814 25856 25431 27099 0 5000 10000 15000 20000 25000 30000 35000 12:00 AM 1:00 AM 2:00 AM 3:00 AM 4:00 AM 5:00 AM 6:00 AM 7:00 AM 8:00 AM 9:00 AM 10:00 AM 11:00 AM 12:00 PM 1:00 PM 2:00 PM 3:00 PM 4:00 PM 5:00 PM 6:00 PM 7:00 PM 8:00 PM 9:00 PM 10:00 PM 11:00 PM TOTAL DE TRINOS 15Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Aunado a lo anterior, se analizó si las 12 cuentas centrales se encon- traban a favor o en contra de la posición ideológica que representaba la caravana migrante, esto con base en los contenidos que conformaban los perfiles de Twitter, así como en los que compartían sobre el tema (Tabla 1). Tabla 1. Cuentas en función del número de trinos posicionados y su puntuación en Botometer Cuenta Número de trinos Puntuación en Botometer Posición respecto de la caravana migrante AnnCarolPerry1 517 4,1 En contra Loondale 425 1,2 En contra Gerfingerpoken 420 Cuenta suspendida N/A Evademoney3 344 Cuenta suspendida N/A The_Gay_Patriot 286 0,2 En contra Jojoinguette 262 Cuenta suspendida N/A Consmover 251 4,7 En contra russ30327 248 3,4 A favor DeeHill77 240 4,6 En contra BlueSea1964 224 4,5 En contra RNRKentucky 210 Cuenta suspendida N/A LadyRedWave 201 4,1 En contra Nota: elaboración propia. Estas 12 cuentas fueron responsables de la distribución de 3.628 tri- nos dentro de las etiquetas observadas, siendo #Caravan la que recibió ma- yor actividad, con 1.062 trinos. Vale la pena destacar que dentro de este número se encuentran contenidos originales, así como retrinos o réplicas de contenido de otros autores; por lo tanto, las 12 cuentas centrales tam- bién pueden ser consideradas como amplificadoras de mensajes de terceros. Uno de los aspectos destacados de este análisis fue la identificación de las cuentas con trinos y contenido en contra de la caravana migrante, mu- cho más prevalentes que las que se mostraron a favor de este movimiento. Sin embargo, la comunicación a favor también fue alta y generó un ambien- te de contraste y polarización en el ecosistema de la plataforma. 16 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Contenido y tendencia ideológica de los trinos Para comprender la influencia que puede tener la inteligencia artificial en la manipulación de opiniones, se tomó como ejemplo el caso de la cuenta @LadyRedWave, responsable de la emisión de 201 trinos captu- rados en el periodo de tiempo analizado. De estos 201, tan solo 58 resul- taron de su autoría, mientras que 143 fueron retrinos que derivaron de otras cuentas. Sin embargo, los trinos de su autoría provocaron un total de 9.684 retrinos. Entre los contenidos más replicados, se encuentra el siguiente, con 1.405 retrinos acumulados durante el periodo evaluado: “Entonces sale la verdad. No se trata de asilo o podrían haberse quedado en #MX –se trata de invadir#América. ¿Puedes decir lo que quieras? # Es una #invasión. La caravana de migrantes continúa hacia la frontera de Estados Uni- dos luego de rechazar la oferta de México para quedarse […]” (Figura 3; traducción propia). Figura 3. Cuenta @LadyRedWave identificada como bot Fuente: LadyRedwave (2018). El éxito de esta cuenta bot dentro del ecosistema de las etiquetas rele- vantes a la caravana migrante fue muy evidente, especialmente al ser contras- tada con la actividad de otra cuenta: @loondale, clasificada por Botometer como cuenta humana. Esta última, aún cuando fue capaz de posicionarse 17Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 como la segunda más importante, con base en el número total de trinos en- viados durante el periodo (425), solo fue capaz de producir 90 retrinos en total. El número máximo de retrinos que recibió un trino durante el perio- do analizado fue de cuatro. Los resultados obtenidos de las cuentas de bots refuerzan la premi- sa de efectividad en la rápida diseminación de ideas (trinos en volúmenes altos), en periodos de tiempo muy cortos. Los trinos distribuidos por las cuentas centrales lograron contabilizar 841.982, con contenido muy diver- so, pero guiados por una narrativa ideológicamente consistente. Con la finalidad de identificar los trinos que gozaron de mayor am- plificación a través de retrinos durante el periodo analizado, se contabiliza- ron las frecuencias con las cuales los mensajes obtuvieron retrinos. Entre los más destacados se encontraron los siguientes. Figura 4. Trino con mayor amplificación de la cuenta @RealJamesWoods Fuente: RealJamesWoods (2018). El trino de la Figura 4 (“Aquí vienen los ‘niños’ #Demócratas #Inva- sión [...]”; traducción propia) alcanzó 10.948 retrinos totales dentro de la base. Además, fue amplificado por otras tres cuentas centrales: @AnnCa- rolPerry1, @Jojoinguette y @Evademoney3. El autor del trino original es el actor estadounidense James Woods, quien lo publicó por primera vez el día 30 de octubre de 2018, a las 17:23:02 desde su cuenta verificada por Twitter. La etiqueta en la que se agrupó fue #Invasion y el registro del tri- no dentro de la base de etiquetas reflejó en total de 12.062. 18 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Otro trino, originalmente publicado el día 25 de octubre de 2018, a las 17:11:30, logró amplificación por las cuentas @AnnCarolPerry1 (bot) y @Jojoinguette (bot) y obtuvo 10.576 retrinos totales. El trino fue atri- buido a la cuenta @PolishPatriotTM (ahora @woj_pawelczyk) con una posición evidentemente en contra de la caravana migrante. Este trino fue parte de la etiqueta #BuildTheWallNow: “Ciudadanos mexicanos furio- sos por el rastro de basura que dejaron los invasores. El narrador describe cómo la ropa y alimentos donados se tiraron en la calle. Él se pregunta qué clase de gente pobre y hambrienta haría tal cosa #Contruyanelmuroaho- ra […] ¿Son en realidad personas que tienen necesidades?, ¿gente educa- da?” (traducción propia). Figura 5. Trino de @PolishPatriotTM en contra de la caravana migrante Fuente: Pawelczyk (2018). 19Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 La misma línea siguió @SweetKat111, a quien le fue posteriormente suspendida su cuenta de Twitter por violar las políticas de la organización. Sin embargo, con los datos obtenidos en el periodo analizado se identifi- caron 6.988 retrinos, amplificados principalmente por tres de las cuentas centrales: @RNRKentucky, @LadyRedWave y @BlueSea1964. Aquí la tra- ducción de uno de sus mensajes: “¿Alguien todavía piensa que estas per- sonas son refugiados pobres que huyen de un país peligroso? Mira cómo se comporta la mafia criminal. Su intención es ingresar a nuestro país a la fuerza por cualquier medio necesario” (@SweetKat, 2018). Por otra parte, James Martin SJ –padre jesuita estadounidense– se pronunciaba a favor de la caravana (Figura 6): “Lo que Jesús nunca dijo: ‘Alimenta a los hambrientos solo si tienen papeles’. ‘Viste a los que no tie- nen vestido solo si son de nuestro país’. ‘Dales la bienvenida a los extraños solo si representan cero riesgos’. ‘Ayuda a los pobres solo si es convenien- te’. ‘Ama a tu prójimo solo si luce igual a ti […]” (traducción propia). Este fue el tercero de los mensajes con más retrinos dentro de las bases de datos con 7.851 registros totales. El trino contenía la etiqueta #CaravanaMigran- te, pero no fue amplificado por ninguna de las cuentas consideradas como centrales durante el periodo de observación. Figura 6. Trino de @JamesMartinSJ a favor de la caravana migrante Fuente: JamesMartinSJ (2018). 20 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Otro trino de impacto fue el del conductor Lou Dobbs de Fox News (Figura 7): “El presidente @realDonaldTrump está 100% correcto. Tene- mos todo el derecho de proteger nuestra frontera. Esta es una situación muy peligrosa, una situación que no podemos permitir que empeore. Por eso es que están enviando tropas a la frontera […]” (traducción propia). Este mensaje ocupó el quinto lugar en la lista de contenidos más compartidos, con 6.589 retrinos, y muestra una clara tendencia en contra de la caravana migrante, amplificado por la cuenta @AnnCarolPerry1 (bot). Figura 7. Trino de @LouDobbs en contra de la caravana migrante Fuente: LouDobbs (2018). Todos los mensajes antes descritos utilizaron palabras de relevan- cia más allá de la etiqueta central analizada. Palabras clave como “families”, “Mexican citizens” y “refugees” fueron acompañadas de adjetivos que im- primieron una connotación negativa. En general, se encontró una polariza- 21Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 ción desequilibrada de mensajes en torno a la caravana migrante. Por una parte, algunos trinos con ideales progresistas que saludaban la caravana con la etiqueta #CaravanaMigrante. Por otra, vastos trinos que respondían a ideologías conservadoras que rechazaban energéticamente la migración con las etiquetas #StopTheCaravan, #SecureTheBorder, #BuildTheWall- Now e #Invasion. Conclusiones Con base en la información obtenida y observada en relación con los tres vectores principales: tiempo, tipo de dato (orgánico o inorgánico) y con- tenido y tendencia ideológica, es posible identificar los comportamientos de ciertos mensajes a través de su impacto y distribución con un gran pare- cido con campañas de comunicación o publicidad premeditadas, sin ser- lo explícitamente. El uso del término “mercantilización ideológica” en el planteamien- to de la pregunta de investigación original es deliberado y no apunta a ser análogo del término propaganda. En este caso es notorio un fenómeno que involucra la ideología política como una fuerza publicitaria para las figuras centrales dentro del ecosistema de medios digitales. Al adoptar pública- mente una ideología como parte fundamental de su identidad, estos acto- res centrales no solo están beneficiando al grupo de la ideología dominante, sino que también se ven beneficiados directamente, al crecer sus audien- cias con comunicación que diverge de sus roles profesionales tradicionales, como es el caso del actor de Hollywood James Woods, quien gozó de al- tos niveles de popularidad y reconocimiento político por su afianzamiento explícito de la ideología republicana y su desdén por la caravana migrante. Las cuentas de estas celebridades gozan de un identificador visual en for- ma de marca de verificación provisto por la plataforma de Twitter, el cual valida la identidad real de la gente detrás de estas cuentas, al tiempo que el discurso de odio que propagan los beneficia en términos de popularidad. Es fácil asumir que, al ser individuos tan centrales, los mensajes de estos líderes de opinión podrían obtener amplificación de manera natural. Como se documentó previamente, las cuentas identificadas como amplifica- 22 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros dores, con base en su alta actividad, buscan generar visibilidad e incrementar de manera perceptiblemente sistemática los mensajes que refuerzan ciertos valores representativos de ideologías políticas dominantes. Estas ideologías son fácilmente rastreables en las posiciones a favor o en contra de eventos de alta relevancia en la comunicación utilizada en los trinos. En este caso, el evento fue la caravana migrante y las ideologías políticas estadounidenses fueron representadas en mensajes a favor o en contra de este movimiento. Tal y como lo planteaba Girard, la formación de grupos sociales nace del contraste con otros grupos (Girard et al. 1987). En este caso, esto se con- firma en las perspectivas opuestas sobre la caravana migrante, ilustradas en trinos y etiquetas tanto a favor como en contra de ella. La posición a favor de la caravana migrante hizo uso de lenguaje sutil y mayormente positivo, e incluso el trino de mayor impacto fue emitido por un religioso autodeno- minado jesuita, mientras que la oposición a la caravana hacía uso de lengua- je peyorativo y ofensivo. En esta comparativa con la otredad es primordial afirmar aquellos valores con los que se identifica el grupo y aquellos con los que no se identifica, de manera explícita, a través de la observación de la comunicación y comportamientos con respecto a la oposición. Este proce- so no solo genera lazos más fuertes entre los individuos del grupo, gracias a un sentido de pertenencia y supervivencia tribal, sino que afianza y unifica la identidad de los sujetos, con el alejamiento de la perspectiva y entendi- miento matizado de puntos de vista diferentes, lo que forja una unidimen- sionalidad cada vez más cruda. Todos estos símbolos funcionan como significantes identificadores de grupos culturales a los cuales los sujetos, usuarios de estas redes, pueden llegar a estar expuestos en cualquier momento a través del posicionamiento de los etiquetas en su ubicación geográfica. Esto da a quienes coordinan la diseminación y amplificación de mensajes ideologizados a través del apa- lancamiento del algoritmo de la plataforma de Twitter el poder de alcanzar a sujetos vulnerables, que están experimentando constantemente un senti- miento de falta de pertenencia y familiaridad con el discurso predominante. De esta manera se genera un espejo identitario, atractivo para ellos, que bus- ca provocar arraigo dentro del bando cultural para sentirse un aliado más. 23Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Durante el periodo de observación y obtención de datos de este estu- dio, que en total abarcó 11 días, se logró obtener de manera filtrada más de medio millón de mensajes que convivían dentro de una temática social es- pecífica –la migración–, que polarizaba, y aún polariza, a la población esta- dounidense. Cada polo representaba un número considerable de mensajes distribuidos de manera no solo amplia, sino también veloz, lo cual permi- te también una rápida formación de identidad y alineación grupal para los sujetos que se encuentran explorando su filiación política o que, por lo me- nos, han sido expuestos a polarizaciones dicotómicas, prevalentes en la con- versación digital. Es imperativo el entendimiento del tiempo en el proceso de crea- ción de alianzas ideológicas a través de las plataformas digitales, pues entre más rápida sea la distribución de una alta cantidad de trinos dentro de los contextos de comunicación más cohesivo aparece el mensaje central que se quiere transmitir. En la observación estructuralista de Lacan (1984), el sujeto experimenta la comunicación en redes de manera inconexa, pero a través de la distribución y amplificación inorgánica de mensajes en perio- dos de tiempo cortos se pretende simular la apariencia de cohesión sobre una perspectiva ideológica dentro del contexto, con mensajes de líderes de opinión o relevantes culturalmente, así como con replicación por par- te de sus prójimos, presente de manera consistente en cuestión de días. Esto le da al sujeto significado convencimiento, reafirmación y seguridad respecto de ideas que de otra manera podrían parecer simples símbolos en contextos muy amplios. La ecología de medios brinda una perspectiva muy útil para el estudio de los efectos de los nuevos medios porque, entre otras cosas, explora los ses- gos que estos generan y su influencia en nuestra percepción, comprensión, sentimiento, valor y acción. Hoy parece que los métodos de reforzamiento ideológico se disfrazan de entretenimiento con la ayuda de plataformas di- gitales. La importancia de esta investigación no reside en la temporalidad o la afectación de la temática en cuestión, sino en la revelación de las tác- ticas premeditadas y disponibles para apalancarse en la endeble identidad del ser humano a través de plataformas digitales –como Twitter– y de esta manera cosechar beneficios identitarios dependientes del tamaño e impac- 24 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros to del movimiento social perteneciente, para así socavar los ideales demo- cráticos prevalentes en el mundo occidental. Esto es altamente replicable y adaptable. El análisis de los patrones de comportamiento permite identi- ficar cómo el individuo que accede a una red social se expone a una caco- fonía de manipulación ideológica, sin siquiera poderse dar cuenta de ello. Lo novedoso del fenómeno impide un acercamiento a la certeza sobre las intenciones, así como la identificación explícita de los actores que llevan a cabo este tipo de comportamientos, pero no debiera ser un impedimen- to para por lo menos dar paso a un esclarecimiento, con fundamento teóri- co, sobre las posibles consecuencias de dichas conductas, pues sus efectos pueden ser catastróficos. Agradecimientos Nuestro profundo agradecimiento a las doctoras Brandie Nonnecke y Cami- lle Crittenden del Centro de Investigación de Tecnología de la Información en Interés de la Sociedad (Citris) y el Instituto Banatao de la Universidad de California en Berkeley, por su guía e invaluable apoyo en este proyecto. Referencias Arora, M. (2013). Cell culture media: A review. Labome, 3 de mayo. DOI: //dx.doi.org/10.13070/mm.en.3.175 Aslam, S. (2020). Facebook by the numbers: Stats, demographics & fun facts. Omnicore, 22 de abril. https://www.omnicoreagency.com/ facebook-statistics Brandwatch (2020). 60 Incredible and interesting Twitter stats and sta- tistics. 2 de enero. https://www.brandwatch.com/blog/Twitter- stats-and-statistics/ Burney, K. (2017). The best time to post on Twitter? Depends on your in- dustry. TrackMaven. The Marketing Insights Compan, 10 de fe- brero y. https://web.archive.org/web/20190816111715/https:// trackmaven.com/blog/best-time-to-post-on-twitter/ https://www.omnicoreagency.com/facebook-statistics https://www.omnicoreagency.com/facebook-statistics https://web.archive.org/web/20190816111715/https://trackmaven.com/blog/best-time-to-post-on-twitter/ https://web.archive.org/web/20190816111715/https://trackmaven.com/blog/best-time-to-post-on-twitter/ 25Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Couldry, N. y Mejias, U. A. (2019). The costs of connection. How data is colo- nizing human life and appropriating it for capitalism. Stanford Uni- versity Press. DOI: https://doi.org/10.1515/9781503609754 Cowdell, S., Fleming, C. y Hodge, J. (eds.) (2015). Mimesis, movies, and me- dia: Violence, desire, and the sacred (vol. 3). Bloomsbury. Declercq, F. (2006). Lacan on the capitalist discourse: Its consequences for libidinal enjoyment and social bonds. Psychoanalysis, Cultu- re & Society, 11, 74-83. DOI: https://doi.org/10.1057/palgrave. pcs.2100068 Dobbs, L. [@LouDobbs] (2018, 26 de octubre). #StopTheCaravan- @ SaraCarterDC: President @realDonaldTrump is 100% right. We have every right to protect our border. This is a very dan- gerous [Tweet]. Tw itter. htt ps://t w itter.com/loudobbs/ status/1055973083834732545?ref_src=twsrc%5Etfw Girard, R ., Oughourlian, J.-M., Lefort, G. (1987). Things hidden since the foundation of the world (reimpr.). Stanford University Press. Gutiérrez, F., Islas, O. y Arribas, A. (2019). Las nuevas leyes de los nuevos medios y la reconfiguración del entorno. Palabra Clave, 22(2), 1-27. DOI: https://doi.org/10.5294/pacla.2019.22.2.9 Gwartz, E. y Spence, K. (2020). Conscious capitalism and sport: Exploring higher purpose in a professional sport organization. Sport Mana- gement Review, 23(4), 750-763. DOI: https://doi.org/10.1016/j. smr.2019.09.002 Internet World Stats (2021). Internet usage statistics: The internet big pic- ture. Miniwatts Marketing Group. https://www.internetworlds- tats.com/stats.htm Kaiser, B. (2019). La dictadura de los datos. Harper Collins. https://doi.org/10.1515/9781503609754 https://doi.org/10.1057/palgrave.pcs.2100068 https://doi.org/10.1057/palgrave.pcs.2100068 https://twitter.com/loudobbs/status/1055973083834732545?ref_src=twsrc%5Etfw https://twitter.com/loudobbs/status/1055973083834732545?ref_src=twsrc%5Etfw https://doi.org/10.5294/pacla.2019.22.2.9 https://doi.org/10.1016/j.smr.2019.09.002 https://doi.org/10.1016/j.smr.2019.09.002 https://www.internetworldstats.com/stats.htm https://www.internetworldstats.com/stats.htm 26 Manipulación ideológica en redes sociales... - Juan Carlos Gaal Fong y otros Lacan, J. (1984). Escritos II (vol. 2). Siglo XXI. Lacan, J. (2009). Escritos I (vol. 1). Siglo XXI. Lady De’ Plorable Parler. [@LadyRedwave] (2018, 27 de octubre). So the TRUTH is out- it’s NOT about asylum or they could have stayed in #MX -It’s abt invading #America. [Tweet]. Twitter. https://twitter. com/LadyRedWave Martin, J. [@JamesMartinSJ] (2018, 26 de octubre). What Jesus never said: “Feed the hungry only if they have papers.” “Clothe the naked only if they’re from [Tweet]. Twitter. https://twitter.com/jamesmartin- sj/status/1055848770167099392?lang=en McLuhan, M. y Fiore, Q. (1967). El medio es el mensaje. Paidós. McLuhan, M., Gordon, T. W. y Meggs, P. B. (2003). Understanding media: The extensions of man. Gingko. McLuhan, M., McLuhan, S. y Staines, D. (2005). Understanding me: Lec- tures and interviews. MIT Press. DOI: https://doi.org/10.1109/ MTAS.2006.261466 Meeker, M. (2020). Internet trends 2019. Bond Capital https://www.bon- dcap.com/report/itr19/#view/outline Nonnecke, B. et al. (2021). Harass, mislead, & polarize: An analysis of Twit- ter political bots’ tactics in targeting the immigration debate before the 2018 U.S. midterm election. Journal of Information Technology & Politics. DOI: https://doi.org/10.1080/19331681.2021.2004287 OSoMe - Observatory on Social Media (2014). Botometer. https://boto- meter.osome.iu.edu/ Olivier, B. (2014). The subject: Deleuze-guattari and/or Lacan (in the time of capitalism)? Phronimon, 15(1), 46-66. DOI: https://doi. org/10.25159/2413-3086/2212 https://twitter.com/LadyRedWave https://twitter.com/LadyRedWave https://twitter.com/jamesmartinsj/status/1055848770167099392?lang=en https://twitter.com/jamesmartinsj/status/1055848770167099392?lang=en https://doi.org/10.1109/MTAS.2006.261466 https://doi.org/10.1109/MTAS.2006.261466 https://www.bondcap.com/report/itr19/#view/outline https://www.bondcap.com/report/itr19/#view/outline https://doi.org/10.1080/19331681.2021.2004287 https://botometer.osome.iu.edu/ https://botometer.osome.iu.edu/ https://doi.org/10.25159/2413-3086/2212 https://doi.org/10.25159/2413-3086/2212 27Palabra Clave - eISSN: 2027-534X - Vol. 25 No. 3. e2539 Orozco, G. et al. (2012). Tvmorfosis: la televisión abierta hacia la sociedad de redes (vol. 1). Tintable. Pawelczyk, V. [@Woj_Pawelczyk] (2018, 25 de octubre). Mexicans citizens furious about the trail of trash left by the invaders. The narrator descri- bes how the donated clothes and [Tweet]. Twitter. https://twitter. com/Woj_Pawelczyk/status/1055507153518280706 Peretti, J. (1996). Capitalism and schizophrenia. Contemporary visual culture and the acceleration of identity formation/dissolution. Negations (winter). http://www.datawranglers.com/negations/ issues/96w/96w_peretti.html Postman, N. (2000). The humanism of media ecology. En Proceedings on the Media Ecology Association, 16 de junio. https://media-ecology. org/resources/Documents/Proceedings/v1/v1-02-Postman.pdf Rodríguez-Fernández, L. (2015). El uso de Facebook y Twitter de las fuer- zas de defensa de Israel en la operación “Margen Protector”. Histo- ria de la Comunicación Social, 20(2), 465-482. DOI: https://doi. org/10.5209/rev_HICS.2015.v20.n2.51394 Vanheule, S. (2016). Capitalist discourse, subjectivity and Lacanian psychoa- nalysis. Frontiers in Psychology, 7. DOI: https://doi.org/10.3389/ fpsyg.2016.01948 Wallon, H. (1975). Los orígenes del carácter en el niño: Los preludios del sen- timiento de personalidad. Nueva Visión. Woods, J. [@RealJamesWoods] (2018, 30 de octubre). Here come the “chil- dren”. #Democrats #Invasion [Tweet]. Twitter. https://twitter.com/ realjameswoods/status/1057321993551441922?lang=fa https://twitter.com/Woj_Pawelczyk/status/1055507153518280706 https://twitter.com/Woj_Pawelczyk/status/1055507153518280706 https://media-ecology.org/resources/Documents/Proceedings/v1/v1-02-Postman.pdf https://media-ecology.org/resources/Documents/Proceedings/v1/v1-02-Postman.pdf https://doi.org/10.5209/rev_HICS.2015.v20.n2.51394 https://doi.org/10.5209/rev_HICS.2015.v20.n2.51394 https://doi.org/10.3389/fpsyg.2016.01948 https://doi.org/10.3389/fpsyg.2016.01948 https://twitter.com/realjameswoods/status/1057321993551441922?lang=fa https://twitter.com/realjameswoods/status/1057321993551441922?lang=fa