Con millones de usuarios y un sistema de moderación impulsado por IA, Roblox redefine el concepto de control digital. Pero, ¿Realmente las plataformas regulan comportamientos sin sesgos o instauran un nuevo modelo de autoridad a los más jóvenes?
Mateo está sentado frente a la computadora sumergido en su juego favorito. Su avatar, una proyección fiel de su identidad —con el cabello oscuro, la ropa que más le gusta y un tono de piel similar al suyo—, salta en la pantalla. De repente, entre el frenesí de los crujidos del teclado y los veloces clics del mouse, un grito: «¡No loco! Me volvieron a banear». Golpea la mesa frustrado y luego, como quien entra en una clase de filosofía, comienza a reflexionar: ¿Qué habrá interpretado Roblox esta vez como infracción? «Es que ahora no puedo escribir la «Q» sola», se dice, «creen que es una mala palabra».
La autoridad algorítmica trasciende al mundo de los videojuegos convertida en un guardián digital «en segundo plano» de nuestras interacciones en linea. Las redes sociales despliegan sofisticados sistemas de inteligencia artificial que, mediante algoritmos complejos, moderan y filtran conductas potencialmente nocivas.
Esto establece una delicada linea entre la libertad de expresión y la protección de la comunidad digital. Además, los mecanismos no solo detectan contenido problemático, sino que también intentan crear ecosistemas virtuales más seguros y respetuosos. Pero ¿Qué implicaciones, en el corto y largo plazo, tiene el monitoreo constante, modera o condiciona?
Nunca es tarde
En un hito histórico y en acuerdo de las principales fuerzas políticas, Australia votó en favor de prohibir el acceso a las redes a los menores de 16 años, y responsabiliza a las empresas tecnológicas de llevar a cabo el control para evitar que menores se registren. En esa línea el primer ministro enfatizó sobre el daño que está impactando en la nuevas generaciones.
El debate sobre la moderación algorítmica y la supervisión tecnológica en plataformas digitales no es exclusivo de Australia; resuena globalmente. Tanto la Unión Europea como Estados Unidos también trabajan para implementar regulaciones destinadas a limitar el uso excesivo de redes sociales entre los jóvenes.
Estas iniciativas buscan proteger la privacidad, prevenir adicciones digitales y evitar la exposición a contenido perjudicial. Sin embargo, interroga sobre las responsabilidad asignada a las empresas tecnológicas ¿Estamos delegando a los algoritmos decisiones complejas que afectan directamente la libertad y autonomía de los menores? Y en un plano más profundo y filosófico, ¿La aceptación algorítmica forma parte de los sistemas de control que Deleuze describió en su análisis del poder y la vigilancia?
La tecnología como nuevo aparato ideológico
Los aparatos ideológicos del Estado, como describió Althusser, son estructuras que, más allá de ejercer poder físico, moldean nuestra realidad mediante normas, símbolos y rituales aceptados como naturales. Desde el color rojo del semáforo que señala cuándo detenerse hasta la edad en que los niños ingresan a la escuela, vivimos en un mundo codificado por reglas que forman nuestro sentido común. En este contexto, el Mundial de Qatar no solo fue un evento deportivo; también fue un escaparate global donde la tecnología, a través del VAR, actuó como el nuevo árbitro que aplica las reglas, reforzando la idea de un control imparcial y objetivo. ¿Son éstas clase de eventos condicionantes a largo plazo de nuestra realidad?
¿Una prueba piloto?
El mundial de Qatar 2022, además de ser una fuente de alegría inolvidable para los argentinos, rompió records históricos de visualizaciones y alcance. Con casi seis millones de visualizaciones y un alcance acumulado de 262 mil millones en todas las plataformas, se consolidó como uno de los eventos más vistos del planeta. Pero ¿Qué tiene que ver este fenómeno con la autoridad algorítmica y el papel de la inteligencia artificial en la toma de decisiones?
Argentina llegó a Qatar como uno de los favoritos y, además, contaba con uno de los futbolistas más grandes de la historia: Lionel Messi. Aunque parte del mundo podría no interesarse en nuestra selección, es difícil ignorar un partido protagonizado por Messi.
En su debut frente Arabia Saudita, el VAR implementó una tecnología innovadora: Sensores dentro de la pelota y algoritmos avanzados que mejoraban la precisión de la ubicación de los jugadores. Este sistema anuló tres goles del equipo albiceleste, con decisiones casi inmediatas que se reprodujeron simultáneamente en las pantallas del estadio y en millones de dispositivos alrededor del mundo.
Entre la emoción, la bronca y la aceptación, millones de argentinos recibieron las decisiones con cuestionamientos y ciertas reticencia hacia la nueva tecnología. ¿Lo recuerdan?
La audiencia, frente a estos resultados, asumió la lógica: «los ojos y la tecnología no mienten». Pero aquí surge una reflexión: ¿Qué ocurre cuando delegamos en un inteligencia artificial decisiones que impactan a millones? La automatización, presentada como objetiva e infalible, no solo define resultados, sino que también se consolida como sentido común ante audiencia récord. ¿Es la aceptación de estas decisiones una prueba de confianza o es la imposición de un nuevo tipo de autoridad que no podemos cuestionar? Y más allá de los adultos, ¿Qué sucede con los niños, en pleno proceso de formación, que confían en los dispositivos tecnológicos como verdades incuestionables? ¿Estamos condicionando su percepción a través de una autoridad tecnológica invisible pero omnipresente?
[youtube https://www.youtube.com/watch?v=rg4yTYi7d2Q?si=kYAxfYB5UlNdRGeG&w=560&h=315]
Este tipo de eventos, que moldean la percepción de un tecnología óptima y objetiva trasciende al fútbol. Los vimos también en tenis, la gimnasia y el atletismo, siempre bajo la premisa de reducir el sesgo humano y garantizar decisiones más precisas. Sin embargo, debemos preguntar ¿Realmente estamos logrando una objetividad pura o solo trasladan nuestras limitaciones humanas a sistemas tecnológicos que replican sesgos preexistentes?
El caso Roblox
Roblox se ha convertido en una de las plataformas de juegos más populares del mundo. Con más de 150 millones de usuarios activos al mes, la compañía liderada por David Baszucki apunta a meta ambiciosa: alcanzar los mil millones de usuarios activos diarios. Aunque suene desafiante, la cifra no es para nada descabellada si consideramos el éxito global de la plataforma y el entusiasmo inagotable de los jóvenes por construir comunidades en metaversos. Roblox ha perfeccionado el arte de ofrecer «juegos dentro de juegos», creando un ecosistema casi infinito donde los usuarios son tanto jugadores como creadores.
Dada la enorme cantidad de usuarios que interactúan en la plataforma, Roblox tuvo que actualizar sus mecanismos de control recurriendo a la inteligencia artificial para moderar sus políticas de convivencia. Esta tecnología no sólo regula, sino que también moldea el vocabularios de los jóvenes, quienes en ocasiones son interrumpidos por pantallas que alertan sobre comportamientos indebidos. Con cada advertencia, aumenta el grado de sanción, llegando incluso a la suspensión definitiva de la cuenta.
Para lograr este avance, la empresa entrenó su modelo de lenguaje con 2300 horas de grabaciones, equivalentes a 552 mil fragmentos de 15 segundos, el segmento que establecieron para «inspeccionar» en tiempo real las conversaciones de los usuarios. Si bien esta tecnología permite moderar de manera más eficiente, surgen otras interrogantes: ¿Es suficiente esta muestra frente a una base de usuarios tan amplia y heterogénea? ¿Es esta inteligencia artificial un nuevo arquetipo en el inconsciente de los niños?
Para una sociedad como la nuestra que pasa un poco menos de 9 horas en Internet al día, el tipo de contenido y sus reglas implícitas, puede determinar algo más que nuestras conductas. Para niños de entre 9 a 12 años que son el 50 % de la plataforma puede significar algo mucho más profundo, incluso determinante para moldear su futuro. A fin de cuentas, no sería la primera vez que un «juego» mediante el uso de «innovaciones» instale un nuevo sentido que determine la realidad percibida por millones.
Deja una respuesta