Twitch e Inteligencia Artificial: Redefiniendo el concepto del ‘AutoMod’

Una interesante propuesta para un futuro uso de la inteligencia artificial, y para el servicio de uno de los agentes de la cadena de valor de los esports, sería integrarla de manera automática en todos los chats de Twitch para llevar a cabo así la tarea de moderación de los canales de una forma instantánea y completamente independiente.

La reconocida y famosa plataforma de streaming, Twitch, debería empezar a contemplar la idea de integrar, y de cara a un futuro no muy lejano, el uso de IA para la moderación completa del chat de todos sus canales. El servicio de retransmisión online no debería quedarse atrás en una oportunidad de incorporar una tecnología que está a la orden del día y que cada vez ayuda a más empresas y corporaciones de todo el mundo a mejorar sus prestaciones y/o rendimiento.

Para entender mejor el valor de la propuesta, así como los numerosos beneficios que aportaría a la mencionada plataforma digital, hay que tener en cuenta que, a pesar de que el papel que desempeña cualquier moderador resulta esencial para Twitch, un tipo de trabajo basado en la codificación y lectura de mensajes se presenta idóneo para desarrollarse por una Inteligencia Artificial. De hecho, este tipo de software no pretende más que imitar la función cognitiva humana, y por ello, su objetivo es el de procesar y analizar datos para realizar acciones determinadas y resolver problemas.

Teniendo esto en mente, y sabiendo que cada vez son más las compañías que deciden invertir en este servicio informático, la plataforma morada debería considerar relegar la función de los ya clásicos moderadores de chat, a un sistema informático que, a día de hoy, resulta ser muy preciso y permite asimilar una cantidad ingente de datos a gran velocidad. Sin duda, sería una herramienta muy útil para moderar tráficos de mensajes a gran escala, por ejemplo, las retransmisiones de esports con cientos de miles de usuarios simultáneos.

Sin embargo, hay que tener en cuenta que Twitch ya tiene un moderador automático, llamado AutoMod, pero este no es más que una herramienta adicional de seguridad que permite a cada creador llevar un recuento más exhaustivo del contenido indeseado y, así, retenerlo para poder eliminarlo. Tarde o temprano, la figura del moderador humano y la del moderador inteligente deberían fusionarse ya que ambos realizan una misma función: interactúan con los usuarios y garantizan que el chat cumpla con los estándares de comportamiento que marcan las directrices de la comunidad.

Por otro lado, es importante señalar que el moderador automático de Twitch no puede expulsar a nadie; pues eso es tarea expresa del moderador principal. Monitorizar se muestra hoy en día como una ación que la podría desempeñar al 100% un software inteligente; pues como se puede intuir, se trata de una tarea tediosa, complicada y que requiere de cierta celeridad, sobre todo para las retransmisiones más destacadas. Por si fuera poco, retribuye mínimamente al encargado; ya que, en la mayoría de casos, no cobra absolutamente nada y es más un acto de voluntariedad que de faena en sí.

Así pues, la moderación es una actividad que se presenta muy factible que la lleve a cabo enteramente una IA debido a su naturaleza de carácter fugaz, inmediata, y por no ser retribuida. La pregunta es la siguiente: ¿Para qué hacer trabajar a una o varias personas en una tarea que debe o puede ser totalmente asumida por un sistema informático que se integre a cada canal de manera automática? La respuesta lógica parece que sería ninguna, sin embargo, la plataforma morada opta por priorizar el factor humano para ajusticiar, estudiar y precisar cada caso.

Asimismo, es cierto que recientemente ha habido un poco de controversia sobre este asunto; pues hace unas semanas, un streamer llamado PaymoneyWubby, insinuó que Twitch empleaba un moderador oculto o fantasma mediante uso de IA para cerrar las cuentas de los usuarios que incumplen con la normativa de la comunidad. La plataforma de streaming no tardó en salir al paso para aclarar que su moderador automático, el citado AutoMod, “no está configurado, en ningún caso, para ejercer baneos ni silenciar a los usuarios”, cerrando así la polémica.

En respuesta a esta sospechosa problemática, surge la idea de suprimir la función del AutoMod, así como la del moderador humano, y remplazarlo por una inteligencia artificial completamente autónoma que fuera capaz de discernir los mensajes en función del contexto y en base a la separación y clasificación del contenido de cada stream. Este último punto será clave en la consecución del éxito de la IA como moderador equitativo y razonable (uso de etiquetas), así como fijando las famosas reglas de canal que marca cada autor.

De este modo, la ventaja sería que no haría falta movilizar a ningún humano al apartado del chat, ya que la IA de Twitch se encargaría de limpiar y codificar toda la información al instante en base a la normativa y el registro de cada canal, así como dialogar con los usuarios presentes. No obstante, lo más justo es que a la hora de tomar una decisión importante, como eliminar o suspender una cuenta a alguien (temporal o indefinidamente) el sistema informático debería trasladar la infracción al equipo humano de seguridad y, estos, dictaminar la acción oportuna.

Para más inri, esta decisión no sería excluyente para que Twitch continue trabajando al lado de un equipo de seguridad con personas reales que tomen las decisiones según el caso. Al contrario, la iniciativa fomentaría el trabajo colectivo entre humanos y la IA, para en este supuesto, beneficiar a la plataforma a través de una clara dinamización del servicio y activar una cadena de trabajo más eficiente. Simplemente, convendría que la famosa plataforma de streaming decidiera invertir (y confiar) en un software global de moderación más exacta para agilizar su aplicación.

Por último, es interesante resaltar el impacto que tendría la nueva moderación inteligente para las retransmisiones de competiciones de videojuegos; ya que el chat podría ver, en este caso, una estimación de los porcentajes de victoria de cada equipo generada por la IA antes de apostar sus debidos puntos de canal a cada bando. Por no mencionar que, de ese modo, ya nadie debería lidiar con una tarea tan estresante y sistemática como es moderar un chat, y así poder disfrutar de los apasionantes eventos de esports.