Video del asesinato de Pensilvania evidencia retos de la moderación en redes sociales

Un video perturbador, en el que se presenta a un hombre de Pensilvania acusado de decapitar a su padre, circuló por YouTube durante horas. Este inquietante incidente subraya la lucha de las plataformas de medios sociales para frenar la difusión de contenidos gráficos.

El acusado, Justin Mohn, de 32 años, fue acusado de asesinato en primer grado y de maltrato de cadáveres. Mohn decapitó presuntamente a su padre, Michael, en su casa del condado de Bucks, y retransmitió en directo el horrible acto en un video de YouTube de 14 minutos accesible en todo el mundo, reportó CBS News.

Un portavoz de YouTube informó a CBS News de que la plataforma se adhiere a estrictas políticas contra el extremismo violento y la violencia gráfica. "Estamos trabajando incansablemente para eliminar cualquier nueva subida del video", declaró el portavoz tras la eliminación del video por violar su política de violencia gráfica. Además, el canal de Justin Mohn fue dado de baja de acuerdo con sus políticas contra el extremismo violento.

YouTube utiliza una combinación de moderadores humanos e inteligencia artificial para gestionar su plataforma. Revelaron que su sitio eliminó 8,1 millones de videos por violación de la política en el tercer trimestre de 2023, y que los sistemas automatizados identificaron inicialmente más del 95% de estos videos. Sin embargo, el retraso en la detección del mencionado video truculento sigue siendo un problema sin resolver.

La aparición del video coincidió con la comparecencia de los directores ejecutivos de Meta, TikTok y otras redes sociales ante los legisladores federales. Los legisladores expresaron su descontento por la percibida falta de progreso en la seguridad infantil en línea. YouTube, una filial de Google muy popular entre los adolescentes, estuvo notablemente ausente de la audiencia.

Este alarmante video de Pensilvania sigue a una serie de brutales clips compartidos en las redes sociales, desde tiroteos masivos domésticos en Estados Unidos a atrocidades internacionales. Estos incidentes ponen de relieve la acuciante necesidad de mejorar las prácticas de moderación en medio de crisis mundiales y climas políticos polarizados.

Alix Fraser, directora del Consejo para los Medios Sociales Responsables de Issue One, criticó la incapacidad de estas empresas para proteger a sus usuarios. "No podemos confiar en que califiquen sus propios deberes", añadió Fraser.

Aunque los potentes sistemas automatizados ayudan a las principales plataformas de medios sociales en la moderación de contenidos, a menudo fallan cuando se enfrentan a formas nuevas o inusuales de contenido gráfico y violento. Brian Fishman, cofundador de Cinder, una startup de tecnología de confianza y seguridad, hizo hincapié en el papel crucial de los moderadores humanos, afirmando: "La IA está mejorando, pero aún no ha llegado".

A pesar de los esfuerzos colectivos de las empresas tecnológicas para evitar la circulación de este tipo de videos, el video de la decapitación ya se había difundido ampliamente, atrayendo 20.000 visitas antes de su retirada.

Internet y las plataformas de medios sociales han facilitado involuntariamente el acceso a las ideologías extremistas. A los expertos les preocupa que este fácil acceso pueda envalentonar a los individuos violentos, reforzando sus peligrosas creencias.

Aunque la mayoría de las plataformas de medios sociales cuentan con estrategias para eliminar los contenidos extremistas y violentos, el auge de nuevos sitios poco vigilados permite que las ideas más dañinas queden sin control. Michael Jensen, investigador principal de START, abogó por una mayor regulación de los contenidos violentos por parte de las plataformas de medios sociales.

Nora Benavidez, asesora sénior de Free Press, pidió reformas tecnológicas, incluida una mayor transparencia en torno a los despidos y una mayor inversión en trabajadores de confianza y seguridad. Se hizo eco de la opinión de que las empresas de medios sociales tienen un papel importante que desempeñar para frenar el extremismo y el terrorismo.