Seleccionar página

El problema de la detección automatizada de comentarios racistas en internet

El problema de la detección automatizada de comentarios racistas en internet

Revisar todos los comentarios que se vierten a la red para detectar aquellos que deberían ser censurados por ser racistas, incitar al odio o resultar inaceptables por otros motivos es algo que cada vez depende menos de moderadores humanos y más de software especializado. El problema de dejar la labor a sistemas automáticos es que incluso los basados en un sistema etiquetable como “inteligencia artificial” carecen de verdadera inteligencia y pueden cometer errores absurdos.

Todo apunta a que un error de este tipo fue lo que motivó que a Antonio Radi (Agadmator), un ajedrecista croata con un popular canal sobre ajedrez en YouTube, la plataforma le bloqueara su cuenta en junio pasado por contenido «dañino y peligroso».

YouTube no dio ninguna explicación y restableció el canal en 24 horas.

Ashiqur R. KhudaBukhsh y Rupak Sarkar, de la Universidad Carnegie Mellon en Estados Unidos, creen que el error cometido por el sistema automático de YouTube que se ocupa de rastrear contenidos para señalar aquellos que, según su criterio, deberían ser censurados, se debió a la jerga típica del ajedrez sobre enfrentamientos entre piezas blancas y negras, que fue interpretada por el sistema de inteligencia artificial como comentarios racistas y de incitación al odio racial en el marco de enfrentamientos de blancos contra negros.

Sobre el Autor

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

G R U M E D

G R U M E D

Orientación Médica en la Radio

Orientación Médica TV

Orientación Méd. Legal

Orientacion Medica TV