Spotify va a adquirir Kinzen, una empresa que se especializa en el uso de aprendizaje automático para analizar contenidos y reportar declaraciones potencialmente dañinas a los moderadores humanos. En un comunicado de prensa, Spotify afirma que la adquisición tiene como objetivo ayudar a «ofrecer una experiencia segura y agradable en nuestra plataforma en todo el mundo», a la vez que intensifica su atención a los podcasts y audiolibros generados por los usuarios, que podrían contener información errónea u otras violaciones de las políticas de Spotify.
Spotify ya ha estado trabajando con Kinzen, afirmando que se ha asociado con la compañía desde 2020 y que la tecnología de la startup ha sido «fundamental para mejorar nuestro enfoque de la seguridad de la plataforma.» Según el sitio web de Kinzen, su tecnología es capaz de analizar el contenido de audio en varios idiomas, y utiliza datos de Internet y de expertos humanos para averiguar si ciertas afirmaciones son perjudiciales. (Incluso afirma ser capaz de detectar silbatos para perros, frases aparentemente inocuas que en realidad se refieren a algo con un significado más oscuro).
Spotify tiene montañas de audio generado por los usuarios, y es difícil atrapar a todos los que incumplen las normas
Dustee Jenkins, jefe global de asuntos públicos de Spotify, citado en su comunicado de prensa, afirma que la incorporación de Kinzen a la empresa mejorará la capacidad de ésta para «detectar y abordar los contenidos perjudiciales y, lo que es más importante, de una forma que tenga más en cuenta el contexto local».
Como ha señalado mi colega Ariel Shapiro, la compañía ha pasado los últimos años consultando con expertos y lanzando consejos consultivos en un intento de averiguar la moderación de contenido, especialmente después de que compró la plataforma de podcasting de bricolaje Anchor en 2019. Spotify dice que hubo más de un millón de podcasts agregados a su servicio por «creadores independientes» el año pasado, una cantidad monstruosa de contenido de audio sobre el que realmente no tiene mucha supervisión.
Spotify no ha podido evitar la polémica ni siquiera con los contenidos con los que tiene una relación directa: el debate público sobre lo que dicen personas como Joe Rogan en los podcasts exclusivos de Spotify es un ejemplo perfecto de ello. Y si hay problemas que surgen en esa cantidad proporcionalmente minúscula de contenido, imagina lo que podría estar acechando inadvertidamente en algunos de esos más de un millón de podcasts.
Como señala un reciente informe de la Liga Antidifamación, los contenidos que infringen claramente las políticas de Spotify pueden seguir escapando a las medidas de aplicación. El informe se centró en la música explícitamente supremacista blanca, pero Kinzen parece estar más centrado en la búsqueda de contenidos problemáticos de palabra hablada y en llamar la atención de los moderadores; el comunicado de prensa de Spotify dice que es «especialmente adecuado para los formatos de podcast y audio». El algoritmo va a tener que trabajar horas extras si quiere escuchar los miles de podcasts que se añaden a la plataforma cada día.
:)