La guerra de Google contra el terrorismo: 4 formas en que el gigante de las búsquedas lucha contra el extremismo en línea
En una publicación de blog, Google describió cuatro pasos para combatir el contenido terrorista y redirigir a los usuarios a información positiva.
Google está aumentando los esfuerzos para tomar medidas enérgicas contra el contenido extremista en línea, detalles blog del domingo La compañía dará cuatro nuevos pasos para erradicar el ciberterrorismo.
Los extremistas usan plataformas en línea como Facebook, Twitter y Google para compartir videos de ejecuciones, promover su ideología y reclutar nuevos miembrosEn la publicación, el consejero general de Google, Kent Walker, dijo que se han hecho esfuerzos para frenar dicha actividad, pero que se necesita hacer más.
Google está trabajando actualmente con los gobiernos y las agencias de aplicación de la ley para eliminar dicho contenido, decía la publicación, y la compañía ha creado herramientas para ayudar a identificar y eliminar fotos y videos relacionados con el terrorismo. Ahora, la compañía se comprometió a continuar sus esfuerzos de cuatro maneras diferentes: mejorando la capacidad de la tecnología para detectar este contenido, utilizando más expertos humanos para clasificarlo, fortaleciendo su postura sobre el contenido que viola las políticas y trayendo posibles reclutas de ISIS a la mesa. Redirigido al video antiterror que decía la publicación.
Ver también: El arma secreta de Facebook contra los terroristas: los expertos humanos y la IA trabajan juntos
1. Identificar
El primer paso en el plan de Google es aumentar el uso de la tecnología para identificar contenido que pueda contener actos terroristas o promover ideales terroristas. El problema aquí es que algunas referencias al extremismo pueden ser solo noticieros que informan a los espectadores sobre las amenazas, dice la publicación. Google ahora está utilizando el aprendizaje automático para analizar el contenido y, hasta ahora, ha identificado el 50 por ciento del contenido ofensivo que ha eliminado en los últimos seis meses. En el futuro, la compañía continuará entrenando nuevos modelos para determinar qué es y qué no es contenido extremista.
2. Expertos humanos
En su publicación, Walker señaló que la tecnología en sí misma no es una «bala de plata» en esta lucha. Como resultado, Google comenzará a depender más de expertos humanos independientes en su Programa de Marcado de Confianza de YouTube para ayudar a marcar contenido cuestionable para su eliminación. Los expertos señalaron el contenido correcto con una tasa de éxito del 90 por ciento, y Google planea agregar 50 profesionales más al programa para abordar el «discurso de odio, las autolesiones y el terrorismo», dice la publicación.
Esto es similar al enfoque de Facebook para combatir el extremismo, ya que aprovecha tanto la inteligencia artificial como los expertos humanos. Para los líderes empresariales, esto destaca la necesidad de contratar expertos en seguridad cibernética en los que confíe para ayudar a implementar la tecnología que utiliza para proteger su organización. Por ahora, todavía hay matices en la seguridad que necesitan ser humanizados.
3. Vídeo degradado
Google también comenzará a tomar medidas enérgicas contra los videos que crea que violan las políticas, como «videos que contienen contenido religioso incendiario o supremacista», decía la publicación. Los videos fueron precedidos por una advertencia de que Google no permitiría que los creadores ganen dinero con ellos. En la publicación, Walker dijo que los videos serán más difíciles de ver y no tendrán tanta participación.
4. Publicidad Dirigida
Para contrarrestar los esfuerzos de reclutamiento en línea, YouTube adoptará lo que llama un «método de reorientación» de manera más amplia. De esta manera, los anuncios dirigidos de YouTube encontrarán usuarios que podrían ser reclutas potenciales del Estado Islámico y los enviarán a videos de contraterrorismo para que cambien de opinión acerca de unirse. Este proceso ha tenido una alta tasa de éxito en el pasado, dice la publicación.
