Grandes datos

Por qué el sesgo de la IA puede ser algo bueno

Los algoritmos de inteligencia artificial y aprendizaje automático están llenos de sesgos humanos, lo cual es malo. Pero el hecho de que nos obliguen a enfrentarlos puede ser bueno.

Por mucho que nos guste pensar en la inteligencia artificial (IA) y el aprendizaje automático como sobrehumanos, cosas que las máquinas pueden hacer mejor que los humanos, la realidad es que la IA y el aprendizaje automático simplemente aceleran la velocidad a la que nuestros sesgos humanos funcionan correctamente.

como ex empleado de Google Yonatan Zunger escribió En una publicación particularmente reflexiva sobre el sesgo de la IA, en el momento en que comenzamos a construir modelos de ML, nos encontramos con un hecho inconveniente: «Los mayores desafíos de la IA a menudo comienzan al escribirlo, lo que hace que sea imperativo que entendamos muy claramente Nuestro objetivo, en cierto modo, es casi nada más».

En otras palabras, las máquinas reflejan y amplifican nuestros sesgos en lugar de erradicarlos. Debemos ser muy conscientes de esto a medida que recurrimos a la inteligencia artificial y el aprendizaje automático para manejar todo, desde el marketing hasta las decisiones judiciales.

Haz lo que digo…

Para bien o para mal, la máquina hace exactamente lo que le decimos que haga. Como enfatiza Zunger, lo mejor que una máquina puede hacer con los datos no es su velocidad, sino su inherente falta de creatividad:

Su verdadera ventaja es que no se aburren ni se distraen: los modelos ML pueden tomar decisiones sobre diferentes datos millones o miles de millones de veces seguidas, y no empeora (o mejora). Eso significa que puede aplicarlos a problemas en los que los humanos son muy malos, como clasificar miles de millones de páginas web para una sola búsqueda o conducir un automóvil.

Esta ventaja de «no aburrir» es real, pero también señala el problema.

LEER  Malcovery Security: los spammers y phishers de la empresa odian

Ver: Guía para líderes de TI sobre el futuro de la IA (Tech Pro Research)

… no como yo

Si bien a los especialistas en marketing les gusta de alguna manera «más allá de los humanos» para vender sus productos de IA, no lo son. Las personas programan computadoras, no al revés, y en el proceso alimentan sus computadoras con todos sus sesgos. Como Zunger escribió:

Los modelos de aprendizaje automático tienen un hábito muy desagradable: aprenden lo que les muestran los datos y luego te dicen lo que aprendieron. Se niegan obstinadamente a aprender sobre «el mundo que queremos» o «el mundo que nos gusta reclamar» a menos que les expliquemos explícitamente qué es, incluso si nos gusta fingir que no lo hacemos.

O, como él lo resume: «Los modelos de IA nos brindan un espejo; cuando realmente no queremos ser honestos, no entienden. Si les decimos de antemano cómo mentirnos, simplemente cuéntanos ficción cortés.” El modelo de IA no es una especie de árbitro neutral de la verdad, en otras palabras: le decimos nuestras verdades y nos las escupe.

Zunger presenta una serie de ejemplos bien conocidos (y menos conocidos) de este sesgo que deberías tomarte el tiempo de leer. El problema que surge no es tanto que nunca seremos capaces de enseñar a conducir un automóvil, sino más bien la preocupación de que hemos llegado a esperar demasiado de la inteligencia artificial y el aprendizaje automático en términos de cómo usamos las computadoras para hablar o instituciones humanas.

Cuando escribimos algoritmos de inteligencia artificial y aprendizaje automático, tenemos que tomar decisiones explícitas sobre las cosas que importan, lo que nos hace sentir muy incómodos. (Por ejemplo, si estuvieras programando un automóvil, ¿le dirías que mate a un niño que se mete en la carretera oa un conductor? Elige uno). Tal vez esta incomodidad sea una oportunidad de aprendizaje para todos nosotros. Tal vez, solo tal vez, cuando nos veamos obligados a confrontar abiertamente nuestros prejuicios al programar estos modelos, podríamos aprender a superarlos, incluso si nuestras máquinas no pueden.

bias

LEER  Desventaja de la revolución de los desarrolladores: los grandes datos son (in)seguros

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba