Innovación

No podemos evitar que la IA cambie el mundo, pero podemos evitar que los robots cocinen gatos

como ese hombre Coautor del libro de texto definitivo sobre inteligencia artificial.Stuart Russell está perfectamente calificado para especular sobre el futuro de la inteligencia artificial.

Un profesor de informática en UC Berkeley cree que el campo seguirá creciendo a un ritmo vertiginoso. Dada la perspectiva de que las computadoras y los robots se vuelvan tan inteligentes como los humanos, dijo que era hora de comenzar a ver cómo estas máquinas inteligentes podrían compartir nuestros valores.

Los avances en inteligencia artificial se están acelerando rápidamente, dijo Russell, como lo demuestra la máquina AlphaGo de DeepMind de Google, que aprendió por sí misma el juego notoriamente complejo de Go, hasta el punto en que recientemente pudo vencer al campeón mundial Lee Sedol.

«Hace un año, los principales expertos en programación de computadoras Go predijeron que se necesitaría otra década para vencer al campeón mundial», dijo en la Conferencia Mundial Strata + Hadoop en Londres.

«De un proyecto que ni siquiera podía desafiar a un jugador profesional de Go hace unos dos años, ahora es un proyecto que vence a un campeón mundial».

En el futuro, la IA nos ayudará cada vez más a vivir nuestras vidas, conducir nuestros automóviles, actuar como asistentes virtuales inteligentes, conocer nuestros gustos y aversiones y administrar nuestro día, dijo.

Quizás el mayor cambio, dijo Russell, será el motor de búsqueda, que pasará de ofrecer millones de páginas que pueden contener las respuestas que queremos a responder directamente preguntas sobre una amplia gama de temas, utilizando el conocimiento obtenido al leer y comprender esos paginas

Las técnicas de IA ya se están utilizando para construir sistemas inteligentes más allá de las capacidades del software anterior. Russell cita el ejemplo de investigadores de la Universidad de California, Berkeley, que utilizaron programación probabilística para construir un sistema de inteligencia artificial que ayuda a detectar explosiones nucleares secretas. El software servirá como el sistema de monitoreo oficial para la implementación del tratado de prohibición global de pruebas nucleares de la ONU.

«Es muy poderoso, el núcleo del sistema es media página de código y produce un sistema de monitoreo que es dos o tres veces más preciso que los sistemas anteriores, desarrollado usando un siglo de investigación sismológica».

El camino a la utopía y la distopía

Russell es optimista en sus predicciones sobre las capacidades máximas de la inteligencia artificial, prediciendo que eventualmente alcanzarán la inteligencia promedio y superarán a los humanos.

«En el futuro, no parece haber barreras serias para el progreso de la IA hasta que alcance un punto en el que pueda superar a los humanos en una amplia gama de tareas».

Una vez que los sistemas puedan aprender a hacer «casi cualquier cosa», dijo Russell, tendrán una ventaja sobre los humanos porque «pueden leer todo lo que un humano ha escrito» y «proyectarse más lejos en el futuro, como lo hizo AlphaGo cuando compitió». hacer eso Go», y así eventualmente «podrá tomar mejores decisiones que nosotros».

«Es una perspectiva muy importante, y los beneficios son enormes», dijo.

«Todo lo que tenemos, nuestra civilización, nace de nuestra inteligencia. Si podemos obtener algo que mejore significativamente nuestra inteligencia, solo nos ayudará a lograr más».

«Podemos resolver estos problemas, como la guerra, la enfermedad, la pobreza y la destrucción del medio ambiente, que hasta ahora las mejores mentes humanas no han podido resolver.

“Podemos llegar a un punto en este siglo en el que ya no estemos limitados por la dificultad de alimentarnos y evitar que los demás se maten, sino por decidir quiénes queremos que sea la humanidad”.

Pero este caso se basa en la mejor aplicación de la tecnología. También existe una gran desventaja potencial para la IA, dijo Russell, un gran aumento en las capacidades de las que las personas pueden abusar para proporcionar civilización.

Las armas completamente autónomas, como los robots asesinos descritos por Russell, son una «amenaza inminente» para la seguridad humana, dijo, «porque pueden usarse como armas de destrucción masiva».

«Cinco personas con suficiente dinero pueden disparar 10 millones de armas en una ciudad», dijo.

Otros usos dañinos incluyen la vigilancia automatizada a una escala que no era posible en el pasado y lo que él llama «persuasión automática», que describe como:

«La capacidad de un sistema de IA para convencer a las personas de que adopten una opinión política particular o compren un producto en particular interactuando con ellos de manera muy cuidadosa. Esto podría tener graves consecuencias negativas para nuestra sociedad».

La creciente adopción de sistemas inteligentes y robótica también podría provocar la interrupción de muchos trabajos en los que la gente confía hoy en día, dijo, y agregó que la sociedad aún no tiene un «plan serio» para lidiar con el resultado.

Cómo evitar que un robot cocine a tu gato

Russell advierte que será un desafío hacer máquinas que puedan pensar por sí mismas pero que aún así tengan nuestros mejores intereses en su corazón.

«Un sistema superinteligente encontrará formas de lograr objetivos en los que no pensó. Por lo tanto, es difícil predecir los posibles problemas que puedan surgir».

En particular, Russell advierte contra la construcción de un sistema inteligente para perseguir un conjunto de objetivos sin darle la capacidad de aprender qué acciones son aceptables para lograr esos objetivos.

«Imagina que tienes un robot doméstico. Cuida a los niños en casa, y los niños cenan y todavía tienen hambre. Parece que está en la nevera, no queda mucho para comer. El robot quiere saber qué hacer , y parece que cuando se trata de gatitos, puedes imaginar lo que sucede a continuación.

«Es un malentendido de los valores humanos, no entender que el valor emocional de los gatos supera con creces su valor nutricional».

Para contrarrestar estos conceptos erróneos peligrosos, Russell dice que la IA debe estar equipada con una comprensión de sentido común de los valores humanos. Con este fin, sugiere que el único objetivo absoluto de los robots autónomos debería ser maximizar el valor de los humanos como especie. De esta forma, las máquinas tienen en cuenta los valores sociales al realizar sus tareas, por lo que irán a buscar café cuando se les solicite, pero no derribarán a nadie que se interponga en su camino.

Con el tiempo, los sistemas inteligentes y los robots pueden acumular una comprensión de los valores humanos a través de observaciones compartidas del comportamiento humano actual y registros históricos, dijo.Russell sugirió que una forma en que los robots podrían usar para obtener esta apreciación de los valores humanos podría ser Aprendizaje por refuerzo inverso.

El enfoque también requiere que los robots puedan resolver cuál de los valores contrastantes de diferentes grupos e individuos debe tener prioridad, dijo. Cada robot inteligente también debe diseñarse para aceptar cierto nivel de incertidumbre en los valores humanos, lo que le permite exigir orientación y corregir su comportamiento, incluso permitiéndose apagarse.

russell fue el primer firmante de una carta abierta Pide a los investigadores de IA que trabajen en el desarrollo de sistemas que sean «beneficiosos» y «hagan lo que queremos que hagan». La carta atrajo firmas de los principales investigadores de IA en Facebook, Google y Microsoft.

Uno de los firmantes es el cofundador y empresario multimillonario de PayPal, Elon Musk, que financia investigaciones para «mantener la IA en buen estado». Russell ahora se está embarcando en un proyecto de investigación de 20 años sobre cómo construir máquinas inteligentes con sistemas de valores alineados con los valores humanos.

«Lo primero que vamos a hacer es lograr que la IA como campo comprenda que este es un problema importante. Como entiende la ingeniería civil, cuando construyes un puente, ese puente no debe derrumbarse. Es ingeniería civil. Qué ingeniero». hace, debería ser inherente a lo que hace un humano con IA”.

ver también

stuart russell

LEER  La transformación digital significa transformar los resultados de los clientes

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba