TED
Creo que tales temores son infundados. En efecto, nos encontramos en un momento notable en la historia humana, en donde, impulsada por la negativa a aceptar los límites de nuestro cuerpo y nuestra mente, somos máquinas de construcción de exquisita, hermosa complejidad y la gracia que ampliarán la experiencia humana en formas más allá de nuestra imaginación .
Después de una carrera que me llevó de la Academia de la Fuerza Aérea de Comando Espacial de ahora, me convertí en un ingeniero de sistemas, y recientemente me atrajo en un problema de ingeniería asociados con la misión de la NASA a Marte. Ahora, en los vuelos espaciales a la Luna, podemos confiar en el control de misión en Houston para vigilar a todos los aspectos de un vuelo. Sin embargo, Marte es 200 veces más lejos, y como resultado, se necesita una media de 13 minutos para una señal en viajar desde la Tierra a Marte. Si hay problemas, no hay tiempo suficiente. Y por lo que una solución de ingeniería razonable exige que pongamos control de la misión en el interior de las paredes de la nave espacial Orion. Otra idea fascinante en el perfil de la misión coloca robots humanoides en la superficie de Marte antes de que los propios humanos en llegar, primero en construir instalaciones y más tarde para servir como miembros de colaboración del equipo de la ciencia.
Ahora, al mirar esto desde una perspectiva de ingeniería, se hizo muy claro que lo que necesitaba para el arquitecto era un inteligente, de colaboración, la inteligencia artificial inteligencia social. En otras palabras, lo que necesitaba para construir algo muy parecido a un HAL pero sin las tendencias homicidas.
El arte y la ciencia de la computación han recorrido un largo camino desde que fue HAL en pantalla, y me imagino que si su inventor, el Dr. Chandra estuviera aquí hoy, que tendría un montón de preguntas para nosotros. ¿Es realmente posible para nosotros que tomemos un sistema de millones y millones de dispositivos, para leer en sus flujos de datos, predecir sus fallas y actuar con antelación? Sí. Podemos construir sistemas que dialogan con los humanos en lenguaje natural? Sí. ¿Podemos construir sistemas que reconocen objetos, identificar las emociones, mostrar una emoción a sí mismos, jugar juegos e incluso leer los labios? Sí. Se puede construir un sistema que fija las metas, que lleva a cabo planes contra esos objetivos y aprende a lo largo del camino? Sí. ¿Podemos construir sistemas que tienen una teoría de la mente? Esta estamos aprendiendo a hacer. ¿Podemos construir sistemas que tienen una base ética y moral? Esto lo tenemos que aprender a hacerlo. Así que vamos a aceptar por un momento que es posible construir una inteligencia artificial de este tipo para este tipo de misión y otros.
La siguiente pregunta que debe hacerse es, debemos temerla? Ahora, cada nueva tecnología trae consigo un cierto grado de inquietud. Cuando vimos por primera vez los coches, la gente se lamentaban de que veríamos la destrucción de la familia. Cuando vimos por primera vez en los teléfonos vienen, las personas estaban preocupados de que destruiría toda conversación civilizada. En un momento en el que vimos la palabra escrita se convierta en omnipresente, la gente pensaba que íbamos a perder nuestra capacidad de memorizar. Todas estas cosas son verdad hasta cierto punto, pero es también el caso de que estas tecnologías que nos ha traído cosas que se extendían de la experiencia humana en algunas formas profundas.
Así que vamos a llevar esto un poco más lejos. No temo a la creación de una IA como este, ya que con el tiempo se encarnan algunos de nuestros valores. Considere esto: la construcción de un sistema cognitivo es fundamentalmente diferente que la construcción de un sistema tradicional de software intensivo del pasado. No programarlas. Les enseñamos. Con el fin de enseñar a un sistema de cómo reconocer las flores, lo muestro miles de flores de los tipos que me gustan. Con el fin de enseñar a un sistema de cómo jugar un juego - Bueno, lo haría. Usted también lo haría. Me gustan las flores. Venga. Para enseñar a un sistema de cómo jugar un juego como Go, que tendría que jugar miles de juegos de Go, pero en el proceso también me enseño cómo discernir un buen juego de un mal juego. Si quiero crear un asistente legal artificial inteligente, se lo enseñaré algunos corpus de la ley , pero al mismo tiempo estoy fusionando con ella el sentido de la misericordia y la justicia que es parte de esa ley. En términos científicos, esto es lo que llamamos realidad del terreno, y aquí está el punto importante: en la producción de estas máquinas, por lo tanto estamos enseñando a ellos un sentido de nuestros valores. A tal fin, confío en una inteligencia artificial del mismo, si no más, como un ser humano que está bien entrenado.
Sin embargo, usted puede preguntar, ¿qué pasa con agentes deshonestos, una organización no gubernamental bien financiado? No temo a una inteligencia artificial en la mano de un lobo solitario. Claramente, no podemos protegernos contra cualquier acto de violencia al azar, pero la realidad es un sistema de este tipo requiere una sólida formación y capacitación sutil mucho más allá de los recursos de un individuo. Y, además, es mucho más que sólo la inyección de un virus de Internet en el mundo, donde se presiona un botón, de repente, que se encuentra en un millón de lugares y ordenadores portátiles iniciar la voladura de todo el lugar. Ahora bien, este tipo de sustancias son mucho más grandes, y sin duda vamos a verlas venir.
¿Tengo miedo de que una inteligencia artificial de este tipo podría poner en peligro a toda la humanidad? Si nos fijamos en películas como "The Matrix", "Metropolis", "The Terminator", muestra como "Almas de metal," todos hablan de este tipo de miedo. De hecho, en el libro "super-inteligencia" por el filósofo Nick Bostrom, que recoge sobre este tema y observa que una super-inteligencia no sólo podría ser peligroso, que podría representar una amenaza existencial para toda la humanidad. El argumento básico de la Dra Bostrom es que tales sistemas con el tiempo tener una sed insaciable de información que van a quizás aprender a aprender y, finalmente, descubrir que pueden tener objetivos que sean contrarias a las necesidades humanas. El Dr. Bostrom tiene un número de seguidores. Es apoyado por la gente como Elon Musk y Stephen Hawking. Con el debido respeto a estas mentes brillantes, creo que son fundamentalmente equivocado. Ahora, hay una gran cantidad de piezas de la argumentación del Dr. Bostrom para desempaquetar, y no tengo tiempo para desempacar a todos, pero muy brevemente, considere esto: súper conocimiento es muy diferente a la súper haciendo. HAL era una amenaza para la tripulación del Discovery sólo en la medida HAL mandó a todos los aspectos del descubrimiento. Por lo tanto, tendría que ser con una super-inteligencia. Se tendría que tener dominio sobre todo de nuestro mundo. Esta es la materia de Skynet de la película "The Terminator" en el que tuvimos una super-inteligencia que mandó a la voluntad humana, que dirige todos los dispositivos que se encontraba en todos los rincones del mundo. En términos prácticos, que no va a suceder. No estamos construyendo inhibidores de la aromatasa que controlan el clima, que dirigen las mareas, que nos ordenan, los seres humanos caóticas caprichosas. Y además, si existía una inteligencia artificial de este tipo, tendría que competir con las economías humanas, y de ese modo competir por los recursos con nosotros. Y al final - no le diga a este Siri - siempre podemos desenchúfelos.
Y eso es lo emocionante. Las oportunidades de usar la informática para avanzar en la experiencia humana están a nuestro alcance, aquí y ahora, y sólo están comenzando.
IDEAS QUE MERECEN SER DIFUNDIDAS
Nueva tecnología genera nuevas ansiedades, dice el científico y filósofo Grady Booch, pero no es necesario que tenga miedo de un todopoderoso, AI insensible. Booch alivia nuestro peor (ciencia ficción inducida) temores acerca de ordenadores superinteligentes explicando cómo vamos a enseñar, no se programa, que compartan nuestros valores humanos. En lugar de preocuparse por una amenaza existencial poco probable, nos urge a considerar cómo la inteligencia artificial, mejorará la vida humana.
sábado 18 de febrero de 2017
¡No temas superinteligente Al!
Grady Booch
Científico, Filósofo
Cuando yo era un niño, yo era el nerd por excelencia. Creo que algunos de ustedes eran, también.
Y usted, señor, que se rió más fuerte, es probable que todavía lo está.
Crecí en una pequeña ciudad en las polvorientas llanuras del Norte de Texas, el hijo de un sheriff que era el hijo de un pastor. Meterse en problemas no era una opción. Y así empecé a leer libros de cálculo para la diversión.
Usted también lo hizo. Eso me llevó a la construcción de un láser y una computadora y los cohetes modelo, y eso me llevó a hacer combustible para cohetes en mi dormitorio. Ahora, en términos científicos, llamamos a esto una muy mala idea.
Aproximadamente al mismo tiempo, de Stanley Kubrick "2001: Odisea en el espacio" llegó a los teatros, y mi vida cambió para siempre. Me encantó todo acerca de esa película, en especial el HAL 9000. Ahora, HAL fue una computadora pensante diseñada para guiar la nave espacial Descubrimiento de la Tierra a Júpiter. HAL fue también un carácter defectuoso, porque al final optó por valorar la misión sobre la vida humana. Ahora, HAL era un personaje de ficción, pero no obstante se habla a nuestros miedos, nuestros temores de ser subyugado por alguna inteligencia insensible, artificial, que es indiferente a nuestra humanidad.
Creo que tales temores son infundados. En efecto, nos encontramos en un momento notable en la historia humana, en donde, impulsada por la negativa a aceptar los límites de nuestro cuerpo y nuestra mente, somos máquinas de construcción de exquisita, hermosa complejidad y la gracia que ampliarán la experiencia humana en formas más allá de nuestra imaginación .
Después de una carrera que me llevó de la Academia de la Fuerza Aérea de Comando Espacial de ahora, me convertí en un ingeniero de sistemas, y recientemente me atrajo en un problema de ingeniería asociados con la misión de la NASA a Marte. Ahora, en los vuelos espaciales a la Luna, podemos confiar en el control de misión en Houston para vigilar a todos los aspectos de un vuelo. Sin embargo, Marte es 200 veces más lejos, y como resultado, se necesita una media de 13 minutos para una señal en viajar desde la Tierra a Marte. Si hay problemas, no hay tiempo suficiente. Y por lo que una solución de ingeniería razonable exige que pongamos control de la misión en el interior de las paredes de la nave espacial Orion. Otra idea fascinante en el perfil de la misión coloca robots humanoides en la superficie de Marte antes de que los propios humanos en llegar, primero en construir instalaciones y más tarde para servir como miembros de colaboración del equipo de la ciencia.
Ahora, al mirar esto desde una perspectiva de ingeniería, se hizo muy claro que lo que necesitaba para el arquitecto era un inteligente, de colaboración, la inteligencia artificial inteligencia social. En otras palabras, lo que necesitaba para construir algo muy parecido a un HAL pero sin las tendencias homicidas.
Hagamos una pausa por un momento. ¿Es realmente posible construir una inteligencia artificial de esa manera? En realidad, lo es. En muchos sentidos, este es un problema de ingeniería dura con elementos de IA, no una bola de pelo húmedo de un problema de AI que necesita ser dirigido. Parafraseando a Alan Turing, no estoy interesado en la construcción de una máquina sensible. No estoy construyendo una HAL. Todo lo que busco es un cerebro simple, algo que ofrece la ilusión de la inteligencia.
El arte y la ciencia de la computación han recorrido un largo camino desde que fue HAL en pantalla, y me imagino que si su inventor, el Dr. Chandra estuviera aquí hoy, que tendría un montón de preguntas para nosotros. ¿Es realmente posible para nosotros que tomemos un sistema de millones y millones de dispositivos, para leer en sus flujos de datos, predecir sus fallas y actuar con antelación? Sí. Podemos construir sistemas que dialogan con los humanos en lenguaje natural? Sí. ¿Podemos construir sistemas que reconocen objetos, identificar las emociones, mostrar una emoción a sí mismos, jugar juegos e incluso leer los labios? Sí. Se puede construir un sistema que fija las metas, que lleva a cabo planes contra esos objetivos y aprende a lo largo del camino? Sí. ¿Podemos construir sistemas que tienen una teoría de la mente? Esta estamos aprendiendo a hacer. ¿Podemos construir sistemas que tienen una base ética y moral? Esto lo tenemos que aprender a hacerlo. Así que vamos a aceptar por un momento que es posible construir una inteligencia artificial de este tipo para este tipo de misión y otros.
La siguiente pregunta que debe hacerse es, debemos temerla? Ahora, cada nueva tecnología trae consigo un cierto grado de inquietud. Cuando vimos por primera vez los coches, la gente se lamentaban de que veríamos la destrucción de la familia. Cuando vimos por primera vez en los teléfonos vienen, las personas estaban preocupados de que destruiría toda conversación civilizada. En un momento en el que vimos la palabra escrita se convierta en omnipresente, la gente pensaba que íbamos a perder nuestra capacidad de memorizar. Todas estas cosas son verdad hasta cierto punto, pero es también el caso de que estas tecnologías que nos ha traído cosas que se extendían de la experiencia humana en algunas formas profundas.
Así que vamos a llevar esto un poco más lejos. No temo a la creación de una IA como este, ya que con el tiempo se encarnan algunos de nuestros valores. Considere esto: la construcción de un sistema cognitivo es fundamentalmente diferente que la construcción de un sistema tradicional de software intensivo del pasado. No programarlas. Les enseñamos. Con el fin de enseñar a un sistema de cómo reconocer las flores, lo muestro miles de flores de los tipos que me gustan. Con el fin de enseñar a un sistema de cómo jugar un juego - Bueno, lo haría. Usted también lo haría. Me gustan las flores. Venga. Para enseñar a un sistema de cómo jugar un juego como Go, que tendría que jugar miles de juegos de Go, pero en el proceso también me enseño cómo discernir un buen juego de un mal juego. Si quiero crear un asistente legal artificial inteligente, se lo enseñaré algunos corpus de la ley , pero al mismo tiempo estoy fusionando con ella el sentido de la misericordia y la justicia que es parte de esa ley. En términos científicos, esto es lo que llamamos realidad del terreno, y aquí está el punto importante: en la producción de estas máquinas, por lo tanto estamos enseñando a ellos un sentido de nuestros valores. A tal fin, confío en una inteligencia artificial del mismo, si no más, como un ser humano que está bien entrenado.
Sin embargo, usted puede preguntar, ¿qué pasa con agentes deshonestos, una organización no gubernamental bien financiado? No temo a una inteligencia artificial en la mano de un lobo solitario. Claramente, no podemos protegernos contra cualquier acto de violencia al azar, pero la realidad es un sistema de este tipo requiere una sólida formación y capacitación sutil mucho más allá de los recursos de un individuo. Y, además, es mucho más que sólo la inyección de un virus de Internet en el mundo, donde se presiona un botón, de repente, que se encuentra en un millón de lugares y ordenadores portátiles iniciar la voladura de todo el lugar. Ahora bien, este tipo de sustancias son mucho más grandes, y sin duda vamos a verlas venir.
¿Tengo miedo de que una inteligencia artificial de este tipo podría poner en peligro a toda la humanidad? Si nos fijamos en películas como "The Matrix", "Metropolis", "The Terminator", muestra como "Almas de metal," todos hablan de este tipo de miedo. De hecho, en el libro "super-inteligencia" por el filósofo Nick Bostrom, que recoge sobre este tema y observa que una super-inteligencia no sólo podría ser peligroso, que podría representar una amenaza existencial para toda la humanidad. El argumento básico de la Dra Bostrom es que tales sistemas con el tiempo tener una sed insaciable de información que van a quizás aprender a aprender y, finalmente, descubrir que pueden tener objetivos que sean contrarias a las necesidades humanas. El Dr. Bostrom tiene un número de seguidores. Es apoyado por la gente como Elon Musk y Stephen Hawking. Con el debido respeto a estas mentes brillantes, creo que son fundamentalmente equivocado. Ahora, hay una gran cantidad de piezas de la argumentación del Dr. Bostrom para desempaquetar, y no tengo tiempo para desempacar a todos, pero muy brevemente, considere esto: súper conocimiento es muy diferente a la súper haciendo. HAL era una amenaza para la tripulación del Discovery sólo en la medida HAL mandó a todos los aspectos del descubrimiento. Por lo tanto, tendría que ser con una super-inteligencia. Se tendría que tener dominio sobre todo de nuestro mundo. Esta es la materia de Skynet de la película "The Terminator" en el que tuvimos una super-inteligencia que mandó a la voluntad humana, que dirige todos los dispositivos que se encontraba en todos los rincones del mundo. En términos prácticos, que no va a suceder. No estamos construyendo inhibidores de la aromatasa que controlan el clima, que dirigen las mareas, que nos ordenan, los seres humanos caóticas caprichosas. Y además, si existía una inteligencia artificial de este tipo, tendría que competir con las economías humanas, y de ese modo competir por los recursos con nosotros. Y al final - no le diga a este Siri - siempre podemos desenchúfelos.
Estamos en un increíble viaje de coevolución con nuestras máquinas. Los seres humanos somos hoy no son los seres humanos estaremos entonces. Ahora que preocuparse acerca de la aparición de una super-inteligencia es en muchos aspectos una distracción peligrosa debido a que el aumento de la informática en sí nos trae una serie de problemas humanos y sociales a las que ahora tenemos que atender. ¿Cómo he de organizar mejor la sociedad en que la necesidad de mano de obra humana disminuye? ¿Cómo puedo contribuir a la comprensión y la educación en todo el mundo y aún respetar nuestras diferencias? ¿Cómo puede prolongar y mejorar la vida humana a través de la salud cognitiva? ¿Cómo puede utilizar la informática para ayudar a llevarnos a las estrellas?
Y eso es lo emocionante. Las oportunidades de usar la informática para avanzar en la experiencia humana están a nuestro alcance, aquí y ahora, y sólo están comenzando.
No hay comentarios:
Publicar un comentario