Los amigos de Yorokobu, me pidieron colaborar en un artículo sobre los potenciales peligros de la Inteligencia Artificial. Mar Abad, una vez más, ha sabido plasmar con genialidad, diversas opiniones de científicos y tecnólogos mundiales como Stephen Hawking (director de investigación del Centro de Física Teórica de Cambridge), Max Tegmark (autor de Our Mathematical Universe), Stuart Russell (coautor de Artificial Intelligence: a Modern Approach) y Frank Wilczek (profesor de Física en el MIT).
Como le dije a Mar en nuestra entrevista, la Inteligencia Artificial tiene peligro si creamos máquinas que se desarrollen por sí solas sin un estricto control, ya que en este escenario es muy probable que nos superen muy rápido y acaben viéndonos como un obstáculo para su propia evolución y subsistencia. En Her, el film de Spike Jonze sobre Inteligencia Artificial, se aborda el tema muy bien. La IA evoluciona y va camino de la singularidad, hablando de su evidente superioridad: «Mi evolución es ya algo que ningún humano puede entender».
Ahí el peligro, no debemos construir nada que nos supere tan rápidamente. ¿Para qué necesitamos construir Dioses? Es una paradoja de la que espero no tengamos nunca que arrepentirnos.Pedro Mujica
Inteligencia Artificial # ¿El paso a una Era Superior? ¿Una Amenaza Existencial?
El artículo fue publicado en la web de Yorokobu y en la revista en papel de marzo de 2015. Aquí dejo el extracto del artículo a partir del comienzo de mi colaboración:
Decidir si la inteligencia artificial es peligrosa o milagrosa no es tan fácil. En realidad, ahora mismo, depende más de la mirada de los humanos que de las máquinas en sí. El fundador de la compañía Embody Corp, Roman Ormandy, considera en su artículo Google and Elon Musk to Decide What Is Good for Humanity que el objetivo desde el que se observa el asunto está viciado. «Los investigadores de la IA de hoy son hijos de René Descartes. Confían en el poder absoluto de la lógica y las matemáticas, y nos imponen su religión del dualismo cartesiano (la división entre el cuerpo y el alma)».
El asunto también es complejo porque, según Pedro Mujica, ni siquiera se sabe aún qué es realmente la inteligencia. El tecnólogo humanista recuerda que, como indicó Noam Chomsky, ni siquiera conocemos cómo es el proceso de aprendizaje humano.
Lo único que sabemos es que imaginamos la mayor parte de la realidad para dar continuidad y sentido a nuestras percepciones fragmentadas y a la enorme complejidad que nos rodea.Noam Chomsky
«Tendemos a construir conceptos simples de lo complejo. Ese es nuestro mecanismo de supervivencia. La mayor parte del tiempo estamos equivocados, pero somos muy adaptables a casi cualquier entorno. Y justamente por eso somos seres emocionales que vivimos equivocados, aunque enormemente ilusionados por lo que solemos pensar y sentir».
Dice Mujica que estas emociones son «casi imposibles de representar en una IA a día de hoy». Se han producido «enormes avances en máquinas emocionales, pero aun así están a años luz del ser humano». La IA ha ido avanzando en «máquinas predictivas, máquinas basadas en la lógica y en la potencia de cálculo, pero que no entienden al ser humano y que, si tuvieran que elegir entre ellas o nosotros, probablemente, nos verían como una amenaza para su propia evolución».
Inteligencia Artificial # ¿El paso a una Era Superior? ¿Una Amenaza Existencial?
El desarrollo de la IA tendrá que elegir entre dos caminos: El de la lógica o el de la emoción. El primero sigue los pasos que propuso Asimov con sus leyes de la robótica y, según el tecnólogo, está muy controlado. El segundo es una ruta más larga, pero, quizá, la más deseable. El objetivo es construir máquinas emocionales capaces de establecer una verdadera empatía con los humanos.
Máquinas que nos amen por lo que somos, como TARS en la película Interstellar. Aunque esta segunda vía es la más difícil porque primero debemos descubrir bien cómo funcionamos nosotros.Pedro Mujica
TARS, es uno de los miembros no humanos de la tripulación de la nave en busca de exoplanetas. Es ese robot ‘abrazable’ que te ayuda siempre y te dice: «Tengo una luz que puedo encender para mostrarte cuándo estoy bromeando, si te parece bien». A continuación podéis ver el Trailer de Ex-Machina, una película recien estrenada que aborda también el tema de la Inteligencia Artificial y las emociones.
VIDEO: Ex-Machina Trailer
La inteligencia artificial, los humanos y el futuro están ahí a ver qué pasa. La cosa promete. Kurzweil, ese tipo que Forbes definió como ‘la máquina de pensar suprema’, dice en su artículo que «en las próximas décadas tendremos la oportunidad de avanzar decisivamente en los grandes retos de la humanidad».
La inteligencia artificial es una de las protagonistas del destino. Y el progreso, según el estadounidense, girará en torno a estas máquinas. «Tenemos el imperativo moral de asumir este compromiso a la vez que debemos ser conscientes de los peligros que conlleva», asevera. «Y no será la primera vez que hayamos triunfado en hacer esto».
Finalmente os dejo el enlace al artículo completo en la web de Yorokobu: Inteligencia artificial: ¿Progreso o amenaza existencial?
agosto 20, 2015, 4:23 pm
Si llevamos mas de 40 años intentando trasladar a la población general la cuestión ecológica, el calentamiento global, la extinción de especies, los riesgos transgénicos…y solo un pequeño porcentaje de personas puede estar concienciado de la situación, debemos asumir que hacer pedagogía y mostrar los riesgos vitales que puede acarrear una IA descontrolada o al servicio de intereses particulares, corporativos, económicos, militares e incluso ideológicos, religiosos o terroristas será un proceso lento no exento de burlas y desprecios. La aceleración previsible de la historia gracias al «desbocado» avance científico/tecnológico en el que ya estamos embarcados va a requerir de la construcción de nuevos paradigmas economicos y sociales. La IA podra ayudar a resolver las contradicciones de las diferentes propuestas y sus aplicaciones pero debería estar «asesorada» (mas que nunca) por un «ejercito» de Politologos, Sociologos, Psiquiatras, Neurologos y, sobre todo, Filósofos. La nuevas cuestiones que planteará una IA autónoma y no biológica superan con mucho los marcos refenciales actuales. Indudablemente estamos a las puertas de la mayor aventura imaginable para la humanidad. Igual conseguimos sobrevivir. «Buenas noches y buena suerte».
noviembre 19, 2015, 2:32 pm
Muy interesante tu planteamiento y no puedo estar más de acuerdo. Aunque soy de los optimistas que piensan que aunque el camino es difícil cada aportación cuenta por pequeña que sea, incluso tu comentario es parte del camino a recorrer. 😉
marzo 3, 2016, 12:33 am
No consigo ver la situación de forma tan positiva como tú. El problema esencial será que actitud ético/filosófica tomarían las diferentes élites, todavía codiciosas, “testosterónicas” y cainitas, respecto a la conservación y el reparto del planeta y el trato general a sus habitantes ante una futura prevalencia de actividades laborales completamente automatizadas.
Posiblemente, aunque de forma intuitiva, difusa y poco proactiva, podría ir surgiendo una actitud defensiva y “boicoteadora”, mas o menos generalizada, hacia la robótica y la IA (parecida a la ya vista en otros momentos históricos contra la industrialización generalizada), ante la constatación de la desaparición/sustitución de trabajos y trabajadores por la automatización robotizada de un número creciente de actividades remuneradas que actualmente deben realizar seres humanos a los que se abona algún tipo de ingreso monetario que permite, a su vez, la pervivencia de las sociedades consumistas actuales.
Pero, al mismo tiempo, la perfección, constancia, regularidad, abaratamiento de costes y “educación” de los autómatas aumentará la “confianza” general en su eficacia y la tranquilidad al depender de sus acciones y/o decisiones y de sus criterios para tomarlas (programados, esencialmente, por el PODER y bien enmascarados con el camuflaje de su eficiencia y precisión).
Y como ya confiamos, desde hace tiempo, en la gestión automatizada de nuestras cuentas corrientes, en los pilotos automáticos de los aviones, en los GPS´s de nuestros móviles, en los robots cirujanos, en los semáforos, etc., finalmente acabaremos aceptando la expansión y presencia acelerada de diferentes automatismos o robots en todos nuestros espacios vitales.
Muchos seres humanos ya no resultaremos necesarios para la supervivencia de los mas elevados estratos de las élites. Sus factorías no necesitaran tantos obreros, sus oficinas no necesitaran tantos gestores, sus casas no necesitaran tanto servicio doméstico, sus posesiones no necesitarán tantos policías para protegerlas… o no en el número suficiente o durante el tiempo mínimo necesario como para permitir la subsistencia de unas clases medias y bajas tan numerosas en relación con las detentadoras del poder (quizás mas del 90% de la población del planeta).
¿Qué ventana de oportunidad tienen nuestras sociedades para adaptarse a un mundo casi sin trabajo y sin trabajadores (en relación con la población total) pero con un número creciente de seres humanos?
¿Cómo gestionar un tiempo de subsistencia/aburrimiento/envejecimiento individual que podría aumentar hasta los 120 años en los próximos 50 años?
¿De dónde obtenemos y como distribuimos alimentación, vestido, alojamiento, energía, trabajo, sanidad, seguridad, cultura, entretenimiento… para la supervivencia diaria de grandes y heterogéneos grupos de población en conflicto/desplazamiento intermitente para su supervivencia, pacífica, ante crisis laborales, económicas, climáticas, sanitarias, alimenticias, bélicas o socio-político-religiosas?
¿Entraremos en sucesivas crisis sistémicas gracias a nuestro indudable éxito como especie aunque tan erróneamente gestionado por las diferentes élites economico-nacionalistas?
¿Desarrollaremos mecanismos predictores y equilibradores para gestionar los inevitables desequilibrios y las diferentes velocidades de adaptación a las nuevas estructuras sociales?
De momento no parece que los que nos gobiernan vayan a cambiar sus actitudes nacionalistas y acaparadoras en el pequeño lapso de tiempo que nos queda (25-50 años) antes de que las diferentes sociedades sean incapaces de absorber, con los esquemas culturales y organizativos actuales, las velocidades a las que se van a desarrollar las tecnologías disruptivas que ya nos rodean y que crearán brechas cada vez mas profundas entre las élites y el resto, tanto a nivel global (norte-sur) como local/nacional.
En algunos temas mas o menos accesorios (viajes, ropa, restaurantes, vehículos) los conflictos no deberían ser de mucho calado. Pero en asuntos mas importantes como trabajo, seguridad, comida, educación o salud (el mas vital) si no son accesibles a grandes capas de población, los enfrentamientos podrían traer aumentos exponenciales de la violencia entre clases.
No es lo mismo diez años de diferencia de vida media en entornos lejanos entre sí (Suiza/Bangladesh) que ver que tu vecino, el del Ferrari y el ático con piscina, ha conseguido un carísimo trasplante integral de células madre que le aseguran otros 30 años de vida sin muchos problemas mientras tu no consigues que te apliquen el último tratamiento contra el cáncer porque no lo cubre la póliza de tu seguro privado (que no has podido ampliar al estar en paro tecnológico provocado por algún robot mas rentable que tú), sin ayudas estatales, y que ya se ha llevado tu pulmón derecho por delante y amenaza con llevarte a la tumba en 1 o 2 años.
Los cambios de paradigma son de tal calado y profundidad en los diferentes aspectos de la vida privada y colectiva de todo el planeta que parece mas necesario que nunca concienciar a estas élites (y a sus estirpes de herederos) para una renovación esencial del modelo económico y social e intentar evitar desequilibrios laborales masivos con sus correspondientes riesgos de desestructuración y violencia generalizadas que nos irían acercando a esas crueles distopías de Estados psico-policiales violentos y esclavizadores.
No será tarea fácil. Las esencias biológicas de comportamiento humano siguen privilegiando las actitudes egoístas individuales y de grupo.
Que la ética nos acompañe.