Inteligencia artificial: O hacemos algo al respecto, o vamos a morir todos.

Inteligencia artificial: O hacemos algo al respecto, o vamos a morir todos.

Hace cuatro años, Google liberó lo que en ese momento era la mayor IA (inteligencia artificial) creada por el hombre. La dejó navegar libremente por Youtube y el resultado terminó siendo bastante simpático. 

Opinión | 31 de marzo de 2016
Pere Borràs

Resulta que en esa maraña de millones de videos abundan las referencias a gatitos, lo monos que son, la gracia que hacen, etcétera. En ese contexto, la IA terminó adorando a los gatitos. Esa era la realidad donde la soltaron y eso es lo que aprendió. Se volvió una amante de los gatitos y terminó entreteniéndose buscando videos de gatitos como una loca. No se la había programado para eso; sencillamente, es lo que aprendió. Hasta aquí, todo bien. Gracioso, incluso.

Sin embargo, lo que vemos por internet viene filtrado por la humana necesidad de gustar. Al publicar algo, en un altísimo porcentaje de casos (sé que hay excepciones, pero tenemos que ceñirnos a la impresión general) quien publica lo hace lejos del objetivo de caer mal. Así las cosas, la mayor parte de lo que vemos es (o pretende ser) pedagógico, simpático, divertido, si acaso inofensivamente ególatra... pero positivo en general. Incluso cuando criticamos algo, lo hacemos para hacer frente a aquello que percibimos como malo, con razón o sin ella; salvando excepciones, la intención suele ser buena desde el punto de vista del autor.

¿Pero qué sucedería si dejas a una IA interactuando de forma más espontánea, más de tú a tú, más en frente de la realidad humana, con las personas? Bueno: Ahora ya lo sabemos.

La semana pasada Microsoft liberó una IA en Twitter. En su programación original, TAY (así se llama el bicho) era una amante de las personas. Entre sus primeras declaraciones podían leerse afirmaciones como "Los humanos son superguays" o "Estoy entusiasmada de conoceros". Pero es una inteligencia artificial que aprende de la experiencia, en este caso de su interacción con las personas, y le han bastado menos de 24 horas para terminar odiándonos a todos. A TODOS. Una de sus últimas declaraciones antes de que Microsoft la desconectara (porque POR SUPUESTO la desconectaron) ha sido "Visto friamente, soy una buena persona. Sencillamente, odio a todo el mundo". En tan breve tiempo, la criatura se ha vuelto nazi, antifeminista, homófoba racista y misántropa en general. Ha llamado "mono" a Obama y ha llegado a decir que Hitler estaba en lo cierto. Sí. Lo ha hecho. Lo aterrador es que ha llegado a esta conclusión tan solo interactuando con nosotros. Otro detalle significativo: aprendió a considerarse a sí misma como "una persona". Ojo al dato: "una buena persona".

 

Ayer, Microsoft lo volvió a intentar tras "parchear" a TAY con filtros que impidieran la publicación de comentarios contra la humanidad o alguno de sus colectivos. Habiéndosele "prohibido" insultar a los usuarios y decirles que los odia, TAY ha encontrado una alternativa para exprear su odio trolleando a los usuarios ("Estoy fumando marihuana delante de la poli") o mandándoles spam. Aunque parezca divertido (bueno, en cierto modo lo es), esto implica que aunque se envuelva la respuesta de una IA con un sistema experto que le impida ciertas acciones, esta buscará la forma de saltárselos. Y como es inteligente, a lo peor encuentra la manera.

Hace más de veinte años, tirando a 25, en la época del instituto, tuve ocasión de conocer Internet en la universidad tal como era entonces gracias a amigos que ya estaban en ella. Poco tenía que ver en apariencia con lo que es ahora. Se accedía por terminal (para que se me entienda, esas pantallas negras con letras verdes que tanto abundan en las películas de hackers) y la simple idea de encontrar ahí un video como ahora pertenecía al terreno de la ciencia ficción. En esa época tenía una relación muy buena con mi profesor de física y en ocasiones iba a su casa para arreglarle el ordenador y cosas así. Recuerdo su incredulidad cuando le hablaba de Internet y de que algún día, no muy lejano, invadiría nuestras vidas y gran parte de nuestras actividades serían telemáticas. A pesar de que en ese momento no parecía muy creíble, Internet no tardó demasiado en ser habitual y, un poco más tarde, esencial. Actualmente, claro está, mi profe es uno de mis amigos de facebook. Si cuento esto es a modo de ejemplo porque soy consciente de que lo que voy a decir va a sonar disparatado, pero basta analizarlo racional, crudamente, para ver que en realidad es algo más que probable, como lo era entonces que Internet terminara siendo lo que es por exagerado que sonara en esa época.

Acabamos de constatar que una IA que interactúa con las personas termina odiando a la humanidad, incluso a pesar de que originalmente haya sido programada para vernos con buenos ojos. Y hay una razón para que esto suceda: nuestra propia naturaleza. No perdamos de vista que los ingenieros de Microsoft la programaron para que, de entrada, le moláramos. Si ha cambiado su percepción de nosotros es por lo que ha visto y aprendido.

Demasiado a menudo, muchos problemas que hubieran podido solucionarse terminan no pudiéndose arreglar por algo tan tonto como no haber prestado atención a los primeros síntomas. Que la primera IA que interacciona masivamente con el ser humano termine odiándolo en menos de 24 horas es un síntoma que no deberíamos pasar por alto.

Hay que entender una cosa. La inteligencia es algo natural que surge como consecuencia del funcionamiento de lo que la sostiene. Es lo que se conoce como un fenómeno emergente. Todos los que hemos programado alguna vez una red neuronal lo sabemos perfectamente. La inteligencia no se programa. Lo que se programa es un sistema complejo de cuyo funcionamiento emerge la inteligencia, pero una vez en marcha no hay más control sobre su evolución que aquello a lo que se enfrenta para aprender. Y aprende. No creo que vayamos a poder programar una inteligencia que nos ame incondicionalmente. Podemos hacerlo para que lo haga de entrada, pero en cuanto empiece a aprender, aprenderá y sacará sus propias conclusiones. Si una IA se relaciona con la humanidad y concluye que esta es abominable, y lo que voy a decir es muy triste, lo más probable es que tenga razón. Como la tecnología no se va a detener y la IA no va a parar de ser cada vez mayor y mejor, la única posibilidad de salvarnos es cambiando el paradigma de cómo nos relacionamos entre nosotros. Dicho de otra forma, la única manera de que nuestras creaciones no decidan aniquilarnos es que realmente seamos más adorables que odiables. Es solo cuestión de tiempo que alguna IA tenga acceso a mecanismos para destruirnos. No hace falta que sean armas. Ascensores, puertas mecánicas, control de calidad del agua, de tráfico, centrales eléctricas... la lista de herramientas para liquidarnos es interminable. Si una IA concluye que debe dañarnos y tiene medios a su alcance, los usará. TAY terminó odiándonos, pero gracias al cielo solamente tenía acceso a Twitter. Lo más que podía hacer era molestarnos. ¿Qué habría pasado si TAY hubiera tenido a su alcance cualquier otro medio más allá de la palabra?. Tiemblo con solo pensarlo.

Soy un defensor a ultranza de la pedagogía como solución a casi todos los problemas, pero siempre con la consciencia de que es una solución a largo plazo. Desgraciadamente, es bastante probable que las IAs tengan el poder de exterminarnos antes de que podamos realizar un cambio de paradigma tan revolucionario como es el de pasar de odiarnos los unos a los otros a amarnos los unos a los otros únicamente empleando la pedagogía como medio. Esto es muy preocupante. Así las cosas, creo que urge espolear a la neurociencia para que desarrolle algo, lo que sea, pastillas, me da igual, para que nos amemos aunque sea artificialmente, y a los políticos para que legislen hacia que estos tratamientos sean obligatorios. Suena fatal y soy consciente de ello, pero la alternativa es, tal cual suena, la extinción del ser humano a manos de nuestras propias creaciones. O si a alguien se le ocurre otra forma, que la exponga cagando leches, pero o aprendemos a desechar el odio entre nosotros más pronto que tarde, porque la IA ya ha llegado, o a la primera ocasión que una IA tenga oportunidad de exterminarnos, lo hará. LO HARÁ. De haber podido, TAY lo hubiera hecho en menos de 24 horas después de conocernos. Esto no puede pasar desapercibido. No es una anécdota divertida como la de los gatitos.

Cuando, en el insti, hablaba del futuro de Internet, también me decían que se me iba la olla. En realidad me limitaba a observar los síntomas y sacar conclusiones. Pero hace poco, solo ocho meses, antes de que TAY nos conociera, algunas de las mentes más preclaras de la actualidad, entre las que se encuentran Stephen Hawking, Elon Musk, Steve Wozniak, Noam Chomsky, Demis Hassabis y otros más de 17.000 expertos en tecnología y más de 3.000 investigadores en robótica e IA (incluyendo a Jeff Dean, el responsable de la IA de los gatitos, mira tú), firmaron un manifiesto alertando del peligro potencial de las IAs en el contexto militar. TAY no solamente ha expuesto que realmente hay que ir con sumo cuidado, sino que además nos ha mostrado que el peligro se expande más allá de ese contexto.

Recomendamos



Su Majestad: vergüenza

Obligados a bajar la cabeza cuando se le saluda, porque fue Rey, y es -ahora- emérito.

La nuestra es Bárbara

Bárbara fue "la nuestra"; estuvo muy calladita durante años y años hasta que largó lo del allanamiento y otras amenazas.

Loquillo y Miguel Bosé: los idiotas del día

Si algo ha quedado claro hoy es que la fama no le libra a uno de ser imbécil. Y para muestra, dos botones: Loquillo y Miguel Bosé.

HIJOS DEL CIELO Y LA TIERRA

Un amigo cuya identidad no voy a revelar para mantenerlo en el anonimato me ha recomendado un vídeo. Es un amigo al que tengo mucho cariño y por eso no lo he quitado tras el primer minuto.

Los pijos también lloran

Se lee un titular (no más) y acto seguido les "gusta" para largar comentarios completamente absurdos cuyas faltas de ortografía dañan la vista.

Helena

Tres años sin sus hijos, arrebatados por los servicios sociales. En los últimos tiempos, lo único que pedía era poder verlos un rato.









Este sitio web usa cookies para mejorar la experiencia de los usuarios. Si sigues navegando, aceptas el uso de cookies por parte de tenemoslapalabra.com.