OpenAI despidió a Sam Altman para evitar un eventual exterminio de la humanidad
Altman ocultó datos a la junta que comprometÃan el futuro de la especie humana.
Actualidad | 25 de noviembre de 2023Isaac Villavecchia
Justo antes de que el CEO de OpenAI, Sam Altman, se fuera de vacaciones forzadas por cuatro días, algunos de los investigadores del equipo soltaron la bomba.
Fuentes internas revelaron que estos genios redactaron una carta a la junta directiva de OpenAI, poniendo en alerta sobre un descubrimiento de inteligencia artificial tan potente que podría poner en peligro a la humanidad. Parece que Altman no solo estaba liderando el camino en la IA generativa, sino que también estaba a punto de soltar algo que haría temblar a Skynet.
Lo más sorprendente es que este descubrimiento, junto con una carta bastante intensa, fue uno de los eventos clave que llevaron al despido de Altman. Más de 700 empleados se enfadaron tanto con el despido que amenazaron con largarse y unirse a su colega Microsoft en señal de solidaridad.
Aunque no han permitido echarle un ojo a la carta, los soplones dicen que los científicos de OpenAI estaban preocupados por la comercialización de avances antes de entender las consecuencias. ¡Y quién puede culparlos! Si hay algo que hemos aprendido de las películas de ciencia ficción, es que siempre hay que tener cuidado con las IAs que saben matemáticas.
Hablemos de la perla que ha montado este follón, un proyecto llamado Q*. Al parecer, algunos dentro de OpenAI piensan que este Q* (pronunciado Q-Star, porque claro, necesitamos más nombres cósmicos) podría ser la clave para alcanzar la inteligencia artificial general (AGI por sus siglas en inglés). ¿Qué significa eso? Básicamente, sistemas autónomos que superan a los humanos en la mayoría de las tareas económicamente valiosas.
Según fuentes anónimas, gracias a recursos informáticos enormes, este nuevo modelo fue capaz de resolver ciertos problemas matemáticos. Aunque por ahora solo resuelve matemáticas al nivel de un estudiante de primaria, el hecho de que los investigadores estén emocionados por su éxito nos da esperanzas de que estemos a punto de presenciar algo enorme.
Parece que Q* está pisando territorio inexplorado en el desarrollo de la IA generativa. Actualmente, estas IAs son buenas para escribir y traducir idiomas, prediciendo estadísticamente la siguiente palabra. Pero, amigos, el salto a las matemáticas, donde hay una única respuesta correcta, implica que la IA podría tener una capacidad de razonamiento similar a la inteligencia humana. ¿Te imaginas tener una IA que realmente comprenda las matemáticas en lugar de simplemente memorizarlas? ¡El juego está cambiando!
En la carta que los investigadores enviaron al consejo, señalaron la destreza y el peligro potencial de la IA, sin especificar exactamente cuáles eran las preocupaciones de seguridad. Esto no hace más que alimentar la llama de la paranoia sobre las máquinas superinteligentes que podrían decidir que destruir a la humanidad es lo mejor para ellas. Si eso no es material de película, yo ya no sé qué lo es.
Ahora, adentrándonos en el oscuro laboratorio de OpenAI, se menciona un equipo de "científicos de la IA" que, según múltiples fuentes, está trabajando en optimizar modelos existentes para mejorar su razonamiento y, eventualmente, realizar trabajos científicos. ¡Que tiemblen los científicos humanos, parece que la competencia viene fuerte!
Sam Altman, el CEO que lideró el éxito de ChatGPT, había conseguido inversiones y recursos informáticos necesarios de Microsoft para acercarse a la AGI. ¿El resultado? ChatGPT se convirtió en la aplicación de software de más rápido crecimiento en la historia. Pero, como dice el refrán, lo que sube rápido, puede bajar igual de rápido.
Altman, además de anunciar nuevas herramientas en una demostración reciente, sugirió en una cumbre de líderes mundiales que grandes avances estaban a la vuelta de la esquina. "Cuatro veces en la historia de OpenAI, la más reciente fue hace apenas unas semanas, he tenido el honor profesional de estar en la habitación cuando empujamos hacia atrás el velo de la ignorancia y avanzamos en la frontera del descubrimiento", dijo Altman en la Cumbre de Cooperación Económica Asia-Pacífico.
Y tan rápido como la inteligencia artificial puede resolver problemas matemáticos, Altman fue despedido por la junta directiva un día después de sus comentarios. Parece que el velo de la ignorancia puede caer no solo sobre las máquinas sino también sobre los CEOs.
La inteligencia artificial sigue siendo una caja de sorpresas. Desde cartas secretas hasta algoritmos revolucionarios, el mundo de OpenAI está lleno de intriga y desafíos. Solo el tiempo dirá si Q* se convierte en el héroe que nos lleva hacia una inteligencia artificial general bondadosa, o si se convierte en el villano de nuestra propia película de ciencia ficción. ¡Lo que nos queda por ver!
