OpenAI, la organización matriz de Chat, parece estar a punto de lograr un logro monumental: resolver el enigma de la «superinteligencia». Sin embargo, este potencial avance conlleva profundas implicaciones para el futuro de la humanidad.
El despido abrupto y posterior reelección del cofundador y director ejecutivo de OpenAI, Sam Altman, ha sido un tema de mucho debate en el mundo tecnológico. Siguen surgiendo nuevas ideas sobre el catalizador de este cambio, y un informe de The Information atribuye la agitación interna a un avance significativo en la IA generativa. Este desarrollo podría allanar el camino para el surgimiento de la "superinteligencia" en esta década o incluso antes.
La "superinteligencia", como sugiere el término, se refiere a una inteligencia que supera las capacidades humanas. Naturalmente, la creación de un sistema de inteligencia artificial que posea dicha inteligencia sin las salvaguardias adecuadas plantea serias preocupaciones.
Se dice que el científico jefe de OpenAI, Ilya Sutskever, que también forma parte de la junta directiva, ha liderado esta iniciativa pionera. Permite que la IA utilice datos más limpios generados por computadora para abordar problemas sin precedentes. Esto implica que la IA no se entrena en múltiples iteraciones del mismo problema, sino en información que no está directamente relacionada con el problema en cuestión. Resolver problemas de esta manera, generalmente matemáticos o científicos, exige razonamiento, un rasgo humano que no suele asociarse con la IA.
Chat, el producto estrella de OpenAI impulsado por Modelo de lenguaje grande GPT (LLM), podría dar la impresión de emplear el razonamiento para formular sus respuestas dada su aparente inteligencia. Sin embargo, al interactuar más de cerca con Chat, se hace evidente que simplemente repite lo aprendido de la enorme cantidad de datos que ha procesado, haciendo predicciones mayormente precisas sobre la construcción de oraciones coherentes relevantes para la consulta. El razonamiento no interviene aquí.
La información sugiere que este avance, que Altman puede haber insinuado en una conferencia reciente, al afirmar: "en una nota personal, solo en las últimas semanas, he podido estar en la sala, cuando en cierto modo empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia adelante", ha enviado ondas de choque a través de OpenAI.
Manejando la amenaza
Si bien Chat actualmente no muestra signos de superinteligencia, es probable que OpenAI esté haciendo avances para incorporar parte de este poder en sus productos premium, como GPT-4 Turbo y los futuros "agentes inteligentes".
Establecer una conexión entre las recientes acciones de la junta directiva, apoyadas inicialmente por Sutskever, y el avance en materia de superinteligencia podría parecer descabellado. El avance anunciado ocurrió hace meses y llevó a Sutskever y a otro científico de OpenAI, Jan Leike, a establecer un nuevo grupo de investigación de OpenAI llamado 'Superalignment', encargado de diseñar salvaguardas para la superinteligencia.
En un giro interesante, la misma empresa pionera en el desarrollo de la superinteligencia está construyendo simultáneamente mecanismos para protegernos de ella, que recuerdan al Doctor Frankenstein armando a los aldeanos con lanzallamas.
Lo que sigue siendo ambiguo en el informe es si las aprensiones internas en torno al rápido avance hacia la superinteligencia condujeron directamente al despido de Altman. Quizás, en el gran esquema de las cosas, sea irrelevante.
Tal como están las cosas, Altman está en camino de retomar su puesto en OpenAI, la junta ha sido reestructurada y la búsqueda para desarrollar (y protegerse) de la superinteligencia persiste.
Para aquellos que encuentran estos desarrollos desconcertantes, interactuar con el chat para obtener una explicación podría resultar esclarecedor.