OpenAI, l'organisation mère de Chat, semble être sur le point de réaliser une avancée majeure : résoudre le problème de la « superintelligence ». Cependant, cette avancée potentielle a de profondes implications pour l'avenir de l'humanité.
Le licenciement brutal et la reconduction du cofondateur et PDG d'OpenAI, Sam Altman, ont fait l'objet de nombreuses discussions dans le monde de la technologie. De nouvelles informations sur les causes de cette décision continuent d'émerger, un rapport de The Information attribuant les troubles internes à une avancée significative dans l'IA générative. Cette évolution pourrait potentiellement ouvrir la voie à l'émergence de la « superintelligence » au cours de cette décennie, voire plus tôt.
La « superintelligence », comme son terme l'indique, fait référence à une intelligence qui dépasse les capacités humaines. Naturellement, la création d’un système d’IA doté d’une telle intelligence sans garanties adéquates soulève de sérieuses inquiétudes.
Ilya Sutskever, directeur scientifique d'OpenAI et membre du conseil d'administration, est considéré comme le chef de file de cette initiative révolutionnaire. Elle permet à l'IA d'utiliser des données plus propres générées par ordinateur pour résoudre des problèmes sans précédent. Cela implique que l'IA n'est pas entraînée sur plusieurs itérations du même problème, mais sur des informations qui ne sont pas directement liées au problème en question. Résoudre des problèmes de cette manière, généralement mathématiques ou scientifiques, exige du raisonnement, une caractéristique humaine qui n'est généralement pas associée à l'IA.
Chat, le produit phare d'OpenAI propulsé par le Grand modèle de langage GPT (LLM) pourrait donner l'impression d'employer le raisonnement pour formuler ses réponses, compte tenu de son intelligence apparente. Cependant, une interaction plus étroite avec Chat révèle qu'il ne fait que répéter ce qu'il a appris des énormes quantités de données traitées, faisant des prédictions généralement exactes sur la construction de phrases cohérentes et pertinentes pour votre requête. Le raisonnement n'entre pas en jeu ici.
Les informations suggèrent que cette avancée, à laquelle Altman a peut-être fait allusion lors d'une récente conférence, en déclarant : « À titre personnel, au cours des deux dernières semaines, j'ai eu l'occasion d'être dans la salle, alors que nous repoussions en quelque sorte le voile de l'ignorance et la frontière de la découverte en avant », a envoyé des ondes de choc à travers OpenAI.
Gérer la menace
Bien que Chat ne montre actuellement aucun signe de superintelligence, il est probable qu'OpenAI fasse des progrès pour intégrer une partie de cette puissance dans ses produits premium, tels que GPT-4 Turbo et les futurs « agents intelligents ».
Il peut sembler exagéré d'établir un lien entre les récentes décisions du conseil d'administration, initialement soutenues par Sutskever, et la percée de la superintelligence. Cette percée annoncée s'est produite il y a plusieurs mois et a conduit Sutskever et un autre scientifique d'OpenAI, Jan Leike, à créer un nouveau groupe de recherche OpenAI appelé « Superalignment », chargé de concevoir des garde-fous pour la superintelligence.
Dans une tournure intéressante, la société pionnière dans le développement de la superintelligence construit simultanément des mécanismes pour nous en protéger, qui rappellent le docteur Frankenstein armant les villageois de lance-flammes.
Ce qui reste ambigu dans le rapport est de savoir si les appréhensions internes entourant la progression rapide vers la superintelligence ont directement conduit au limogeage d'Altman. Peut-être que, dans l’ensemble, cela n’a pas d’importance.
Dans l’état actuel des choses, Altman est sur le point de reprendre son poste à OpenAI, le conseil d’administration a été restructuré et la quête pour développer – et se prémunir contre – la superintelligence persiste.
Pour ceux qui trouvent ces développements déroutants, s’engager avec Chat pour obtenir une explication pourrait s’avérer éclairant.