C’est sur X qu’Ilya Sutskever, l’un des cofondateurs d’OpenAI, a annoncé le lancement de “Safe Superintelligence Inc” tout comme il l’avait fait pour annoncer son départ d’OpenAI, il y a un mois. Il se disait “très enthousiaste à l’idée de ce qui va suivre – un projet qui est très significatif pour moi et dont je partagerai les détails en temps voulu”. Ce projet était donc de créer une start-up dédiée au développement d’une IAG sécurisée, ce qu’il vient de faire avec Daniel Gross et Daniel Levy.
Ilya Sutskever occupait le poste de scientifique en chef chez OpenAI et codirigeait avec Jan Leike, l’équipe de superalignement mise en place par la start-up en juillet 2023 pour minimiser les risques potentiels d’une IA qui surpasserait l’intelligence humaine.
Tous deux pensent qu’une intelligence artificielle générale pourrait être développée d’ici la fin de cette décennie, mais prévenaient:
“La superintelligence sera la technologie la plus percutante que l’humanité ait jamais inventée et pourrait nous aider à résoudre bon nombre des problèmes les plus importants du monde. Mais le vaste pouvoir de la superintelligence pourrait aussi être très dangereux et pourrait conduire à la perte de pouvoir de l’humanité ou même à l’extinction humaine”.
Ilya Sutskever faisait partie des quatre membres du Conseil d’administration qui ont évincé Sam Altman de son poste de PDG en novembre dernier. Bien que l’un comme l’autre ait été politiquement correct dans ses commentaires concernant la démission d’Ilya Sutskever, il était clair que les deux hommes n’avaient plus la même vision pour l’avenir d’OpenAI. Jan Leike, qui a quitté la start-up dans la foulée, apportait son éclairage :
“Construire des machines plus intelligentes que l’homme est une entreprise intrinsèquement dangereuse… Mais au cours des dernières années, la culture et les processus de sécurité ont été relégués au second plan par rapport aux produits brillants”.
OpenAI a d’ailleurs dissous l’équipe de superalignement après le départ des deux co-directeurs.
Développer une intelligence artificielle générale sécurisée
OpenAI qui a pour ambition de développer une IA qui serait capable de s’adapter et d’exceller dans un large éventail de domaines, de manière similaire, voire supérieure, à l’intelligence humaine, autrement dit une IAG, se retrouve aujourd’hui face à un sérieux concurrent: Safe Superintelligence Inc ou SSI.
Les trois cofondateurs déclarent dans leur communiqué sur X :
“La superintelligence est à portée de main. La construction d’une superintelligence sûre (SSI) est le problème technique le plus important de notre époque. Nous avons lancé le premier laboratoire SSI au monde, avec un seul objectif et un seul produit : une superintelligence sûre. Il s’appelle Safe Superintelligence Inc. SSI est notre mission, notre nom et l’ensemble de notre feuille de route produit, car c’est notre seul objectif. Notre équipe, nos investisseurs et notre modèle commercial sont tous alignés pour réaliser SSI”.
Ajoutant :
“Nous prévoyons de faire progresser les capacités le plus rapidement possible tout en veillant à ce que notre sécurité reste toujours prioritaire”.
La start-up américaine SSI compte des bureaux à Palo Alto et Tel Aviv, “où nous avons des racines profondes et la capacité de recruter les meilleurs talents techniques”, précise l’équipe fondatrice. Outre Ilya Sutskever, elle se compose de Daniel Levy, chercheur et ingénieur en IA qui travaillait lui aussi chez OpenAI et de Daniel Gross, entrepreneur et investisseur d’origine israélienne, cofondateur de Cue, une entreprise acquise par Apple, où il a ensuite travaillé sur des projets liés à l’IA, et ancien partenaire de l’accélérateur de start-ups Y Combinator.
SSI recrute :
“Nous rassemblons une équipe réduite et fissurée des meilleurs ingénieurs et chercheurs du monde qui se consacrent à se concentrer sur les SSI et rien d’autre”.
