L’AI Safety Summit, co-organisé par le Royaume-Uni et la Corée du Sud, se tient actuellement à Séoul. À cette occasion, 16 entreprises majeures—parmi lesquelles Amazon, Google, Microsoft, Meta, Mistral AI et OpenAI— se sont engagées à adopter des mesures de sécurité pour l’IA, connues sous le nom de “Frontier AI Safety Commitments”.
Des engagements se voulant concrets pour la sécurité de l’IA
Chaque entreprise signataire s’est engagée à développer et déployer ses modèles d’IA de pointe de manière sécurisée. Les sociétés ont également convenu de publier des cadres de sécurité détaillant les méthodes pour mesurer les risques associés à leurs technologies. Ces cadres comprendront des seuils clairs définissant les niveaux de risques jugés “intolérables” et les mesures que les entreprises devront prendre pour s’assurer de ne pas dépasser ces seuils.
Chaque signataire s’est également engagé à assumer la responsabilité de ne pas développer ou déployer un modèle ou un système d’IA si les risques associés ne peuvent être maintenus en dessous des seuils prédéfinis.
Les 16 entreprises signataires
Les entreprises ayant signé les “Frontier AI Safety Commitments” sont :
- Amazon
- Anthropic
- Cohere
- Google / Google DeepMind
- G42
- IBM
- Inflection AI
- Meta
- Microsoft
- Mistral AI
- Naver
- OpenAI
- Samsung Electronics
- Technology Innovation Institute
- xAI
- Zhipu.ai
Beaucoup voient le fait que tant d’entreprises de premier plan dans le domaine de l’IA acceptent les mêmes engagements de sécurité comme une première mondiale. Cette initiative pourrait garantir une responsabilité et une transparence cohérentes dans le développement futur des modèles et systèmes d’IA. Elle constitue dans tous les cas un précédent important pour l’industrie, signalant une volonté collective de prévenir les risques potentiels liés à l’IA.
Ces engagements sont cruciaux non seulement pour les entreprises elles-mêmes, mais aussi pour les utilisateurs, les régulateurs et la société dans son ensemble. Ils pourraient offrir une assurance que les innovations en matière d’IA seront poursuivies avec une vigilance accrue pour minimiser les risques et maximiser les bénéfices pour tous.
