Le succès fulgurant de ChatGPT a coûté cher à OpenAI, lui faisant perdre des millions de dollars chaque jour… Le rentabiliser devenait urgent, la société a travaillé depuis décembre à l’optimisation de son modèle. OpenAI annonce aux développeurs qu’ils peuvent désormais créer des applications, produits et services avec sa nouvelle API ChatGPT mais aussi avec la nouvelle API Whisper.
Lors de son annonce, OpenAI déclare :
« Les modèles ChatGPT et Whisper sont désormais disponibles sur notre API, ce qui permet aux développeurs d’accéder à un langage de pointe (pas seulement au chat !) et à des capacités de conversion de la parole en texte. Grâce à une série d’optimisations à l’échelle du système, nous avons réalisé une réduction des coûts de 90% pour ChatGPT depuis décembre; nous transmettons maintenant ces économies aux utilisateurs d’API ».
L’API ChatGPT
La nouvelle API Chat est alimentée par gpt-3.5-turbo, le modèle utilisé pour ChatGPT, le modèle le plus performant d’OpenAI pour de nombreux cas d’utilisation non liés au chat. La société déclare d’ailleurs avoir vu les premiers testeurs migrer de text-daVinci-003 à GPT-3.5-turbo avec seulement une petite quantité d’ajustement nécessaire à leurs invites.
Le prix
Son prix est de 0,002 / minute, arrondi à la seconde supérieure.
Modifications des politiques d’OpenAI et de la manière dont elle utilise les données
Suite aux commentaires des utilisateurs de ses API, OpenAI a apporté un certain nombre de changements concrets, tels que :
- Les données soumises via l’API ne sont plus utilisées pour la formation du modèle ou d’autres améliorations de service, sauf en cas d’acceptation explicite;
- Mise en œuvre d’une stratégie de conservation des données par défaut de 30 jours pour les utilisateurs d’API, avec des options pour des fenêtres de rétention plus courtes en fonction des besoins de l’utilisateur;
- Suppression de l’examen préalable au lancement;
- Simplification des conditions d’utilisation et des politiques d’utilisation, y compris les conditions relatives à la propriété des données : les utilisateurs possèdent les entrées et les sorties des modèles.