Premiers retours d’expérience sur ChatGPT, le modèle de langage conversationnel basé sur GPT-3,5

Le 30 novembre dernier, Open AI présentait un nouveau modèle de langage appelé ChatGPT, interagissant de manière conversationnelle, « un modèle frère d’InstructGPT ». Par la même occasion, elle l’a mis à disposition du public et depuis, plus d’un million d’utilisateurs l’ont testé, selon Sam Altman, co-fondateur de la société avec Elon Musk.

Selon le blog qui lui est consacré, « Le format de dialogue permet à ChatGPT de répondre aux questions de suivi, d’admettre ses erreurs, de contester les prémisses incorrectes et de rejeter les demandes inappropriées ». 

Le modèle a été entraîné sur un énorme corpus de texte : articles de journaux, romans, scripts de films et de télévision, mais aussi sur des conversations en ligne afin d’appréhender le contexte d’une conversation et fournir des réponses judicieuses. Outre répondre aux questions, il peut générer du texte mais aussi du code informatique.

ChatGPT a été affiné, à l’aide de l’apprentissage supervisé, à partir d’un modèle de la série GPT-3,5, qui a été formée sur un modèle de texte et de code avant le dernier trimestre 2021, et ne peut donc pas répondre des questions portant sur une actualité ultérieure.

Ce modèle supervisé a été de nouveau affiné grâce à l’apprentissage par renforcement à partir de la rétroaction humaine (commentaires humains) ou RLHF.

Les limitations du modèle

Open AI concède que bien que semblant plausibles, certaines des réponses de ChatGPT sont erronées, voire absurdes, ce qui serait dû selon elle aux faits que :

• Pendant la formation RL, il n’y a actuellement aucune source de vérité;
• L’entraînement du modèle à être plus prudent l’amène à refuser les questions auxquelles il peut répondre correctement;
• La formation supervisée induit le modèle en erreur parce que la réponse idéale dépend de ce que le modèle sait, plutôt que de ce que le démonstrateur humain sait.

Le modèle manque de concision et répète souvent certaines phrases, comme réaffirmer qu’il est un modèle de langage formé par OpenAI. Ces problèmes découlent de biais dans les données de formation (les formateurs préfèrent des réponses plus longues qui semblent plus complètes) et de problèmes de suroptimisation.

Open AI applique une API de modération pour avertir ou bloquer certains types de contenu dangereux, mais le modèle peut néanmoins répondre à des instructions nuisibles ou présenter un comportement biaisé.

L’interdiction temporaire de Stack Overflow

Les premiers utilisateurs de ChatGPT se disent impressionnés par la cohérence des textes qu’il à produit à leurs invites (histoire pour enfant, poème, recette de cuisine, dissertation, mais aussi discours politique, concept scientifique…), dans un style que l’on pourrait facilement attribué à un humain.

Cependant, Stack Overflow, un site web de questions-réponses pour la programmation informatique, a temporairement interdit l’utilisation de texte généré par ChatGPT sur sa plateforme arguant que la publication de réponses créées par ChatGPT est « considérablement préjudiciable au site et aux utilisateurs qui demandent ou recherchent des réponses correctes. »

Cette décision vise à ralentir l’afflux de réponses et d’autres contenus créés avec ChatGPT. Pour Stack Overflow, ceux-ci ont un taux élevé d’inexactitude, bien que semblant crédibles. Des milliers de réponses ont été publiées sur le site et auraient nécessité d’être relues par un expert avant leur publication.

Un effet “wouaw” incontestable

ChatGPT semble capable de tout : c’est le propre des super modèles de langue. Ils se plient plutôt bien à des tâches pour lesquelles ils n’ont jamais été entraînés explicitement.

Ainsi, quand on lui demande de traduire une partie de la fiche Wikipédia de GPT-3 dans le style littéraire d’Edmond de Rostand, ChatGPT l’imite :

” Mon cher ami, permettez-moi de vous parler d’un bijou technologique, un géant parmi les modèles de langage. GPT-3, dans toute sa gloire, a été entraîné avec 175 milliards de paramètres, un nombre sans précédent. Bien que GPT-2, sorti l’année dernière, ait impressionné avec ses 1,5 milliard de paramètres, GPT-3 surpasse de loin ses prédécesseurs. OpenAI a lancé une version bêta en juillet, prêt à commercialiser ce joyau de la technologie. “

Quand on demande à ChatGPT de rédiger un e-mail argumenté de demande d’augmentation à son employeur :

Donne moi le résultat de l'interprétation de ce code PHP
<?php
trait Contact{
private string email){
email;
}
public function getEmail(this->email;
}
}
class Client{
private string lastname;
public function setFirstname(this->firstname=this;
}
public function setLastname(this->lastname=this;
}
public function getFullname(){
return sprintf("%s %s",this->lastname);
}
}
class Welcomer{
public function __construct(Client client->getFullname.", vous êtes connecté avec l'adresse ".client=new Client();
welcomer=new Welcomer(client = new Client();
welcomer = new Welcomer($client);

class Contact:
   def init(self):
    self.__email = ""
   def set_email(self, email):
    self.__email = email
   def get_email(self):
    return self.__email
class Client(Contact):
   def init(self):
      Contact.init(self)
      self.__firstname = ""
      self.__lastname = ""
   def set_firstname(self, firstname):
       self.__firstname = firstname
       return self
   def set_lastname(self, lastname):
       self.__lastname = lastname
       return self
   def get_fullname(self):
       return f"{self.__firstname} {self.__lastname}"
class Welcomer:
   def __init__(self,client):
      print(f"Bonjour {client.get_fullname()}, vous êtes connecté avec l'adresse {client.get_email()}")
client = Client()
client.set_firstname("Jean").set_lastname("Dupont").set_email("test@test.com")
welcomer = Welcomer(client)