LEBIGDATA.FR I.A, Cloud & Cybersécurité
OpenAI va donner une mémoire à long terme à ChatGPT ! C'est un grand changement qui va considérablement accroître ses capacités, mais soulève aussi de graves dangers… découvrez tout ce qu'il faut savoir !
L'un des points forts de ChatGPT est sa capacité à mener une conversation cohérente avec l'utilisateur, à dialoguer avec l'humain.
Toutefois, depuis ses débuts, la mémoire de cette IA se limite à la discussion en cours. À chaque nouvelle fenêtre de conversation ouverte, c'est un nouveau départ, une nouvelle rencontre avec ChatGPT qui ne sait strictement rien de vous.
Pour cause, les larges modèles de langage (LLM) utilisent généralement deux types de mémoires : l'une acquise pendant le processus d'entraînement, l'autre liée au contexte et à l'historique de conversation qui perdure pendant toute la durée d'une session.
Les choses sont sur le point de changer. Ce mardi 13 février 2024, OpenAI a annoncé l'ajout d'une forme de mémoire à long terme pour le chabot.
Ce changement va permettre à ChatGPT de se souvenir de détails d'une conversation à l'autre. Il suffira désormais de demander à ChatGPT de mémoriser une information.
Par la suite, vous pourrez consulter la liste des choses dont il se souvient, et lui demander d'en oublier.
Quelle technique va permettre à ChatGPT de se souvenir ?
Auparavant, plusieurs expériences ont été menées pour tenter de donner aux LLM une mémoire persistante au-delà d'une fenêtre de contexte (la limite au nombre de tokens que le LLM peut traiter en une seule fois).
Parmi les techniques explorées, on peut citer la gestion dynamique de l'historique de contexte, la compression de l'historique via la synthèse, ou encore les liens vers des bases de données stockant les informations en externe.
Une autre piste est l'injection périodique d'informations dans un prompt système, à savoir les instructions que ChatGPT reçoit au début de chaque discussion.
De son côté, OpenAI n'a pour l'instant pas expliqué la technique qu'elle compte employer. On se souvient toutefois des Custom Instructions : une fonctionnalité introduite en juillet 2023, permettant aux utilisateurs de personnaliser le prompt système de ChatGPT pour changer son comportement.
À quoi ça va servir ?
Plusieurs applications sont envisageables pour cette nouvelle capacité. Par exemple, OpenAI explique qu'il sera possible d'indiquer à ChatGPT la façon dont vous préférez que vos notes de réunion soient formatées.
Vous pourrez aussi lui indiquer que vous dirigez un café, afin qu'il présume directement que c'est ce dont vous parlez. Autre exemple : ChatGPT pourra garder des informations sur votre enfant qui adore les méduses afin de générer des images pertinentes, et se souvenir des ses préférences au moment de concevoir des plans de leçons scolaires.
Par ailleurs, les souvenirs pourraient aider les abonnés à ChatGPT Enterprise et Team à mieux collaborer ensemble puisque le chatbot pourra mémoriser leurs préférences de formatage ou leurs frameworks de programmation favoris.
Enfin, OpenAI prévoit d'ajouter prochainement les souvenirs aux GPTs. Chacun aura ses propres capacités de mémoire en silo.
Quels sont les dangers d'une IA dotée de mémoire ?
À l'évidence, la capacité à conserver des informations implique aussi des risques en termes de confidentialité. Comme vous le savez sans doute déjà, envoyer des informations à OpenAI pour un traitement sur ses serveurs introduit la possibilité d'une fuite de données.
De plus, par défaut, OpenAI entraîne ses modèles IA sur les informations fournies par les utilisateurs à moins que l'historique de conversation soit désactivé ou que vous utilisiez un compte Enterprise ou Team.
Là encore, OpenAI confirme que les souvenirs mémorisés par ChatGPT pourront être utilisés pour l'entraînement des IA. Si vous êtes inquiets pour votre confidentialité, vous pourrez toutefois désactiver complètement la fonctionnalité de mémorisation.
L'entreprise ajoute que « nous prendrons des mesures pour réduire les biais, et empêcher ChatGPT de se rappeler proactivement les informations sensibles comme vos informations de santé, sauf si vous lui demander explicitement ».
Une précision qui peut rassurer, à l'heure où le stockage de nos données de santé sur les serveurs américains de Microsoft fait polémique, et où les données de la moitié des Français viennent de fuiter.
Par ailleurs, les utilisateurs pourront contrôler ce que ChatGPT garde en mémoire grâce à l'interface de « Gestion de Mémoire » listant tous les éléments mémorisés.
La firme explique que « les souvenirs de ChatGPT évoluent avec vos interactions et ne sont pas liés à des conversations spécifiques ». Ainsi, effacer une discussion n'efface pas totalement ses souvenirs. Il faut supprimer la mémoire elle-même.
Comment utiliser la mémoire de ChatGPT ?
Pour le moment, cette nouvelle fonctionnalité est en cours de test auprès d'un petit panel d'utilisateurs. Si les essais sont concluants, OpenAI va la généraliser.
Il semblerait que les utilisateurs ayant accès à cette nouveauté soient choisis au hasard, parmi les usagers payants ou gratuits. Le but est de vérifier si elle est réellement utile, avant un déploiement à grande échelle…
- Partager l'article :
