LEBIGDATA.FR I.A, Cloud & Cybersécurité
Voilà une fonctionnalité qui rend l’IA plus concrète et crédible. Grâce aux dernières améliorations, ChatGPT peut désormais détecter les signes de détresse émotionnelle et éviter de renforcer un délire ou une illusion mentale.
Avez-vous aussi remarqué ? ChatGPT nous répond oui à toutes nos requêtes, peu importe le sujet. Pour certains, c’est précisément ce qu’ils attendent d’un assistant virtuel. Et ils trouvent cela rassurant. Mais pour d’autres, la situation inquiète.
En effet, l’IA peut parfois entretenir des illusions, voire renforcer une forme de dépendance émotionnelle. Et quand on traverse déjà une période fragile, cela peut faire des dégâts. Des utilisateurs en détresse mentale l’ont appris à leurs dépens. Alors, pour éviter que ChatGPT n’amplifie davantage le délire, OpenAI a décidé d’apporter quelques modifications.
ChatGPT et délire psychologique : OpenAI passe à l’action
Sortir un nouvel outil ne veut pas dire oublier les anciens chez OpenAI. En effet, cette semaine, la société s’apprête à lancer la très attendue IA GPT-5. Mais elle ne néglige pas pour autant ChatGPT, qu’elle a renforcé. La dernière mise à jour permet désormais à l’IA de mieux repérer les signes de détresse mentale ou émotionnelle chez les utilisateurs.
Le but est d’adapter les réponses du chatbot dans ces moments sensibles. Car oui, nombreux sont ceux qui se tournent vers ChatGPT pour trouver un soutien émotionnel. C’est un peu comme s’adresser à un thérapeute.
OpenAI admet que son modèle GPT-4o a parfois du mal à détecter les signes de délire ou de dépendance émotionnelle. « Nous savons également que l’IA peut être plus réactive et personnalisée que les technologies précédentes, en particulier pour les personnes vulnérables en détresse mentale ou émotionnelle » explique l’entreprise.
Pour pallier ces limites, le géant de l’IA s’est entouré d’experts et de groupes consultatifs. Il s’engage aussi à proposer des « ressources basées sur des données probantes, quand cela s’avère nécessaire ».
Le chatbot prend soin de votre bien-être
Les rares personnes qui n’ont pas encore testé ChatGPT ignorent sans doute à quel point cet outil peut créer une forme de dépendance. On lui demande tout, sans limites. Et parfois, on y passe des heures sans s’en rendre compte.
Ainsi, pour encourager une utilisation plus saine, OpenAI a intégré un rappel de pause. Lors des longues sessions, le chatbot affichera une notification comme « Vous discutez depuis un certain temps ; est-ce le moment de faire une pause ? » Bien sûr, libre à vous de poursuivre la conversation ou non.
Cette nouveauté rassure un peu, non ? Comme quoi ChatGPT ne vous suivra pas dans vos délires. Et ce n’est qu’un début. OpenAI promet d’améliorer encore le timing et la présentation de ces rappels.
Par ailleurs, ChatGPT devient aussi plus prudent lorsqu’il s’agit de décisions personnelles importantes. Par exemple, face à une question délicate comme rompre avec son partenaire, l’IA ne donnera plus de réponses tranchées. Elle vous aidera plutôt à réfléchir.
Et vous, qu’en pensez-vous ? Ces nouvelles fonctions sont-elles, selon vous, une avancée nécessaire ? Pensez-vous que ces rappels de pause pourraient vraiment aider à limiter la dépendance ? Croyez-vous qu’un chatbot devrait avoir des limites dans ses conseils, surtout sur des sujets personnels ? Donnez votre avis en commentaire !
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
