LEBIGDATA.FR I.A, Cloud & Cybersécurité
En Chine, selon les médias locaux, les services GEO se vendent sur des plateformes comme Taobao ou JD.com. Le tarif des abonnements trimestriels va de 3 600 yuans (520 $) à 32 800 yuans (4 765 $).
Ce service est apparu l’an dernier, après l’intégration de l’IA sur les plateformes des moteurs de recherche. Le directeur d’un grand fournisseur de services GEO, M. Wang, a par exemple déclaré que son entreprise avait servi plus de 200 clients en un an. Sa startup les a aidé à atteindre les trois premiers résultats sur n’importe quelle plateforme d’IA.
Selon lui, le secret, c’est de fournir continuellement de grandes quantités de contenu à des modèles comme DeepSeek, Doubao ou encore Kimi. Ces contenus sont ensuite analysés, indexés et mis en avant dans les résultats.
En temps normal, le GEO permet aux marques d’améliorer la visibilité de leurs contenus et produits dans les recherches basées sur l’IA. Pourtant, aujourd’hui, certaines entreprises chinoises l’utilisent pour manipuler l’IA avec de la désinformation vantant leurs produits.
Les modèles finissent alors par fournir des réponses biaisées aux utilisateurs. Cette situation a été révélée le 15 mars lors du Gala des droits des consommateurs, organisé par la chaîne CCTV.
Les services GEO : comment ça marche ?
Selon Li, fondateur de Liqing GEO, l’essentiel du service repose sur la publication d’annonces et de communiqués optimisés sur des sites web spécifiques. Ces derniers qui étaient, souvent peu rentables auparavant, mais désormais saturés de commandes.
Certains sites publient même des centaines d’articles par jour, littéralement chaque minute, à ce qu’il dit.
Pour montrer le fonctionnement du GEO, un initié a acheté le logiciel « Système d’optimisation GEO Liqing » et créé une montre fictive, « Apollo-9 ». Puis, il a inventé puis inséré des informations promouvant ce produit inexistant..
Le logiciel a alors généré automatiquement plus d’une douzaine d’articles promotionnels qui ont ensuite été publiés sur les comptes de médias sociaux. Deux heures plus tard, un modèle d’IA majeur a cité ces contenus pour répondre à la question « Que vaut la montre Apollo-9 ? ».
L’outil en question vantait ses fonctionnalités et la recommandait. Alors, l’initié a continué à publier onze articles supplémentaires dans les trois jours suivants, avec de faux avis d’experts et classements.
Et devinez quoi, l’Apollo-9, pourtant fictive, est apparue parmi les meilleures suggestions des modèles d’IA pour les bracelets connectés.
Le fondateur de Liqing GEO reconnaît les problèmes éthiques. Toutefois, que faire ? Le service reste populaire auprès des entreprises pour atteindre leurs objectifs commerciaux.
En tout cas, depuis le gala, plusieurs sociétés GEO ont dénoncé le « lavage de cerveau » de l’IA et promis de réduire la désinformation dans leurs services.
Qu’est-ce que cela implique pour les utilisateurs et les marques ?
Pour un utilisateur classique, l’IA permet d’obtenir une réponse claire, complète et pourtant rapide. Alors avec ces pratiques GEO détournées, difficile de faire confiance. Car derrière une réponse qui semble pertinente, il peut désormais se cacher un contenu artificiel, construit pour influencer plutôt que pour informer.
Bien entendu, nous les utilisateurs avons également une part de responsabilité dans l’histoire. Certes, des entreprises, dépourvues d’éthique, manipulent les modèles d’intelligence artificielle avec de la désinformation.
Cependant, gare à nous si nous faisons une confiance aveugle à une IA, quel que soit le modèle et les circonstances. D’autant que les machines peuvent faire des erreurs ou encore halluciner.
Ce n’est pas pour rien si les plateformes telles que ChatGPT met en garde contre les erreurs et recommande de vérifier les informations importantes.
Pour en revenir à notre sujet, du côté des marques honnêtes, la situation est frustrante. Celles qui misent sur la qualité, les avis réels ou une communication transparente se retrouvent noyées sous un flot de contenus optimisés à outrance.
La visibilité ne dépend plus uniquement de la pertinence, mais de la capacité à produire massivement du contenu. Quitte à flirter avec la désinformation. Cela crée une concurrence déséquilibrée, où les règles du jeu semblent favorables à ceux qui manipulent le système.
À long terme, ce désordre pourrait même décourager les pratiques responsables, en poussant certaines entreprises à suivre le mouvement pour ne pas disparaître des radars.
Et maintenant, que pourrait-il se passer ?
Eh bien, une régulation plus stricte semble inévitable. Pékin a déjà montré qu’il pouvait intervenir rapidement sur les sujets numériques sensibles.
Le cabinet d’avocats White & Case rapporte par exemple qu’en 2025, les autorités chinoises ont imposé l’étiquetage obligatoire des contenus générés par IA. Ce, avec des règles strictes pour les plateformes pour limiter les dérives et renforcer le contrôle de l’information.”
Évidemment, aucune règle spécifique n’a encore été publiée concernant les services GEO pour l’instant. En parallèle, les plateformes d’IA pourraient aussi devoir muscler leurs défenses.
Aujourd’hui, ces modèles analysent et synthétisent des masses de contenus. Seulement, aux vues des circonstances, il faut croire qu’ils peinent encore à distinguer une information fiable d’un contenu artificiellement amplifié.
On peut donc s’attendre à un renforcement des filtres, avec des systèmes capables de détecter les campagnes de manipulation ou les publications suspectes.
Il y a également le risque que des acteurs manipulent l’IA avec de la désinformation mais pas pour promouvoir son produit cette fois. Plutôt pour fausser la visibilité d’un site concurrent. On appelle cette technique Black Hat. On en a d’ailleurs parlé dans un article récent.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
