LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’entreprise mère de ChatGPT a alerté que ses futurs modèles pourraient faciliter la création de virus.
Dans ce billet publié le 18 juin 2025, OpenAI avertit également sur ce que la firme appelle « l’élévation des novices ». Un phénomène où l’IA transmettrait à des individus sans expertise scientifique les compétences nécessaires pour manipuler des données biologiques sensibles.
Élévation des novices
Contrairement aux virologues chevronnés, des amateurs pourraient accéder à des instructions précises pour reproduire ou modifier des virus via des IA comme ChatGPT.
OpenAI anticipe ce risque depuis avril 2025, date à laquelle l’entreprise a commencé à renforcer ses mesures de sécurité. Mais selon Johannes Heidecke, responsable des systèmes de sécurité chez OpenAI, cette menace n’est pas encore pleinement concrétisée.
Toutefois, les futurs modèles, tels que les successeurs des versions O3 et O4-mini, pourraient bientôt offrir de telles capacités. Par ailleurs, l’accès à des laboratoires et à des matériaux biologiques sont régulés, mais n’est pas totalement hermétique.
Face à ce risque, OpenAI a déjà mis en place des garde-fous pour limiter les abus. Ses modèles de ChatGPT bloquent les demandes liées à la création de virus ou d’armes biologiques.
En cas de requête suspecte, un algorithme l’intercepte et un examen humain prend le relais pour évaluer le danger. De plus, avant de déployer une nouvelle IA, OpenAI effectue des tests rigoureux en collaboration avec des experts externes et des autorités publiques.
Médecine et virus, la dualité d’usage de Chatgpt
L’IA n’est pas seulement une potentielle menace, mais aussi une promesse. Les mêmes modèles de ChatGPT qui pourraient, en théorie, guider la création d’un virus offrent des avancées en médecine.
OpenAI souligne que ses outils pourraient accélérer la découverte de nouveaux médicaments, concevoir des vaccins plus efficaces ou encore développer des traitements pour des maladies rares.
Outre les garde-fous technologiques, l’entreprise collabore avec des équipes spécialisées en biosécurité pour tester la robustesse de ses systèmes.
Elle travaille aussi avec des institutions telles que le Los Alamos National Lab pour étudier l’impact de l’IA dans des environnements de laboratoire.
Un sommet sur la biodéfense, prévu en juillet 2025, réunira chercheurs, ONG et autorités pour explorer les risques et les opportunités de l’IA en biologie.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
