Rassurez-vous, cet article n’a pas été écrit par une intelligence artificielle (ou enfin presque.) Et si c’est le cas, vous pouvez compter sur les anti-GPT pour assurer la protection et l’intégrité des informations.
Au moment où les GPT, générateurs de texte automatisés, connaissent un engouement de plus en plus fort dans la sphère publique, les enjeux autour de la désinformation et la question éthique de l’utilisation de l’intelligence artificielle reviennent sur le devant de la scène. Mais une nouvelle technologie fait irruption pour tenter de répondre à ces nouvelles problématiques : les anti-GPT.
L’utilisation de ChatGPT : entre questions éthiques, désinformations et abus d’utilisation.
Depuis plusieurs mois, et si vous ne vivez pas dans une grotte, ChatGPT, développé par OpenIA, a beaucoup fait parler de lui, dans le bon et comme dans le mauvais sens. Cette technologie, des plus récentes en matière d’intelligence artificielle, se base sur l’utilisation de générateurs de texte automatisés, appelés GPT (Generative Pre-trained Transformer). Ces systèmes utilisent des algorithmes d’apprentissage profond (deep learning) pour analyser des données textuelles massives, puis pour générer du texte qui ressemble à ce que pourrait écrire un être humain.
Cependant, si cette nouvelle technologie apparaît comme l’innovation phare du moment par ses aspects techniques et ses innombrables utilisations, elle amène de nouvelles questions suite à plusieurs controverses :
- Des étudiants de Sciences Po qui l’utilise pour écrire leur dissertation et qui amène l’établissement à prendre des mesures sur l’utilisation de ChatGPT ;
- Eiichiro Oda, auteur du manga à succès One Piece, qui demande à ChatGPT d’écrire à sa place la suite de l’histoire ;
- L’utilisation de certaines personnes de ChatGPT pour entamer une thérapie du deuil en faisant parler l’IA comme un proche décédé ;
- La mise en vente de plusieurs livres écrits intégralement par ChatGPT sur Amazon ;
On en vient à se demander où se trouve la limite de l’utilisation de l’intelligence artificielle. Non seulement, cela pose des questions d’ordres éthiques, notamment qui jouent sur les affects humains, mais également la remise en cause de certains domaines de métiers par les usages que certaines personnes en font.
D’autant que l’inquiétude est de plus en plus croissante, car l’utilisation des GPT pourrait être mise au service d’activités malveillantes, telles que la génération de spams, la création de faux commentaires et de faux articles, et même l’utilisation dans des campagnes de désinformation.
C’est ainsi que les anti-GPT font leur apparition. Ces systèmes sont conçus pour lutter contre ces utilisations néfastes des GPT et pour empêcher les cybercriminels d’exploiter cette technologie à des fins malveillantes.
Les anti-GPT : une première réponse pour lutter contre les utilisations abusives des GPT
Vous l’autre compris, il s’agit d’utiliser une nouvelle IA pour contrer l’utilisation abusive des GPT, soit d’une autre intelligence artificielle. Si la première génère du texte de manière autonome, les anti-GPT ont pour but de détecter ces messages générés automatiquement afin d’empêcher leur propagation.
Ainsi, les anti-GPT ne datent pas d’hier, dans la mesure où ces systèmes sont déjà en place dans la lutte contre la désinformation en ligne, notamment sur les réseaux sociaux. Par exemple, BotGuard, développé par Imperva, est un antichat GPT qui existe depuis 2019. Il est utilisé sur une variété de plateformes de médias sociaux et de messagerie pour fournir une protection en temps réel pour contrer les bots et les attaques de phising en ligne.
Cependant, au moment où ChatGPT fait parler de lui, ces systèmes connaissent un renforcement afin de s’adapter aux nouveaux usages générés par ce nouveau venu sur la scène numérique. Ainsi, des nouveaux anti-GPT ont vu le jour, spécialement pour s’adapter aux nouveaux usages, comme le renforcement les politiques anti-plagiats dans les écoles et universités en permettant de détecter les textes générés par un GPT.
De manière générale, les anti-GPT fonctionnent sur la base du “deep learning” telles que l’analyse sémantique, la reconnaissance de motifs et la surveillance des comportements pour détecter les messages générés automatiquement. Une fois qu’un message suspect est identifié, l’anti-GPT peut alors prendre des mesures pour empêcher sa propagation, telles que le blocage de l’utilisateur ou la suppression du message.
Toutefois, si cela peut s’avérer efficace, cette nouvelle forme d’intelligence artificielle pose aussi question. La phase d’apprentissage de l’intelligence artificielle peut comporter des biais, notamment des personnes derrière sa création. D’autant que l’utilisation massive de l’intelligence artificielle dans la modération des plateformes numériques fait aussi débat dans la mesure où la frontière vers la censure abusive n’est qu’à un pas. Ainsi, de solution à problème, il n’y a qu’un pas quand il s’agit de l’utilisation de l’intelligence artificielle.
L’usage de l’intelligence artificielle dans nos sociétés : quelles limites pour cette technologie ?
Au travers des GPT et des anti-GPT, nous pouvons presque affirmer que les prochaines années verront une lutte entre plusieurs formes d’intelligence artificielle. Si l’une permet de générer du texte et que l’autre permet d’en détecter sa provenance, ces deux formes d’IA vont évoluer conjointement dans le futur à mesure que l’une prend en force.
Cependant, les usages massifs de l’intelligence artificielle posent énormément de questions sur les limites de cette dernière : peut-on tout apprendre à l’intelligence artificielle ? Peut-elle être apte à répondre à tout ? Peut-elle être utilisée pour tout ? L’intelligence artificielle est-elle un problème ou une solution ? Ces questions s’ancrent aujourd’hui dans des enjeux plus larges de sociétés, car leurs usages viennent bouleverser nos quotidiens.
Par ce fait, les anti-GPT sont une technologie en émergence qui offre une protection importante contre les abus et les attaques en ligne générés automatiquement par une autre IA. Bien que leur efficacité puisse varier en fonction de la sophistication des attaques, les anti-GPT représentent une étape importante dans la protection de la sécurité et de l’intégrité de l’information en ligne.
Dans l’ensemble, les anti-GPT sont une technologie prometteuse et constituent une première réponse face à certaines utilisations de l’intelligence artificielle. Cependant, il faut garder en tête que cela reste une intelligence artificielle et qu’elle est soumise aux mêmes questions sur ces usages et aux mêmes biais : comment ne pas sombrer dans la censure abusive et peut-on tout lui apprendre ?
En bref
L’intelligence artificielle est une innovation technologique indéniable. Cependant, qu’on l’aime ou qu’on la redoute, cette dernière, à mesure de ses évolutions, devra être pensé sous l’angle des limites qu’elle pose en matière d’éthique et de développement technologique.