Une nouvelle menace vise les outils d'intelligence artificielle générative

Selon les chercheurs de Permiso Security, un attaquant pourrait intégrer dans une page web des liens malveillants, des images hébergées sur ses propres serveurs ou des instructions dissimulées. Lorsque l'IA consulte et résume cette page, certains de ces éléments pourraient être affichés directement dans l'interface de l'assistant, donnant à l'utilisateur une impression de confiance accrue. Comme l'explique le chercheur Andi Ahmeti :

« Le moteur d'affichage de ChatGPT fait confiance aux liens Markdown et aux images Markdown provenant de pages web tierces que l'assistant vient de résumer. Il récupère automatiquement ces images et affiche ces liens comme des éléments cliquables dans l'interface de confiance de l'assistant. »

Cette technique ne permet pas de prendre le contrôle de l'IA, mais elle pourrait être utilisée pour diffuser des liens de phishing, suivre des utilisateurs ou les orienter vers des ressources frauduleuses. Elle met surtout en évidence une nouvelle catégorie de risques : les attaques qui ciblent non plus directement les utilisateurs, mais les contenus consommés par les intelligences artificielles.

Pourquoi cette découverte est importante

Les outils d'intelligence artificielle sont désormais utilisés quotidiennement pour effectuer des recherches, résumer des documents ou assister les collaborateurs. Comme toute technologie connectée à Internet, ils deviennent progressivement une nouvelle surface d'attaque pour les cybercriminels.

Cette évolution montre que les entreprises doivent désormais prendre en compte la sécurité de l'IA au même titre que celle de la messagerie électronique, des postes de travail ou des serveurs.

Comment SOIPP accompagne ses clients

Chez SOIPP, nous suivons de près l'évolution des risques liés à l'intelligence artificielle. Nous disposons aujourd'hui d'outils permettant de superviser l'usage des assistants IA au sein de l'entreprise, de contrôler les échanges avec ces plateformes, de limiter les risques de fuite de données sensibles et d'appliquer des règles de sécurité adaptées aux nouveaux usages.

Même si les menaces liées à l'IA sont encore récentes et en constante évolution, il est déjà possible de mettre en place des mécanismes de surveillance, de filtrage et de protection afin d'encadrer leur utilisation dans un environnement professionnel.

L'intelligence artificielle apporte de nombreux bénéfices aux entreprises, mais comme toute innovation, elle doit être intégrée dans une démarche globale de cybersécurité afin de garantir un usage efficace et sécurisé.

https://www.linkedin.com/comm/pulse/chatgpt-vulnerability-allows-threat-actors-turn-yybie?utm_source=chatgpt.com