L’IA générative offre un univers de nouveaux bénéfices potentiels aux entreprises. Toutefois, il y a aussi un revers à la médaille. Cette technologie s’accompagne de risques émergents, notamment en matière de cybersécurité.

SydeLabs, startup spécialisée dans les risques autour de l’intelligence artificielle, s’est penchée sur la question. Elle imagine ainsi des solutions afin de rendre les grands modèles de langage (LLM) sûrs, sécurisés et résistants aux attaques, aux abus et à la non-conformité. Celles-ci allient un red teaming et une protection en temps réel basée sur les intentions.

Le red teaming est une pratique consistant à se comporter comme des hackers. Les faux pirates élaborent des scénarios pour identifier les vulnérabilités des système d’IA. Il devient alors possible de prendre des mesures proactives en temps réel. Quant à la protection basée sur l’intention, elle agit comme un pare-feu sur les prompts en détectant s’ils cachent éventuellement un but malveillant.

Cette approche innovante a séduit les investisseurs. SydeLabs a en effet conclu un tour de table de 2,5 millions de dollars. La jeune pousse californienne compte utiliser ces fonds pour la recherche et le développement (R&D) et l’extension de sa gamme de produits.