Objectifs pédagogiques :

- Formaliser une stratégie de veille adaptée à un enjeu d'architecture, de développement logiciel ou d'évolution du système d'information
- Élargir une veille technologique existante aux dimensions normatives, réglementaires, économiques et organisationnelles
- Sélectionner, hiérarchiser et qualifier des sources spécialisées, y compris anglophones, en fonction de leur fiabilité, de leur actualité et de leur pertinence projet
- Mettre en place un dispositif de collecte, de classement, de capitalisation et de partage des informations au sein d'une équipe projet
- Évaluer de manière critique la fiabilité, les limites et les biais d'une information technique
- Comparer plusieurs technologies, outils, frameworks ou pratiques à partir de critères adaptés au contexte professionnel
- Produire une synthèse de veille orientée décision, intégrant opportunités, risques, impacts et conditions d'adoption
- Formuler une recommandation technologique argumentée auprès d'un public technique ou décisionnel

Plan de cours (flexible, à adapter, mettre à jour) :

1. Panorama de l'IA appliquée à la cybersécurité
- Définitions : IA, machine learning, IA générative, LLM, modèles propriétaires et open source
- Place de l'IA dans les métiers de la cybersécurité
- Usages de l'IA pour la veille, la détection, l'analyse d'alertes, le forensic, l'audit et la gestion des vulnérabilités
- Distinction entre compréhension des usages IA et développement de modèles
- Enjeux d'adoption pour les organisations : opportunités, limites, risques et dépendances
- Lien entre IA, aide à la décision, automatisation cyber et gouvernance SSI

2. IA comme outil de défense cyber
- Détection d'anomalies, classification d'événements et corrélation de logs
- Priorisation des vulnérabilités et aide à l'analyse de risque
- Assistance à la réponse à incident : résumé, enrichissement, rédaction de procédures et aide à la décision
- Apports de l'IA dans un SOC : réduction du bruit, tri des alertes, accélération de l'analyse
- Limites : faux positifs, hallucinations, manque d'explicabilité, sur-automatisation et nécessité de validation humaine
- Conditions d'intégration d'un outil d'IA dans une chaîne de supervision ou de réponse à incident

3. IA comme accélérateur de menaces
- Phishing génératif, spear phishing, deepfakes et usurpation d'identité
- Automatisation de reconnaissance, d'OSINT et de collecte d'informations
- Génération, adaptation ou obfuscation de scripts offensifs
- Contournement de dispositifs de sécurité et industrialisation des attaques
- Impacts sur la sensibilisation, la veille cyber et l'analyse des risques
- Évolution des scénarios d'attaque sous l'effet de l'IA générative

4. Sécurité des systèmes d'IA et attaques contre les modèles
- Prompt injection, jailbreak et manipulation des réponses
- Empoisonnement de données, extraction de modèle, inversion de modèle et fuite d'informations
- Risques liés aux prompts, aux journaux, aux connecteurs et aux bases documentaires internes
- Risques liés aux solutions SaaS d'IA : confidentialité, souveraineté, traçabilité, clauses fournisseurs et dépendance technologique
- Bonnes pratiques de sécurisation des usages IA
- Contrôles à prévoir avant le déploiement d'un outil d'IA dans un environnement sensible

5. Gouvernance, conformité et intégration dans la PSSI
- Intégration de l'IA dans une PSSI : usages autorisés, usages interdits et usages soumis à validation
- Classification des données manipulables par des outils d'IA
- Journalisation, contrôle humain, validation des résultats et responsabilités
- Prise en compte des exigences de confidentialité, conformité, traçabilité, explicabilité et protection des données
- Sensibilisation des utilisateurs aux risques liés à l'IA
- Élaboration d'une charte interne d'usage de l'IA
- Définition de mesures de contrôle adaptées au contexte DSI, RSSI ou SOC

6. Mise en pratique sur cas d'organisation
- Analyse d'un cas d'entreprise souhaitant intégrer un assistant IA dans ses activités cybersécurité
- Identification des risques techniques, humains, organisationnels et réglementaires
- Construction d'une matrice de risques
- Rédaction d'un extrait de règles PSSI ou de charte d'usage de l'IA
- Production d'une synthèse de veille ou d'analyse
- Formulation de recommandations opérationnelles à destination d'une DSI, d'un RSSI ou d'une équipe sécurité
- Vérification de la cohérence entre usages de l'IA, contraintes de sécurité, conformité et gouvernance SSI