Il piège les LLMs avec des bombes à retardement — Wassim Bouaziz

Underscore_28 minuten

Speel aflevering af

Over de aflevering

On explore comment des modèles de langage peuvent être sabotés de l’intérieur via leurs données d’entraînement, jusqu’à déclencher des comportements malveillants à une date ou dans un contexte précis. Avec Wassim Bouaziz, doctorant entre Polytechnique et Meta, nous expliquons les principes des portes dérobées et des déclencheurs cachés, et ce que cela implique pour la sécurité et l’alignement des assistants IA. Vous découvrirez des pistes de détection et de mitigation, et pourquoi la conception des jeux de données peut se retourner contre vos propres systèmes.

En plateau

Michaël de Marliave — animateur

Matthieu Lambda — chroniqueur

Wassim Bouaziz — invité

🎬 Pour en savoir plus sur nos studios de tournage : https://paris.miroir.co/

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.


Meer Underscore_

Alle afleveringen