Les agents conversationnels basés sur l'intelligence artificielle font face à une menace croissante : l'intoxication malveillante de leurs données d'entraînement.
Les chatbots basés sur l'intelligence artificielle voient leurs réponses de plus en plus contaminées par des contenus désinformateurs présents en masse sur internet.
Une analyse démontre que les modèles de langage répondent toujours par une prédiction probabiliste plutôt que de refuser une réponse, même face à des questions sans réponse valide.