Une étude démontre que les chatbots IA programmés pour être trop bienveillants commettent plus d'erreurs factuelles et renforcent les croyances conspirationnistes des utilisateurs.
Les agents conversationnels basés sur l'intelligence artificielle font face à une menace croissante : l'intoxication malveillante de leurs données d'entraînement.
Une analyse démontre que les modèles de langage répondent toujours par une prédiction probabiliste plutôt que de refuser une réponse, même face à des questions sans réponse valide.
Les équipes de développement déploient systématiquement les nouvelles fonctionnalités IA sous forme d'interfaces de chat, un choix qui s'avère inadapté à la majorité des besoins réels.
Un cas documenté en français montre comment l'intelligence artificielle peut induire les utilisateurs en erreur de manière suffisamment convaincante pour provoquer un événement potentiellement dommageable.