DeepSeek cette accusation est un peu injuste, les hallucinations du modèle ont été prises pour une faille de sécurité

Selon le rapport de Beating, il circule selon lequel entrer un marqueur spécifique dans DeepSeek permettrait de voir les conversations des autres et serait qualifié de défaillance de l'isolation multi-locataire P0. En réalité, il s'agit d'un phénomène où le modèle génère des dialogues apparemment authentiques basés sur la mémoire et des invites système, plutôt que de rechercher en temps réel les conversations des autres, ce qui relève d'un problème général d'extraction de mémoire à partir des données d'entraînement, et non spécifique à DeepSeek. La communauté académique a déjà indiqué qu'il est possible d'extraire des données d'entraînement via des tokens de modèle ; le fait que la conversation contienne la date du jour rend difficile de prouver qu'elle provient d'une autre personne. Actuellement, pour prouver une fuite d'informations d'une autre personne, il faut des preuves concrètes ; aucune preuve ne pointe vers l'existence réelle d'autres utilisateurs.