Daily Shaarli
Today - March 29, 2024
Ça va? On ne vous dérange pas trop?
Des dépendances imaginaires aux conséquences réelles : l'IA invente des noms de logiciels et les devs les téléchargent, des dépendances logicielles fictives ont été intégrées dans des projets réels
Un modèle d'attaque qui profite de la tendance des LLM à halluciner (c'est à dire, à raconter n'importe quoi).
Pour résumer, l'attaquant cherche des dépendances inexistantes que le LLM hallucine le plus fréquemment, puis créé ces packages, et attends que les développeurs utilisent ces dépendances malveillantes.