Τι έδειξε η σύγκριση με 6.639 περιστατικά;
Το prompt injection παραμένει στην πρώτη θέση του OWASP Top 10 for LLM Applications για τρία συνεχόμενα χρόνια. Όταν όμως οι δύο επικεφαλής της λίστας το συνέκριναν με 6.639 επισημασμένα πραγματικά περιστατικά, το αποτέλεσμα ήταν η 12η θέση.
Η ανάλυση δημοσιεύθηκε στο arXiv στις 18 Αυγούστου από τους Kyriakos “Rock” Lambros και Steve Wilson, δύο επικεφαλής του project OWASP Top 10 for LLM Applications.
📖 Διάβασε επίσης
Γιατί η χαμηλότερη θέση δεν σημαίνει μικρότερο κίνδυνο;
Σύμφωνα με το κείμενο, η πτώση καταγράφει περισσότερο την ορατότητα και λιγότερο την επικινδυνότητα. Η επίθεση λειτουργεί σε σημείο όπου ένας σαρωτής ευπαθειών δεν μπορεί να τη δει.
Το ίδιο υλικό αναφέρει ότι ένα χαμηλό πλήθος CVE δεν πρέπει να οδηγεί έναν CISO να υποτιμήσει το prompt injection.
Ποιοι έκαναν την ανάλυση και σε ποια βάση;
Η εκτίμηση αποδίδεται στους Kyriakos “Rock” Lambros και Steve Wilson, που είναι δύο από τους επικεφαλής του project OWASP Top 10 for LLM Applications.
- η σύγκριση έγινε με 6.639 επισημασμένα περιστατικά
- το prompt injection βρέθηκε στην 12η θέση
- η ανάλυση δημοσιεύθηκε στο arXiv στις 18 Αυγούστου
- το κείμενο φέρει σχετική αποποίηση ευθύνης
Τι διευκρινίζουν οι ίδιοι για το κείμενο;
Οι συγγραφείς αναφέρουν ότι η εργασία είναι διερευνητική. Δεν έχει περάσει από αξιολόγηση ομοτίμων και δεν αποτελεί την επίσημη έκδοση του OWASP.
Προσθέτουν επίσης ότι το αποτέλεσμα δεν αντικαθιστά την επίσημη λίστα ούτε τη διαδικασία της.
Η ουσία της ανάλυσης είναι ότι το prompt injection μπορεί να εμφανίζεται χαμηλότερα στα καταγεγραμμένα περιστατικά, χωρίς αυτό να σημαίνει ότι παύει να βρίσκεται στο επίκεντρο της προσοχής για εφαρμογές LLM.
