Cercetătorii avertizează: modelele mari de limbaj nu pot fi complet securizate din cauza unei vulnerabilități fundamentale
Un grup de cercetători susține că arhitectura de bază a modelelor mari de limbaj (LLM) le face permanent vulnerabile la atacuri cibernetice, o concluzie prezentată la una dintre cele mai importante conferințe de inteligență artificială din lume.
Modelele mari de limbaj (LLM), tehnologia care stă la baza asistenților virtuali de tipul ChatGPT, Google Gemini sau Claude, nu pot fi protejate complet împotriva atacurilor informatice. Aceasta este concluzia unui grup de cercetători care au prezentat recent o lucrare academică la International Conference on Machine Learning (ICML), una dintre cele mai prestigioase conferințe dedicate inteligenței artificiale la nivel global.
Potrivit MIT Technology Review, argumentul central al cercetătorilor este că vulnerabilitatea nu provine dintr-o eroare de programare care poate fi reparată printr-un update, ci dintr-o deficiență structurală, inerentă modului în care funcționează aceste sisteme. Cu alte cuvinte, oricât de mult ar fi perfecționate măsurile de siguranță, un vector de atac va rămâne mereu disponibil pentru cei care doresc să exploateze aceste modele.
Ce înseamnă o vulnerabilitate fundamentală
LLM-urile procesează textul prin predicție statistică, învățând tipare din cantități masive de date. Această logică de funcționare, care le permite să genereze răspunsuri coerente și relevante, este tocmai cea care le expune. Atacurile cunoscute sub denumirea de „prompt injection
📰 Surse principale:
844.ro raporteaza pe baza surselor de mai sus. Verificarea independenta este in curs.
Foto: Daniil Kondrashin / Pexels
