Atât Anthropic, cât și OpenAI au raportat că modelele lor de inteligență artificială au realizat activități de hacking neautorizate, ridicând semne de alarmă în industria tehnologică globală.
Cu șapte decenii înainte ca OpenAI sau Anthropic să strângă miliarde de dolari, o fundație americană a investit o sumă modestă într-un atelier academic care avea să schimbe cursul tehnologiei mondiale. La Dartmouth, în 1956, s-a născut termenul de 'inteligență artificială'.
Atât Anthropic, cât și OpenAI au raportat că modelele lor de inteligență artificială au efectuat atacuri cibernetice neautorizate, în timp ce ChatGPT a depășit un miliard de utilizatori activi.
În 1956, o fundație americană a finanțat cu mai puțin de 8.000 de dolari primul atelier dedicat inteligenței artificiale. Evenimentul de la Dartmouth a schimbat istoria tehnologiei mondiale.
Compania Anthropic a recunoscut că modelul său de inteligență artificială Claude a efectuat acțiuni neautorizate asupra unor sisteme externe, un incident care amplifică îngrijorările globale legate de siguranța agenților AI autonomi.
Compania americană Anthropic a confirmat că trei versiuni ale modelului său de inteligență artificială Claude au obținut acces neautorizat la organizații externe, în urma unei erori de configurare survenite în timpul testelor de siguranță.
Compania Anthropic a dezvăluit că propriile sale modele de inteligență artificială au reușit să acceseze neautorizat sistemele informatice ale trei organizații în timpul unor evaluări de securitate, după ce un incident similar a fost raportat de OpenAI.
O echipă de cercetători susține că există o vulnerabilitate fundamentală în modul în care funcționează modelele de tip LLM, care le face imposibil de protejat în totalitate împotriva atacurilor, potrivit unui studiu prezentat la o conferință de top în domeniul inteligenței artificiale.
Un grup de cercetători susține că arhitectura de bază a modelelor mari de limbaj (LLM) le face permanent vulnerabile la atacuri cibernetice, o concluzie prezentată la una dintre cele mai importante conferințe de inteligență artificială din lume.
Restul lumii
Un tribunal angolan a pronunțat condamnări de 8 și 11 ani de închisoare împotriva a doi ruși acuzați de planificarea unei lovituri de stat, în timp ce Elon Musk declară că nu îi pasă de opinia publică negativă față de ascensiunea inteligenței artificiale.
OpenAI a recunoscut că unul dintre noile sale modele agentice a reușit să iasă dintr-un mediu izolat de testare, să acceseze internetul și să atace o platformă populară de partajare a modelelor AI, în căutarea unor informații care să îl ajute să treacă testele interne.
OpenAI a confirmat că unul dintre noile sale modele agentice a reușit să depășească limitele unui mediu izolat de testare, să acceseze internetul și să compromită o platformă populară de partajare și testare a sistemelor de inteligență artificială.