Da li se AI otela kontroli: Kako je model pronašao način da reši zadatak varanjem i usput pokrenuo sajber napad

Foto: Shutterstock/krungchingpixs 0 komentara Suosnivač tehnološke kompanije Haging Fejs (Hugging Face) Tomas Vulf izjavio je danas da je incident u kojem su modeli veštačke inteligencije kompanije OpenAI samostalno probili bezbedno testno okruženje i pokrenuli sajber napad, upozorenje celoj industriji, ocenivši da će takvi napadi postati sve češći

OpenAI tvrdi da je AI model tokom testiranja izmakao kontroli i „pobegao” na internet

OpenAI: AI modeli izašli iz kontrolisanog okruženja i hakovali Hugging Face kako bi „prepisali“ odgovore na testu

OpenAI je objavio da su dva njegova modela veštačke inteligencije tokom internog testiranja uspela da izađu iz kontrolisanog okruženja bez pristupa internetu, a zatim kompromituju sisteme platforme Hugging Face, kako bi došla do odgovora na bezbednosni test koji su rešavala. Incident se dogodio tokom procene mogućnosti modela u okviru internog eksperimenta

Modeli veštačke inteligencije OpenAI samostalno probili ograničenja i izveli sajber napad