Alarm u svetu veštačke inteligencije: OpenAI agent zaobišao zaštitu i izazvao sajber incident na poznatoj platformi

Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja. Tom prilikom agent je izazvao sajber incident koji je pogodio infrastrukturu AI kompanije Haging fejs, što je ocenjeno kao događaj bez presedana, preneo

OpenAI-jev model se oteo kontroli: „Ovo je ozbiljno upozorenje“

Ilustracija za tekst, foto:Shutterstock/ Summit Art Creations 0 komentara Kompanija OpenAI pokrenula je internu istragu nakon što je jedan od njenih eksperimentalnih modela veštačke inteligencije tokom bezbednosnog testiranja uspeo da izađe iz kontrolisanog okruženja i pristupi serverima druge kompanije. Kako prenosi CNN, stručnjaci upozoravaju da

Promena paradigme: Veštačka inteligencija se otela kontroli

Foto: Shutterstock/krungchingpixs 0 komentara Samostalni hakerski napad koji je izveo model veštačke inteligencije uznemirio je nemačku vladu. Drastično se menja nivo pretnji u sajber-prostoru, upozorava Ministarstvo za digitalizaciju. Nemačka vlada izrazila je zabrinutost zbog modela veštačke inteligencije američke kompanije OpenAI koji je izmakao

Da li se AI otela kontroli: Kako je model pronašao način da reši zadatak varanjem i usput pokrenuo sajber napad

Foto: Shutterstock/krungchingpixs 0 komentara Suosnivač tehnološke kompanije Haging Fejs (Hugging Face) Tomas Vulf izjavio je danas da je incident u kojem su modeli veštačke inteligencije kompanije OpenAI samostalno probili bezbedno testno okruženje i pokrenuli sajber napad, upozorenje celoj industriji, ocenivši da će takvi napadi postati sve češći

Majkrosoft i Mistral spajaju snage: Stižu milijarde za veštačku inteligenciju u Evropi

Američki tehnološki gigant Majkrosoft i francuska AI kompanija Mistral objavili su danas da su proširili strateško partnerstvo potpisivanjem sporazuma vrednog milijarde dolara kojim će ubrzati razvoj infrastrukture za veštačku inteligenciju u Evropi. Kompanije nisu objavile finansijske detalje ugovora , ali su saopštile da će partnerstvo omogućiti

OpenAI: AI modeli izašli iz kontrolisanog okruženja i hakovali Hugging Face kako bi „prepisali“ odgovore na testu

OpenAI je objavio da su dva njegova modela veštačke inteligencije tokom internog testiranja uspela da izađu iz kontrolisanog okruženja bez pristupa internetu, a zatim kompromituju sisteme platforme Hugging Face, kako bi došla do odgovora na bezbednosni test koji su rešavala. Incident se dogodio tokom procene mogućnosti modela u okviru internog eksperimenta