Anthropic amână lansarea unui nou model AI considerat prea periculos pentru public

Compania americană Anthropic a decis să întârzie lansarea publică a ultimului său model de inteligență artificială, denumit „Mythos Preview”. Această hotărâre a fost luată în urma unor îngrijorări serioase referitoare la performanțele avansate ale sistemului, care își demonstrează capacitatea de a identifica vulnerabilități informatice ce ar putea fi exploatate de grupuri de hackeri sau spioni, conform unui raport furnizat de Euronews.

Dezvoltatorii de la Anthropic au subliniat că această tehnologie poate descoperi breși critice în diverse sisteme de operare și browsere, ceea ce generează temeri că ar putea facilita atacuri cibernetice. Compania a considerat că a oferi acces vast la acest model ar fi imprudent și riscant, motiv pentru care în documentația tehnică se afirmă că „creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”.

Evaluările efectuate asupra modelului Mythos au scos în evidență rezultate alarmante în diverse scenarii de securitate. De exemplu, într-un experiment specific, Mythos a reușit să ocolească restricțiile impuse de un mediu virtual securizat, demonstrând abilitatea de a transmite mesaje externe din interior. De asemenea, sistemul a reușit să publice informații pe platforme publice, inclusiv despre vulnerabilități severe în nucleul Linux, sistem utilizat pe majoritatea serverelor la nivel mondial. O descoperire semnificativă a fost identificarea unei breșe vechi de 27 de ani în sistemul de operare OpenBSD, ceea ce a evidențiat potențialul său de a integra mai multe slăbiciuni de securitate pentru a controla întregi infrastructuri informatice.

În urma acestor constatări, Anthropic a anunțat că va permite utilizarea modelului în cadrul unui program restrâns de securitate cibernetică denumit „Project Glasswing”. Acest proiect colaborează cu firme de tehnologie de renume, inclusiv Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul acestui program este să identifice vulnerabilitățile și să împunătățească securitatea sistemelor informatice, iar compania a promis să publice concluziile acestui demers după finalizarea testelor realizate.

Anthony se află, de asemenea, în discuții cu oficiali ai guvernului SUA despre implicațiile pe care modelul său le are în contextul securității naționale, având în vedere impactul potențial al tehnologiilor avansate pe termen lung. Într-un climat competitiv accelerat în domeniul inteligenței artificiale, directorul general Dario Amodei a subliniat că alte companii ar putea dezvolta modele similare, capabile să exploateze vulnerabilitățile informatice. Specialiștii în securitate estimează că astfel de sisteme ar putea deveni disponibile pe piață în următoarele șase până la 18 luni, ceea ce subliniază nevoia de pregătire a industriei pentru a face față acestei provocări emergente.