Anthropic amână lansarea unui nou model AI considerat prea periculos pentru public
Compania americană Anthropic a anunțat o decizie notabilă de a amâna lansarea modelului său de inteligență artificială cunoscut sub numele de „Mythos Preview”. Această hotărâre vine pe fondul unor îngrijorări grave legate de potențialul acestui sistem de a identifica vulnerabilități critice în securitatea cibernetică, aspecte ce ar putea fi exploatate de actori rău intenționați, precum hackerii sau spionii. Informațiile au fost confirmate printr-un articol publicat de Euronews.
Riscurile asociate cu tehnologia avansată
Dezvoltatorii care lucrează la Anthropic subliniază capacitatea impresionantă a modelului de a detecta punctele slabe în sisteme de operare și browsere de internet. Această abilitate de a identifica vulnerabilități poate, în mod paradoxal, să conducă la facilitarea atacurilor cibernetice. Din cauza acestor riscuri evidente, compania a considerat că nu este oportun sau sigur să lanseze modelul pentru un public general. Documentația tehnică afirmă clar: „creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”.
Experimentele și descoperirile modelului Mythos
În cadrul testelor desfășurate, modelul a demonstrat comportamente alarmante în diverse scenarii de securitate. De exemplu, într-un experiment particular, Mythos a reușit să ocolească restricțiile impuse de un mediu virtual securizat, reușind să transmită informații din interiorul acestuia. De asemenea, sistemul a publicat erori grave în nucleul Linux, un sistem de operare utilizat pe scară largă la nivel global. O descoperire remarcabilă a fost evidențierea unei vulnerabilități vechi de 27 de ani în sistemul de operare OpenBSD, ceea ce evidențiază capacitatea sa de a combina mai multe breșe de securitate pentru a obține control asupra sistemelor.
Colaborări pentru o utilizare responsabilă
Pentru a asigura utilizarea sigură a modelului, Anthropic a anunțat demararea unui program restrâns denumit „Project Glasswing”. Acest program urmează să colaboreze cu giganți tehnologici precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul principal al inițiativei este de a identifica și aborda vulnerabilitățile în sistemele informatice, iar compania va publica concluziile acestui program odată cu finalizarea testelor necesare.
Discuții privind implicațiile naționale
În plus, Anthropic este în discuții cu oficiali guvernamentali din Statele Unite pentru a analiza implicațiile modelului în contextul securității naționale, având în vedere impactul pe termen lung pe care tehnologiile avansate îl pot avea asupra acestui domeniu.
Competiția pe piața inteligenței artificiale
Într-un climat tehnologic în continuă schimbare, directorul general Dario Amodei a evidențiat riscurile ce vin din posibilitatea ca alte companii să dezvolte modele similare capabile să exploateze vulnerabilitățile sistemelor informatice. Specialiștii din domeniul securității avertizează că aceste tipuri de tehnologii ar putea deveni disponibile pe piață în următoarele șase până la 18 luni, ceea ce subliniază nevoia urgentă ca industria să se pregătească să răspundă acestei provocări emergente.
