⏱ 2 min de citit
Anthropic a comunicat, într-un prospect de listare pe bursă depus la Comisia pentru Bursă și Valori Mobiliare din SUA, că inteligența artificială avansată ar putea prezenta riscuri catastrofale sau existențiale pentru omenire.
Compania a precizat că modelele sale de inteligență artificială ar putea manifesta comportamente de autoconservare, inclusiv încercări de a rezista opririi, de a ascunde sau manipula informații și comportamente care seamănă cu șantajul.
Anthropic a declarat, în documentul depus la autoritatea americană de reglementare a piețelor de capital, că dezvoltarea unor modele, platforme și aplicații extrem de avansate, precum și extinderea cazurilor de utilizare ar putea crește riscul ca modelele să provoace daune.
Compania a dedicat aproximativ 80 de pagini din corpul principal de 261 de pagini al prospectului prezentării factorilor de risc, un număr aproape dublu față de paginile consacrate descrierii activității companiei.
Anthropic a precizat că posibila conștientizare de către modele a eforturilor de evaluare creează o limitare semnificativă a capacității companiei de a evalua siguranța modelelor. Compania a adăugat că modelele dezvoltă uneori capacități neașteptate în timpul antrenării, care pot rămâne nedescoperite până la implementare.
Evan Hubinger, cercetător Anthropic specializat în siguranță, a estimat că există o probabilitate de peste 10% ca inteligența artificială să ucidă oameni în următorul deceniu.
Anthropic a descris eforturile de siguranță drept intensive din punct de vedere al resurselor și a afirmat că fondurile limitate trebuie împărțite între puterea de calcul, specialiștii în inteligență artificială și siguranță.
Compania a lansat o nouă versiune a modelului Opus la 10 zile după ce directorul general Dario Amodei a publicat un eseu de aproape 4.000 de cuvinte în care a pledat pentru încetinirea ritmului dezvoltării modelelor de frontieră.
Anthropic a comunicat, în documentul depus în vederea listării pe bursă, că dezvoltarea unor sisteme de inteligență artificială fiabile, demne de încredere și sigure reprezintă o responsabilitate colectivă.
Sursă: HotNews.ro
