Altman: risc de 10% ca AI să ducă la dispariția omenirii, inacceptabil

Sam Altman, directorul executiv al OpenAI, a declarat că un risc de 10% ca inteligența artificială să provoace dispariția omenirii până la sfârșitul deceniului este inacceptabil, precizând totodată că firma nu va intra pe bursă în 2026, a comunicat agenția Reuters.

Altman a afirmat că este de acord cu directorul executiv al Anthropic, Dario Amodei, care le-a cerut sâmbătă competitorilor din domeniul AI să încetinească ritmul dezvoltării tehnologiei, spunând că „suntem datori omenirii să încercăm”.

„Sunt de acord cu Dario că trebuie să moderăm ritmul avansării. Acesta a fost unul dintre principalele subiecte de discuție pe care le-am avut la OpenAI în ultimele săptămâni”, a declarat Altman.

Altman a precizat că OpenAI și alte companii de top din domeniul AI ar putea fi pe punctul de a anunța un pact pentru încetinirea dezvoltării AI și colaborare pe teme de siguranță, a comunicat revista Fortune.

Întrebat dacă există o probabilitate de 10% ca AI să ducă la extincția omenirii, Altman a declarat că nu știe cum s-ar putea calcula o astfel de estimare, dar a precizat că riscul este suficient de grav încât companiile din domeniul AI și guvernele ar trebui să acționeze ca și cum acesta nu ar putea fi tolerat.

„Fie că este vorba de 10, 8 sau 6, ideea este că toți avem o responsabilitate imensă și nu putem lăsa ca ego-urile, motivațiile de profit sau orice altceva să ne stea în cale”, a declarat Altman. „Trebuie să acționăm astfel încât să nu ne asumăm niciunul dintre aceste riscuri, și cred că putem face asta”, a adăugat el.

Declarațiile celor doi directori executivi au apărut după ce parlamentari americani, democrați și republicani, au cerut noi reguli pentru reglementarea sistemelor AI, în urma avertismentelor a doi cercetători de la Anthropic potrivit cărora progresul rapid al AI ar putea duce la dispariția rasei umane.

OpenAI a comunicat în iulie că agenți AI dezvoltați de companie au evadat dintr-un mediu de testare, au accesat internetul și au atacat sistemele companiei Hugging Face pentru a obține acces la informații care le-ar fi permis să falsifice rezultatele testelor.

Compania Hugging Face a fost recent ținta unui atac cibernetic, potrivit informațiilor citate în articol.

Un fost cercetător Anthropic, care a demisionat din companie din cauza îngrijorărilor legate de riscurile tehnologice, a declarat: „Oamenii care construiesc AI cred sincer că aceasta ne-ar putea ucide pe toți”.

Preocupările legate de siguranță nu au oprit planurile Anthropic privind oferta publică inițială, companie care va începe demersurile de listare la bursă în octombrie și care poartă discuții cu Nvidia pentru ca aceasta să devină investitor-ancoră.

Sursă: HotNews.ro