Now Reading: Sam Altman și Elon Musk susțin apelul pentru încetinirea dezvoltării AI. Avertisment privind riscul unor sisteme scăpate de sub control
- 01
Sam Altman și Elon Musk susțin apelul pentru încetinirea dezvoltării AI. Avertisment privind riscul unor sisteme scăpate de sub control
Sam Altman și Elon Musk susțin apelul pentru încetinirea dezvoltării AI. Avertisment privind riscul unor sisteme scăpate de sub control
Sam Altman, directorul OpenAI, și Elon Musk au susținut public apelul lansat de Dario Amodei, șeful Anthropic, pentru încetinirea dezvoltării celor mai avansate sisteme de inteligență artificială, pe fondul îngrijorărilor tot mai mari privind riscurile pe care acestea le-ar putea genera.
Poziția comună reprezintă un rar moment de unitate între liderii unor companii rivale din industria AI, relatează The Guardian.
Dario Amodei, directorul companiei care dezvoltă modelele Claude, avertizează că evoluția prea rapidă a sistemelor AI de frontieră este „imprudentă” și că industria ar trebui să încetinească ritmul pentru a acorda mai mult timp testării și introducerii unor măsuri de siguranță.
Într-un articol publicat în weekend, Amodei a subliniat că nu propune oprirea dezvoltării inteligenței artificiale, ci un ritm mai echilibrat, care să ofere companiilor și guvernelor suficient timp pentru a înțelege și controla pericolele asociate tehnologiei.
„Cred că, dacă am câștiga măcar un an sau doi prin încetinirea dezvoltării înainte ca modelele să atingă un nivel critic al capacităților și am folosi acest timp pentru îmbunătățirea măsurilor de siguranță și alinierea lor la valorile umane, am reduce semnificativ probabilitatea unei catastrofe grave”, a scris Amodei.
Șeful Anthropic propune ca modelele AI să fie evaluate constant de experți independenți, ca industria să elaboreze reguli comune de siguranță și ca la nivel internațional să existe o coordonare mai strânsă în privința dezvoltării celor mai performante sisteme.
Amodei avertizează că sistemele AI devin tot mai capabile să contribuie singure la dezvoltarea următoarei generații de modele. În opinia sa, sisteme suficient de avansate și insuficient controlate ar putea fi folosite pentru atacuri cibernetice de amploare, cercetări biologice periculoase sau alte activități cu consecințe grave.
Anthropic a anunțat recent că a blocat utilizatori despre care spune că au încercat să folosească modelele sale pentru cercetări ce ar fi putut contribui la dezvoltarea armelor biologice.
Sam Altman a declarat că este de acord cu direcția propusă de Amodei.
„Sunt de acord cu Dario că trebuie să calibrăm ritmul dezvoltării modelelor de frontieră. Angajamentul de a oferi evaluatorilor independenți un acces similar celui acordat angajaților este o idee foarte bună și vom face același lucru”, a transmis directorul OpenAI.
Altman a mai spus că OpenAI nu intenționează să se listeze la bursă în 2026, argumentând că actualele probleme privind siguranța inteligenței artificiale fac ca acest moment să fie nepotrivit pentru o ofertă publică inițială.
Elon Musk a susținut, la rândul său, apelul șefului Anthropic, afirmând simplu: „Dario are dreptate”. Musk a amintit că avertizează de mai mulți ani asupra riscurilor generate de dezvoltarea necontrolată a inteligenței artificiale.
Și Demis Hassabis, cofondator și șef al Google DeepMind, a declarat că, deși detaliile trebuie încă stabilite, „direcția este corectă”.
Unii specialiști consideră însă că propunerile lui Amodei nu merg suficient de departe. David Krueger, expert în siguranța AI, a cerut chiar instituirea imediată a unui moratoriu internațional, pe termen nedeterminat, asupra dezvoltării sistemelor AI de frontieră.
Amodei recunoaște însă că o încetinire unilaterală ar putea slăbi poziția Statelor Unite în competiția cu China. Din acest motiv, el susține că măsurile trebuie coordonate internațional și cere inclusiv restricții mai dure asupra exportului de cipuri americane avansate către China și alte regimuri autoritare.
