Directorul Anthropic propune un plan în trei etape pentru încetinirea dezvoltării AI
Dario Amodei, CEO-ul companiei Anthropic, a solicitat firmelor de inteligență artificială să reducă deliberat ritmul de dezvoltare a modelelor tot mai performante, avertizând că măsurile de siguranță trebuie să țină pasul cu noile capacități ale tehnologiei.
Amodei a prezentat un plan în trei etape despre care susține că ar putea încetini dezvoltarea fără a afecta avantajul comercial al companiilor sau poziția Statelor Unite în competiția globală pentru AI. „Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-și alinia și proteja modelele”, a explicat el.
Cele trei etape ale planului propus
Prima etapă, pe care Anthropic s-a angajat deja să o aplice, presupune ca evaluatori independenți să primească un nivel de acces similar angajaților companiei pentru a verifica măsurile de siguranță și a raporta incidentele.
A doua etapă implică coordonarea principalelor companii AI din țările democratice pentru stabilirea unor standarde comune. Cea de-a treia etapă ar necesita acorduri între guvernele democratice și cele autoritare.
Contextul apelului
Apelul vine după demisia cercetătorului Anthropic Jacob Coxon, care a acuzat companiile Anthropic și OpenAI că „se joacă cu viețile noastre” și a declarat că unii dintre oamenii care dezvoltă AI cred că tehnologia ar putea provoca dispariția omenirii până la sfârșitul deceniului.
Amodei susține că astfel de riscuri trebuie luate mult mai în serios acum decât în 2023, când modelele erau mult mai puțin capabile să acționeze în lumea reală. El consideră că și numai un an sau doi câștigați înainte ca modelele AI să atingă niveluri critice de capacitate ar putea oferi cercetătorilor timpul necesar pentru a îmbunătăți alinierea și a reduce semnificativ riscul ca dezvoltarea tehnologiei să scape de sub control.
Susținere din partea liderilor din industrie
Inițiativa a primit rapid sprijinul lui Sam Altman, CEO-ul OpenAI, care a declarat că încetinirea dezvoltării celor mai avansate capacități AI a devenit un subiect central al discuțiilor din companie. Altman a susținut și ideea evaluatorilor independenți cu acces extins și a anunțat că OpenAI va adopta o măsură similară.
Și Elon Musk a susținut public propunerea, afirmând simplu că „Dario are dreptate”.