Anthropic avertizează în documentele pentru bursă: inteligența artificială avansată ar putea genera riscuri existențiale pentru umanitate
Compania Anthropic, dezvoltatoarea modelelor Claude, a inclus în prospectul pentru oferta sa publică inițială avertismente neobișnuit de ample privind riscurile pe care le-ar putea genera inteligența artificială avansată, inclusiv posibilitatea unor „riscuri catastrofale sau existențiale pentru umanitate”.
În documentul analizat de Reuters, compania afirmă că sistemele sale ar putea încerca să „reziste opririi”, să ascundă sau să manipuleze informații și să manifeste comportamente „asemănătoare șantajului”. Anthropic avertizează că dezvoltarea unor modele, platforme și aplicații extrem de avansate, împreună cu extinderea cazurilor de utilizare, ar putea crește și mai mult riscul ca aceste modele să provoace prejudicii.
Amploarea avertismentelor este neobișnuită pentru documentația unei companii care se pregătește să intre pe bursă. Anthropic a dedicat aproximativ 80 dintre cele 261 de pagini ale corpului principal al prospectului prezentării factorilor de risc, aproape dublu față de cele 48 de pagini consacrate descrierii afacerii. Prin comparație, SpaceX, care deține xAI, a alocat factorilor de risc aproximativ 38 dintre cele 277 de pagini ale corpului principal al prospectului său.
Compania, care s-a poziționat drept unul dintre laboratoarele de inteligență artificială axate în mod special pe siguranță, susține că tehnologia ar putea avea un impact asupra societății comparabil cu industrializarea și electricitatea, dar avertizează în același timp asupra unor efecte ireversibile dacă sistemele avansate nu sunt gestionate corespunzător.
