Umanitatea trebuie „să se trezească” urgent în faţa riscurilor potenţial catastrofale generate de inteligenţa artificială avansată, avertizează Dario Amodei, CEO-ul companiei Anthropic şi una dintre figurile centrale care împing limitele acestei tehnologii revoluţionare. Într-un eseu amplu de aproape 20.000 de cuvinte, publicat luni, Amodei descrie un viitor sumbru care s-ar putea materializa dacă dezvoltarea inteligenţei[...]

Umanitatea trebuie „să se trezească” urgent în faţa riscurilor potenţial catastrofale generate de inteligenţa artificială avansată, avertizează Dario Amodei, CEO-ul companiei Anthropic şi una dintre figurile centrale care împing limitele acestei tehnologii revoluţionare.

Într-un eseu amplu de aproape 20.000 de cuvinte, publicat luni, Amodei descrie un viitor sumbru care s-ar putea materializa dacă dezvoltarea inteligenţei artificiale continuă fără frâne şi fără mecanisme serioase de control. Printre pericolele invocate se numără pierderi masive de locuri de muncă, destabilizarea societăţii globale şi chiar ameninţări existenţiale precum bioterorismul.

„Omenirea este pe punctul de a primi o putere aproape de neimaginat şi este profund neclar dacă sistemele noastre sociale, politice şi tehnologice au maturitatea necesară pentru a o gestiona”, scrie Amodei.

Eseul reprezintă unul dintre cele mai dure semnale de alarmă venite chiar din interiorul industriei AI, sugerând că măsurile actuale de siguranţă sunt complet insuficiente în raport cu ritmul accelerat al progresului tehnologic.

Amodei vorbeşte despre apariţia iminentă a ceea ce el numeşte „AI puternic”, sisteme care ar deveni mult mai capabile decât orice laureat Nobel, om de stat sau expert tehnologic. Potrivit acestuia, astfel de tehnologii ar putea deveni realitate în doar câţiva ani.

Printre cele mai îngrijorătoare scenarii se află posibilitatea ca indivizi obişnuiţi să dobândească, cu ajutorul AI, capacitatea de a crea arme biologice capabile să ucidă milioane de oameni sau, „în cel mai rău caz, să ducă la dispariţia întregii vieţi de pe Pământ”.

„Un individ instabil, care astăzi poate comite un atac armat într-o şcoală, dar nu ar putea construi o armă nucleară sau declanşa o epidemie, va fi ridicat la nivelul de competenţă al unui virolog cu doctorat”, avertizează Amodei.

În plus, el ridică şi spectrul unei inteligenţe artificiale care scapă de sub control, ajungând să domine omenirea, sau care ar putea fi folosită de regimuri autoritare şi alţi actori periculoşi pentru a instaura o dictatură totalitară globală.

Mesajul este clar şi neliniştitor: fără reguli stricte şi o responsabilitate colectivă reală, inteligenţa artificială riscă să devină cea mai mare ameninţare creată vreodată de om.