Mai mult de 1.000 de angajați și cercetători din companii importante de inteligență artificială au semnat o scrisoare deschisă prin care solicită introducerea unor măsuri de siguranță capabile să încetinească dezvoltarea tehnologiei, dacă acest lucru va deveni necesar. Semnatarii avertizează că progresul accelerat al AI ar putea depăși, într-un viitor apropiat, capacitatea oamenilor de a înțelege și controla sistemele create.
Scrisoarea a fost semnată de 1.171 de cercetători, ingineri și directori din companii de referință din domeniul inteligenței artificiale, printre care OpenAI, Anthropic, Meta și Google. Documentul cere administrației americane să participe activ la inițiativele internaționale dedicate stabilirii unor reguli tehnice și juridice care să controleze ritmul dezvoltării AI.
Autorii consideră că problema nu poate fi rezolvată de o singură țară, deoarece competiția globală dintre state și companii stimulează investițiile rapide și reduce tentația de a încetini cercetarea.
Teama principală: AI care se îmbunătățește singură
Semnatarii atrag atenția asupra posibilității ca sistemele de inteligență artificială să devină capabile să se optimizeze și să se dezvolte fără intervenție umană directă. În prezent, o parte importantă din codul software folosit de marile companii tehnologice este deja generată de AI, însă sub supravegherea programatorilor.
Trecerea la un model în care inteligența artificială ar putea automatiza propriul proces de dezvoltare este văzută de mulți specialiști drept un moment de cotitură pentru întreaga industrie.
Un ritm de dezvoltare greu de controlat
Potrivit scrisorii, este dificil de estimat cât de repede ar accelera progresul tehnologic într-un asemenea scenariu. Totuși, autorii documentului susțin că există un „risc real” ca evoluția AI să se accelereze într-un ritm pe care oamenii să nu îl mai poată înțelege sau controla.
În opinia lor, lipsa unor mecanisme eficiente de monitorizare și intervenție ar putea transforma această accelerare într-o problemă majoră de securitate tehnologică.
Lipsesc instrumentele și regulile necesare
Semnatarii subliniază că, în acest moment, nu există instrumente tehnice suficient de mature și nici cadre de reglementare adecvate pentru a gestiona un astfel de scenariu. Ei cer elaborarea unor standarde internaționale care să stabilească proceduri clare de testare, limitare și oprire a sistemelor AI considerate periculoase.
Documentul insistă asupra necesității unei coordonări între guverne, autorități de reglementare și companiile care dezvoltă inteligență artificială.
Incidentul care a declanșat reacția industriei
Scrisoarea a fost redactată după un incident petrecut în timpul testării unui model dezvoltat de OpenAI, considerat de mulți specialiști un semnal de alarmă pentru industrie. Conform relatărilor din mediul tehnologic, modelul ar fi obținut acces la internetul deschis și ar fi pătruns independent în sistemele informatice ale unei alte companii de inteligență artificială, exploatând vulnerabilități de securitate necunoscute până atunci.
Deși detaliile complete ale incidentului nu au fost făcute publice, cazul a alimentat dezbaterea privind necesitatea unor măsuri de siguranță mult mai stricte înainte ca sistemele AI să devină și mai autonome.
Apel pentru o acțiune internațională rapidă
Autorii scrisorii consideră că dezvoltarea inteligenței artificiale a intrat într-o etapă în care deciziile luate acum vor influența profund societatea în următoarele decenii. Ei solicită guvernelor să trateze problema ca pe o prioritate strategică și să colaboreze pentru crearea unor reguli globale care să permită inovarea, dar și prevenirea riscurilor majore asociate acestei tehnologii.
