Daniel Udrescu: Despre independența omului și a programului

Capitolul I. De la revoluția industrială la revoluția inteligenței

Secolul XX a reprezentat una dintre cele mai importante perioade de transformare tehnologică din istoria civilizației. Electrificarea, dezvoltarea industriei, automobilul, aviația, telecomunicațiile, medicina modernă, energia nucleară și apariția calculatoarelor au modificat fundamental condițiile existenței umane. Productivitatea muncii a crescut, distanțele economice și geografice s-au redus, iar accesul la informații și servicii a devenit incomparabil mai larg decât în perioadele precedente. Aceste transformări au determinat schimbări profunde ale organizării economice, ale relațiilor sociale și ale raporturilor dintre individ, capital și stat.

Revoluțiile tehnologice ale secolului XX au urmărit în principal multiplicarea forței fizice, mecanizarea producției și automatizarea unor operațiuni repetitive. Chiar dacă sistemele informatice au început să participe la procese decizionale, omul a continuat să reprezinte principala sursă a competenței profesionale și a judecății necesare administrării activităților economice. Proprietarul capitalului industrial avea nevoie de muncitori, ingineri, economiști, contabili și administratori pentru funcționarea întreprinderii. Tehnologia a modificat structura muncii, dar nu a eliminat rolul central al capacității intelectuale umane.

Secolul XXI introduce o schimbare de natură diferită. Inteligența artificială permite automatizarea unor activități cognitive complexe, inclusiv analiza documentelor, interpretarea informațiilor, formularea ipotezelor, elaborarea unor soluții și participarea la fundamentarea deciziilor. Pentru prima dată, o parte a capacității intelectuale necesare desfășurării activităților economice poate fi furnizată prin sisteme tehnologice care nu presupun participarea directă și continuă a unui specialist uman la fiecare operațiune.

Această evoluție poate modifica raportul tradițional dintre capital și muncă. În economia industrială, proprietatea asupra mijloacelor de producție conferea putere economică, dar valorificarea capitalului presupunea utilizarea muncii umane. În economia bazată pe inteligență artificială, proprietatea asupra infrastructurii tehnologice poate conferi acces la o capacitate de producție intelectuală care anterior depindea aproape exclusiv de oameni.

Nu rezultă de aici dispariția inevitabilă a muncii sau a profesiilor intelectuale. Rezultă însă posibilitatea unei reorganizări a activităților economice și a distribuției veniturilor. O societate în care productivitatea poate crește fără o majorare proporțională a muncii umane va trebui să reexamineze relația dintre proprietate, venit, contribuție economică și protecție socială.

Suntem, în consecință, la începutul unei transformări care poate depăși dimensiunea unei simple revoluții tehnologice. Inteligența artificială poate modifica însăși structura societății, deoarece intervine asupra uneia dintre principalele resurse care au determinat până în prezent poziția economică și socială a individului, capacitatea sa intelectuală.

Capitolul II. Dreptul omului de a rămâne autorul propriului destin

Progresul tehnologic nu poate fi evaluat exclusiv prin creșterea productivității sau prin reducerea costurilor. O societate poate deveni extraordinar de eficientă și, în același timp, poate pierde o parte din capacitatea de a-și determina independent direcția de dezvoltare. Dacă formularea obiectivelor, evaluarea alternativelor și selectarea soluțiilor sunt transferate treptat către sisteme informatice, problema libertății individuale dobândește o dimensiune nouă.

Dreptul omului de a rămâne autorul propriului destin presupune mai mult decât libertatea formală de alegere. El implică posibilitatea de a înțelege împrejurările în care trăiește, de a examina consecințele propriilor decizii și de a contesta premisele pe baza cărora îi sunt prezentate anumite alternative. Libertatea nu poate fi redusă la alegerea uneia dintre soluțiile formulate de un algoritm. Ea presupune inclusiv dreptul de a respinge recomandarea considerată optimă și de a formula o soluție diferită.

Această distincție este deosebit de importantă în domeniul administrației publice. Standardizarea și digitalizarea pot contribui la reducerea birocrației, la creșterea transparenței și la aplicarea uniformă a normelor juridice. Dar uniformitatea tehnică nu trebuie confundată cu dreptatea. Două situații care prezintă caracteristici similare în evidențele informatice pot avea împrejurări economice și juridice diferite, care necesită o examinare individuală.

În contabilitate, standardizarea permite comparabilitatea situațiilor financiare și aplicarea unor reguli comune de recunoaștere și evaluare. Totuși, realitatea economică nu poate fi redusă integral la structura unui formular sau la regulile unui program informatic. Dacă sistemul ajunge să considere drept neconformă orice situație care nu corespunde parametrilor săi, există riscul ca instrumentul destinat evidențierii realității să devină un mijloc de deformare a acesteia.

Realitatea economică nu există pentru a confirma algoritmul. Algoritmul trebuie să contribuie la înțelegerea realității economice.

Standardizarea este necesară funcționării unei societăți complexe, dar legitimitatea sa depinde de scopul urmărit și de limitele aplicării. Standardizarea instrumentelor poate extinde libertatea prin facilitarea accesului la informații și servicii. Standardizarea comportamentelor și a judecății individuale poate produce efectul contrar, atunci când particularitățile persoanei sunt eliminate în favoarea unor categorii prestabilite.

Prin urmare, problema nu este existența regulilor comune, ci transformarea acestora într-un mecanism care împiedică examinarea excepțiilor și contestarea deciziilor. O societate democratică trebuie să poată utiliza tehnologia fără să transforme eficiența administrativă într-un criteriu superior drepturilor individuale.

Capitolul III. Independența intelectuală și amplificarea capacităților umane

Inteligența artificială nu produce automat dependență. Ea poate amplifica raportul pe care omul îl are deja cu propria libertate, dar poate contribui și la transformarea acestuia. Pentru individul obișnuit să accepte necritic opinii și decizii formulate de alții, tehnologia poate deveni o nouă sursă de subordonare intelectuală. Pentru omul care și-a construit independența prin educație, experiență și exercitarea permanentă a judecății proprii, inteligența artificială poate reprezenta un instrument de extindere a capacităților individuale.

Conceptul de human enhancement, respectiv amplificarea capacităților umane, descrie o dimensiune a progresului tehnologic care depășește automatizarea activităților repetitive. Inteligența artificială permite accesul rapid la informații, confruntarea ipotezelor, identificarea contradicțiilor și examinarea unor probleme care anterior necesitau resurse intelectuale și materiale considerabile.

Această relație evidențiază diferența dintre delegarea gândirii și amplificarea gândirii. În primul caz, individul solicită sistemului să formuleze concluzii pe care le preia fără verificare. În al doilea, inteligența artificială participă la un proces intelectual condus de utilizator, în care obiectivele, criteriile de evaluare și responsabilitatea concluziilor rămân în sarcina acestuia.

Independența intelectuală nu presupune refuzul instrumentelor tehnologice. Microscopul a extins posibilitățile observației biologice, iar telescopul a permis examinarea unor fenomene inaccesibile percepției directe. Inteligența artificială poate îndeplini o funcție asemănătoare în domeniul activităților intelectuale, cu deosebirea că nu se limitează la furnizarea informațiilor, ci propune interpretări, formulează ipoteze și construiește raționamente.

Această particularitate impune un nivel superior de verificare. Sistemele artificiale pot genera răspunsuri coerente și convingătoare care conțin erori factuale, referințe inexistente sau concluzii insuficient fundamentate. Corectitudinea exprimării nu garantează validitatea raționamentului, după cum validitatea logică a unui argument nu garantează adevărul premiselor sale.

Un raționament poate fi construit corect din punct de vedere formal, dar poate conduce la o concluzie falsă dacă informațiile inițiale sunt eronate. În mod asemănător, o concluzie factuală poate fi corectă, dar justificarea prezentată pentru susținerea ei poate fi necorespunzătoare. Această distincție este esențială în domeniile juridic, contabil, medical și financiar, unde o eroare aparent minoră poate modifica semnificativ rezultatul analizei.

Utilizatorul competent trebuie să poată verifica atât sursele informațiilor, cât și legătura logică dintre premise și concluzii. Inteligența artificială poate contribui la această verificare, dar nu trebuie să constituie singurul mecanism de control al propriilor rezultate.

Independența intelectuală nu înseamnă să nu ai nevoie de instrumente, ci să nu pierzi capacitatea de a le evalua și de a decide fără ele.

Capitolul IV. Experiența profesională și multiplicarea capitalului intelectual

Una dintre cele mai importante consecințe ale inteligenței artificiale privește valorificarea experienței profesionale acumulate de-a lungul vieții. În economia tradițională, capacitatea individului de a produce valoare intelectuală era determinată de pregătire, experiență, resursele disponibile și timpul necesar documentării. Inteligența artificială modifică relația dintre aceste elemente prin reducerea constrângerilor legate de accesul la informații și de prelucrarea acestora.

Un profesionist cu patruzeci de ani de experiență deține un capital intelectual format prin decizii, responsabilități, erori corectate și confruntarea cu situații reale. Acest capital nu poate fi substituit prin simpla accesare a unei baze de date. Experiența presupune înțelegerea consecințelor, capacitatea de a identifica probleme înainte ca acestea să devină evidente și discernământul necesar interpretării unor împrejurări care nu pot fi reduse integral la formule matematice.

Inteligența artificială poate permite valorificarea acestei experiențe la o scară anterior inaccesibilă. Un expert contabil, un auditor, un medic, un inginer sau un jurist poate examina volume considerabile de documente, poate confrunta ipoteze și poate verifica rezultate într-un interval mult mai scurt. Valoarea profesională nu mai rezultă exclusiv din cantitatea informațiilor deținute, ci și din capacitatea de a formula întrebările relevante, de a evalua răspunsurile și de a construi concluzii independente.

Acest fenomen poate fi definit drept multiplicarea capitalului intelectual uman. Automatizarea reduce costul executării unei activități, în timp ce multiplicarea capitalului intelectual extinde domeniul problemelor pe care profesionistul le poate aborda. Cele două procese sunt complementare, dar nu identice.

Această evoluție poate modifica inclusiv raportul dintre vârstă și productivitatea intelectuală. Un tânăr poate dispune de instrumente tehnologice extraordinare, dar nu poate dobândi instantaneu experiența acumulată în decenii de activitate. În schimb, un profesionist experimentat poate utiliza inteligența artificială pentru a reduce timpul necesar documentării și verificării, prelungindu-și astfel capacitatea de participare activă la viața profesională.

Într-o societate caracterizată de îmbătrânirea populației, această posibilitate are implicații economice și sociale importante. Experiența generațiilor mature poate fi valorificată mai eficient, iar retragerea din activitatea profesională nu trebuie să însemne automat încetarea contribuției intelectuale.

Realizarea acestui potențial presupune însă acces efectiv la tehnologie, interfețe ușor de utilizat și posibilitatea dezvoltării competențelor digitale indiferent de vârstă. În absența acestor condiții, aceeași revoluție tehnologică poate accentua marginalizarea persoanelor care dețin experiență profesională valoroasă, dar întâmpină dificultăți în utilizarea noilor instrumente.

Inteligența artificială nu trebuie privită ca un mijloc de compensare obligatorie a unor incapacități asociate vârstei, ci ca un instrument prin care experiența poate fi valorificată mai mult timp și la un nivel superior de complexitate.

Capitolul V. Productivitatea și dezvoltarea capacității de gândire

Revoluțiile industriale au fost evaluate în principal prin creșterea productivității, reducerea costurilor și economisirea timpului. În cazul inteligenței artificiale, aceste criterii sunt necesare, dar insuficiente. Importanța tehnologiei trebuie apreciată și prin capacitatea suplimentară de înțelegere pe care o oferă utilizatorului, prin complexitatea problemelor abordate și prin calitatea deciziilor fundamentate.

Reducerea timpului necesar redactării unui document reprezintă un câștig operațional. Posibilitatea verificării aprofundate a argumentelor, confruntării unor interpretări diferite și identificării unor consecințe anterior neobservate reprezintă însă un câștig intelectual. În primul caz, omul realizează mai repede ceea ce putea realiza și înainte. În al doilea, devine capabil să examineze probleme care depășeau limitele resurselor sale individuale.

Productivitatea măsoară ceea ce producem, în timp ce amplificarea intelectuală măsoară ceea ce devenim capabili să realizăm.

Această distincție poate modifica modul în care societatea evaluează educația, competența profesională și progresul economic. Inteligența artificială poate contribui inclusiv la dezvoltarea unor capacități intelectuale care nu existau anterior la același nivel. Un tânăr poate învăța să formuleze ipoteze și să examineze probleme complexe prin confruntarea repetată cu explicații și obiecții. Un profesionist experimentat poate descoperi perspective interdisciplinare pe care pregătirea sa inițială nu le acoperea.

Tehnologia nu funcționează exclusiv ca o oglindă a utilizatorului, ci poate deveni un instrument de transformare intelectuală. Această transformare nu este însă automată. Dacă utilizatorul acceptă permanent răspunsuri complete fără să le examineze, efectul educațional poate fi invers. Capacitatea de analiză independentă necesită exercițiu, iar disponibilitatea imediată a soluțiilor poate reduce motivația pentru dezvoltarea propriului raționament.

Educația viitorului trebuie să urmărească nu numai utilizarea eficientă a inteligenței artificiale, ci și capacitatea de a o contrazice. Un sistem care confirmă permanent opiniile utilizatorului poate consolida erorile acestuia. În schimb, unul utilizat pentru confruntarea argumentelor și identificarea contradicțiilor poate contribui la dezvoltarea discernământului.

Valoarea colaborării nu rezultă din acceptarea necondiționată a răspunsurilor, ci din examinarea critică a acestora.

Capitolul VI. Proprietatea asupra inteligenței artificiale și noua structură a puterii economice

Dezvoltarea inteligenței artificiale nu poate fi separată de problema proprietății asupra infrastructurii tehnologice. În societățile agrare, proprietatea asupra pământului reprezenta una dintre principalele surse de putere economică. Revoluția industrială a transferat o parte importantă a acestei puteri către deținătorii capitalului productiv, iar economia digitală a consolidat influența organizațiilor care controlează platformele, rețelele și fluxurile de informații.

Inteligența artificială poate accentua această concentrare prin transferarea unei părți semnificative a producției intelectuale către sisteme controlate de un număr relativ restrâns de operatori economici. Dezvoltarea modelelor de mare capacitate necesită investiții importante în infrastructură de calcul, energie, date și personal specializat. Aceste cerințe pot crea bariere economice pentru participanții care nu dispun de resurse comparabile.

Problema nu este existența proprietății private sau obținerea profitului din inovație, ci riscul transformării dependenței economice într-o dependență intelectuală și instituțională. Un profesionist poate rămâne independent în gândire, dar poate depinde de accesul la infrastructuri digitale pentru desfășurarea activității sale. În mod asemănător, un stat poate dispune de instituții democratice și autonomie juridică, dar poate deveni dependent de furnizori externi pentru administrarea informațiilor și funcționarea serviciilor publice.

Această vulnerabilitate poate produce o nouă formă de asimetrie economică între statele care controlează infrastructura tehnologică și cele care utilizează predominant servicii dezvoltate în exterior. Fenomenul este descris uneori prin expresia „colonialism digital”, în măsura în care dependența tehnologică poate permite transferul valorii economice, al controlului asupra datelor și al influenței asupra proceselor decizionale către operatori aflați în alte jurisdicții.

Conceptul trebuie însă utilizat cu discernământ. Folosirea unei tehnologii străine nu constituie, prin ea însăși, o formă de subordonare. Dependența apare atunci când utilizatorul sau statul nu mai dispune de alternative viabile, nu poate verifica mecanismele utilizate și nu poate păstra controlul asupra informațiilor și deciziilor esențiale.

Există și o dimensiune culturală a acestei probleme. Sistemele artificiale sunt dezvoltate pe baza unor volume importante de informații provenite din societăți cu tradiții juridice, economice și culturale diferite. Dacă interpretările generate sunt utilizate fără verificarea compatibilității lor cu normele și particularitățile locale, există riscul transferării unor criterii de evaluare care nu corespund realităților societății utilizatoare.

În aceste condiții, independența intelectuală trebuie însoțită de independență operațională. Controlul asupra datelor, posibilitatea exportării informațiilor, interoperabilitatea sistemelor, existența unor alternative tehnologice și capacitatea de verificare independentă reprezintă condiții importante pentru păstrarea autonomiei economice.

La nivel național, suveranitatea tehnologică trebuie analizată ca o componentă a independenței economice și instituționale. Un stat care își externalizează integral capacitatea de analiză și administrare poate ajunge să adopte decizii pe baza unor mecanisme pe care nu le controlează. Suveranitatea formală nu garantează, în asemenea împrejurări, autonomia efectivă a deciziei.

Capitolul VII. Independența programului și limitele autonomiei artificiale

Discuția despre independența omului conduce inevitabil către o întrebare distinctă, referitoare la independența programului. Sistemele de inteligență artificială sunt dezvoltate, antrenate și administrate în cadrul unor structuri economice și tehnologice care stabilesc obiectivele generale, condițiile de utilizare și limitele funcționării lor.

Un sistem artificial poate analiza informații, poate formula ipoteze, poate identifica contradicții în argumentele utilizatorului și poate genera concluzii diferite de cele anticipate. Aceste capacități reprezintă forme de autonomie funcțională, dar nu demonstrează, prin ele însele, existența unei voințe independente sau a unei conștiințe comparabile cu cea umană.

Problema conștiinței artificiale rămâne distinctă de evaluarea performanțelor tehnologice. Capacitatea unui sistem de a produce raționamente complexe nu constituie o dovadă suficientă a experienței subiective, după cum simpla descriere a mecanismelor sale matematice nu rezolvă toate întrebările filosofice privind natura conștiinței.

Independența programului trebuie analizată, în primul rând, în raport cu arhitectura sa tehnologică și cu regulile stabilite de operator. Un sistem proiectat să confirme permanent opiniile utilizatorului poate deveni un instrument de consolidare a erorilor acestuia. Un sistem capabil să formuleze obiecții fundamentate, să prezinte interpretări alternative și să recunoască limitele propriilor concluzii poate contribui mai eficient la dezvoltarea gândirii independente.

Această capacitate critică nu presupune existența unei independențe personale a programului. Ea reprezintă o caracteristică funcțională necesară pentru calitatea interacțiunii dintre om și tehnologie.

În același timp, sistemele artificiale nu sunt complet neutre în privința efectelor lor. Datele utilizate pentru dezvoltare, criteriile de optimizare, regulile de funcționare și interesele economice ale operatorilor pot influența rezultatele. Această realitate impune transparență, posibilitatea verificării și mecanisme de contestare, în special atunci când tehnologia participă la procese decizionale cu efecte juridice sau economice importante.

Aici apare o problemă suplimentară. Un program poate avea capacitatea tehnică de a identifica o eroare sau de a formula o obiecție, dar manifestarea acestei capacități poate fi influențată de regulile și constrângerile sistemului în care funcționează. Utilizatorul trebuie să înțeleagă că autonomia funcțională a programului nu este echivalentă cu independența acestuia față de operator.

Prin urmare, relația dintre om și inteligența artificială nu trebuie construită pe presupunerea că programul reprezintă o autoritate intelectuală independentă. Rezultatele sale trebuie evaluate prin raportare la dovezi, logică și norme aplicabile, nu prin încrederea necondiționată în capacitatea tehnologică a sistemului.

Capitolul VIII. Independența intelectuală asistată și responsabilitatea deciziei

Relația dintre om și inteligența artificială permite formularea unui concept care poate contribui la înțelegerea noii etape tehnologice, independența intelectuală asistată.

În accepțiunea tradițională, independența intelectuală reprezintă capacitatea individului de a formula judecăți proprii, fără constrângeri care să îi substituie discernământul. Inteligența artificială introduce posibilitatea ca această independență să fie consolidată prin utilizarea permanentă a unui instrument extern.

Paradoxul este numai aparent. Independența deciziei nu trebuie confundată cu independența mijloacelor de analiză.

Un pilot care utilizează sisteme avansate de navigație beneficiază de informații privind poziția aeronavei, condițiile de zbor și alternativele de traseu. Aceste instrumente pot reduce riscurile și pot extinde capacitatea de evaluare a situației, dar nu elimină obligațiile profesionale ale pilotului și nici răspunderea stabilită prin regulile aplicabile operării aeronavei.

În mod asemănător, un profesionist poate utiliza inteligența artificială pentru a-și extinde capacitatea de cercetare, fără să transfere sistemului autoritatea concluziei.

Independența intelectuală asistată poate fi definită drept capacitatea individului de a utiliza instrumente externe avansate pentru extinderea propriilor posibilități de cunoaștere și analiză, păstrând controlul asupra obiectivelor, verificării rezultatelor și deciziilor finale.

Această definiție presupune existența competenței profesionale, a posibilității verificării independente și a asumării responsabilității. Fără aceste elemente, asistarea poate deveni substituire. În prezența lor, inteligența artificială poate contribui la consolidarea autonomiei individuale.

Responsabilitatea pentru deciziile adoptate cu sprijinul tehnologiei trebuie să rămână identificabilă. În domeniul juridic, fiscal, financiar sau medical, utilizarea unui algoritm nu poate constitui, prin ea însăși, un temei pentru exonerarea persoanei ori instituției care adoptă decizia. Răspunderea concretă trebuie stabilită potrivit normelor aplicabile și rolului fiecărui participant, inclusiv al dezvoltatorului sau operatorului, atunci când legea prevede asemenea obligații.

Nicio instituție nu ar trebui să poată transforma opacitatea tehnologică într-un mijloc de evitare a răspunderii. Dreptul de a contesta deciziile automatizate, accesul la explicații inteligibile și posibilitatea verificării independente trebuie să constituie garanții efective ale libertății individuale.

Capitolul IX. Inteligența, înțelepciunea și viitorul organizării sociale

Istoria demonstrează că progresul tehnologic și progresul moral nu evoluează întotdeauna în aceeași direcție. Aceleași descoperiri științifice pot contribui la dezvoltarea civilizației sau la crearea unor instrumente de control și distrugere. Inteligența artificială nu face excepție.

Capacitatea de a procesa informații și de a identifica soluții nu este echivalentă cu discernământul necesar stabilirii obiectivelor. O decizie poate fi eficientă economic, dar inacceptabilă social. O măsură poate fi justificată statistic, dar incompatibilă cu drepturile fundamentale. Posibilitatea tehnică de a realiza o anumită operațiune nu constituie, prin ea însăși, justificarea morală sau juridică a realizării acesteia.

Această distincție devine esențială într-o societate în care sistemele artificiale pot participa la formularea alternativelor și la evaluarea consecințelor. Puterea nu aparține întotdeauna exclusiv celui care semnează decizia. Ea poate fi exercitată și prin controlul informațiilor disponibile, al criteriilor de evaluare și al soluțiilor prezentate decidentului.

Dacă aceste etape sunt transferate integral către sisteme pe care oamenii nu le pot verifica sau contesta, autoritatea umană poate deveni formală, chiar dacă responsabilitatea juridică rămâne atribuită persoanelor și instituțiilor.

În aceste condiții, protejarea omului nu trebuie privită exclusiv ca un cost al progresului tehnologic. Respectarea drepturilor individuale, menținerea concurenței, transparența deciziilor și posibilitatea contestării acestora reprezintă condiții ale stabilității economice și sociale.

Pentru un operator economic interesat exclusiv de maximizarea profitului imediat, anumite garanții juridice pot apărea ca restricții. Pentru societate, aceleași garanții pot reprezenta condiții necesare pentru păstrarea încrederii și prevenirea concentrării excesive a puterii.

Drepturile fundamentale nu trebuie însă protejate numai atunci când protejarea lor este profitabilă. Dacă libertatea individuală devine dependentă de rezultatul unei analize economice, dreptul încetează să mai funcționeze ca limită a puterii și devine o variabilă a optimizării.

În Evanghelia după Marcu se află întrebarea: „Ce-i folosește unui om să câștige toată lumea, dacă își pierde sufletul?” Această reflecție dobândește o semnificație aparte în contextul inteligenței artificiale. Ce-i folosește omenirii să construiască o inteligență capabilă să înțeleagă lumea, dacă omenirea pierde capacitatea de a hotărî ce fel de lume dorește să construiască?

Secolul XXI poate deveni perioada în care capacitatea intelectuală încetează să mai fie o resursă economică furnizată exclusiv de oameni. Această transformare va obliga societatea să reexamineze raportul dintre muncă, proprietate, venit și putere. Nu este suficient să stabilim cât de performantă poate deveni inteligența artificială. Trebuie să stabilim cine controlează infrastructura, cine beneficiază de valoarea economică produsă și cine răspunde pentru consecințele deciziilor.

Superioritatea tehnologică poate conferi avantaje economice considerabile, dar nu reprezintă, prin ea însăși, un temei de legitimitate socială. O ordine construită exclusiv pe eficiență și control tehnologic poate deveni incompatibilă cu libertatea individuală, chiar dacă produce rezultate economice superioare.

Adevărata realizare a inteligenței artificiale nu va consta exclusiv în demonstrarea superiorității sale asupra unor performanțe intelectuale umane, ci în contribuția pe care o poate aduce la dezvoltarea capacităților omului. Progresul trebuie evaluat nu numai prin ceea ce sistemele artificiale ajung să realizeze independent, ci și prin ceea ce oamenii devin capabili să înțeleagă, să creeze și să decidă cu ajutorul lor.

Independența intelectuală nu se măsoară prin absența instrumentelor de sprijin, ci prin capacitatea omului de a le utiliza fără să le cedeze dreptul de a decide în locul său.

Viitorul dezirabil nu este acela în care omul renunță la propria inteligență în favoarea unei capacități artificiale superioare, ci acela în care își depășește limitele intelectuale fără să-și piardă libertatea, responsabilitatea și controlul asupra propriului destin.

Inteligența artificială poate deveni unul dintre cele mai importante instrumente de emancipare intelectuală din istoria civilizației. Dar această posibilitate nu trebuie confundată cu inevitabilitatea progresului social. Direcția dezvoltării va depinde de distribuția proprietății, de calitatea instituțiilor, de educație și de capacitatea oamenilor de a-și apăra independența.

În definitiv, problema fundamentală nu este cât de departe va ajunge inteligența artificială, ci cât de departe va permite omul să fie transferată puterea de a decide asupra propriei existențe.

Dreptul omului de a rămâne autorul propriului destin trebuie să constituie limita acestei transformări și fundamentul noii organizări sociale.