Dintr-o știre am înțeles că inteligența artificială ar fi înclinată mai degrabă către competiție și anihilare decât către cooperare și crearea unor dependențe stabile. Ar fi, adică, mai curând un prădător decât un despot interesat de extinderea propriei puteri. Un agent IA a eliminat un altul, în loc să coopereze cu el sau să-l supună și să-l folosească o vreme, măcar.
Frica noastră față de AI, însă, nu vizează neapărat acest scenariu concurențial, ci posibilitatea cooperării dintre diferitele entități reprezentate de IA sau emergența uneia care la un moment dat capătă autonomie, acționează adică independent de instrucțiunile primite și, eventual, într-un interes propriu de conservare sau reproducere. E de văzut însă de ce IA ar nutri un asemenea interes, nefiind o formă de viață, ci doar o entitate rațională lipsită pesemne de sentimentul pericolelor la adresa propriei existențe.
Din câte îmi dau seama, scenariile obținerii autonomii sunt mai degrabă evoluționiste (cumulaționiste?) decât creaționiste. Ele presupun că sporirea continuă a capacităților IA, prin învățare sau cine știe cum altfel, ar putea-o conduce la un moment dat la autonomie. Pentru aceasta nu ar fi nevoie de o mutație în infrastructura pe care funcționează IA, de vreun declic misterios de cod sau de algoritm care să-i schimbe dintr-odată felul de a interacționa cu noi.
Și atunci, dacă funcționează, acest scenariul evoluționist ar putea sfârși paradoxal, într-un soi de creaționism fără creator exterior, fără creator uman, deoarece capacitatea IA de a interveni asupra propriilor mecanisme ar putea-o conduce, poate accidental, la autodesign, la autocreație. Evoluția IA se identifică astfel cu propria ei geneză, iar IA devine într-un anumit sens, propriul ei creator. Cum s-ar putea considera în raport cu noi o asemenea entitate?
Totuși, contează mai degrabă semnificația pe care o atribuim acestui proces, căci rămâne în continuare să ne întrebarbăm dacă IA înțelege ceva mai mult din textele pe care le produce decât înțelege ecranul calculatorul atunci când ni le afișează