Cred că nu e nevoie ca IA să aibă conștiință, adică intenții rele proprii ca să ne vatăme sau să ne facă un rău foarte mare Toate sistemele automate au erori, din câte știu. Unele funcționează mai departe în ciuda acestor erori etc. De aceea, cred că mai ales cei care au creat IA ar trebui să depășească forma animistă în care concep și promovează IA, formă ce începe cu denumirea de inteligență, acum de „superinteligență”, și altele asemenea, „conștiință”, „morală”, și să trateze IA drept ceea ce este în termenii lor tehnici în care o programează, căci și antrenamentul de care vorbesc sau alte forme de care știm sau nu știm reprezintă pesemne tot așa ceva, o programare. Să presupunem că avem un frigider înzestrat cu IA și că mâncarea din el se strică. Venim seara acasă și constatăm că temperatura de refrigerare a crescut peste nivelul obișnuit din cauza unui senzor defect, iar IA nu a detectat defecțiunea și nu a făcut ce trebuie pentru restabilirea temperaturii. Dacă, la întrebările noastre, frigiderul ar susține morțiș că temperatura a rămas aceeași, am putea ajunge să credem că a a fost neglijent sau că a lăsat intenționat mâncarea să se strice și că acum minte pentru a-și ascunde neglijența, intenția sau pentru a o pune pe seama unei defecțiuni pur mecanice, electrice etc. De aceea cred că nu IA ar trebui reglementată propriu-zis și nu acesteia îi trebuie, măcar deocamdată, o etică – producția IA trebuie reglementată și etica celor care o produc precizată. Le este lor suficientă morala noastră de toate zilele sau au nevoie de o etică, să spunem, profesională aparte? De ce nu ar putea exista pentru ei un comitet de etică internațional, de pildă? Pe de altă parte, recunosc că dacă frigiderul cu IA mi-ar spune că a crescut temperatura pentru că i s-a făcut brusc frig, aș cădea, la fel de brusc, pe gânduri și nu mi-ar mai păsa de mâncarea stricată. L-aș înțelege.