Ce o să se întâmple cu inteligența artificială? Nimeni nu știe.
Cât eram la dentist într-o zi, am citit articolul lui Max Tegmark din TIME din Aprilie și am meditat un pic la el. Mi se pare un exemplu excelent de comunicare științifică pentru publicul general, fiind rezumatul lui adnotat al celor mai populare opinii științifice despre inteligența artificială, prin paralele cu filmul Don’t Look Up. Tegmark e fizician și cosmolog, profesor la Massachusetts Institute of Technology (MIT), și în același timp co-fondator al unei organizații care vrea să abordeze riscurile existențiale pe care le presupune inteligența artificială. În opinia lui lui (și a organizației lui), avem nevoie de mai mult timp ca să înțelegem cu ce ne confruntăm. În ritmul de azi, progresul o să vină mai rapid decât reglementările, strategiile și cunoștințele pentru alinierea intelgenței artificiale.
Impresia per total: cele mai strălucite minți puse cap la cap nu știu ce o să se întâmple, dar…tot înainte.
Astea fiind ideile în linii mari, am vrut să scriu mai mult despre cum am perceput ultimul an, și mai ales ultimele luni, eu, colegii, și unii cunoscuți din industrie.
De la entuziasm la creepy
La început era doar entuziasm și fiecare zi părea deobsebită. Ne-am entuziasmat pentru Dall-e, pentru interfața ChatGPT, pentru Copilot, pentru revitalizarea concurenței dintre Microsoft și Google, și pentru explozia de inovație. Când am călătorit prin România și Maroc în martie-aprilie, al doilea cel mai popular lucru (după sacoșe Dior sau Lidl) era să văd oameni cu laptopul deschis, folosind ChatGPT sau vorbind despre el și mema cu Stephen care a făcut înconjurul lumii. Nu cred că am mai văzut o tehnologie care să ajungă subiect popular de conversație atât de repede. E clar că s-a reaprins o scânteie. Și nu eram în lounge în San Francisco sau Hong Kong, ci departe de ele.
Acum apare câte un model nou aproape că în fiecare săptămână. Cine mai știe Dall-E acum că avem Midjourney și Stable Diffusion? Cine o să mai țină minte vicuna sau Claude? Poate că n-o să ne aducem aminte niciun nume. Tot progresul pe care l-am avut până acum în AI e acum conform cu a treia legea a lui Clarke, că any sufficiently advanced technology is indistinguishable from magic. Puțină lume se gândește la cât AI e la muncă atunci când caută poze cu câini în motoare de căutare și apar, așa cum își doresc, poze cu câini. Eventual, totul devine muzică de fundal.
În același timp s-au intensificat și dubiile. Dacă nu era clar de la scandalurile din Google de acum un an, acum a devenit mult mai clar cum se conturează interesele companiilor care vor să domine spațiul pentru următorii ani. După mai puțin de câteva săptămâni dup ce Microsoft a dezlănțuit Sydney asupra publicului, ne-a dezgustat ideea că sunt doar câțiva pași de la mesaje folositoare la amenințări sinistre, și că nu înțelegem foarte bine ce se întâmplă în modelele astea. Pe măsură ce trece timpul, o bună parte din noi avem din ce în ce mai puțină încredere într-un nene care e atât de ocupat full time la OpenAI încât are timp să ia sută de milioane de la dolari de la investitori ca să facă criptomonede pentru care să-ți scanezi ochiul. Dar…tot înainte.
Speculații de viitor
La nivel personal, totul OK
Astea fiind zise, la nivel personal, totul e bine. Nu mă deranjează sau afectează prea tare ideea că programatorii ar putea dispărea.M-am întrebat acum multă vreme cum ar arăta o lume în care nu ar mai fi nevoie de programatori. Mai în glumă atunci când citeam cărți SF sau mă uitam la seriale, dar mai serios atunci când am început să învăț să programez.
Eu cel puțin m-am apucat și am continuat pentru că îmi place și este distractiv să rezolv probleme. La început simțeam că mă reconectează cu o parte din mine din copilărie și adolescență, dar după trei-patru ani îmi place chiar mai mult decât la început. Practic, ce îmi place să învăț și să rezolv probleme noi, atât în lumea oamenilor cât și în lumea calculatoarelor. Indiferent în ce direcție va evolua lumea, aștept cu interes. În cel mai rău caz, mă pensionez și mă dedic grădinăritului și lecturii. Alternativ, devin fermieră la o fermă de unități de procesare grafică.
La nivel de industrie
Că tot sunt păreri peste tot, le las și eu aici pe ale mele. Le declar nule din start pentru că, repet, nimeni nu știe. Cutia cu reclamații e la mine în grădină, unde mă găsiți la smuls buruieni.
- În câțiva ani, o să ajungem în punctul în care ne aflăm acum cu automobilele autonome: o să avem progres semnificativ, dar nu vom reuși să automatizăm sută la sută. E destul de clar că avem astăzi o inteligență artificială care să aibă o teorie a minții suficient de avansată, care să poată argumenta într-un mod non-liniar, să poată imagina corect stări viitoare și să facă planuri. Deocamdată, până la următoarea etapă, avantaj oamenilor inteligenți care se folosesc de IA. O să vină un „AI winter” nou (o perioadă de stagnare în dezvoltarea inteligenței artificiale), și va trebui să așteptăm încă un ciclu sau mai multe.
- O să descurajăm o porțiune considerabilă din tineri din a urma cariere în programat, și va trebui să avem IA oricum. IA o să tot progreseze, pentru că deja era, și înca e nevoie de mai mulți programatori decât sunt disponibili. În plus, poate profesioniștii de azi o să îmbătrânească și nu o să fie înlocuiți de suficienți nou-veniți. Poate că nu vorbim de o generație întreagă, dar deja am întâlnit destui oameni care se întreabă dacă merită să studieze subiectul, și dacă e de viitor. Poate o să fim ca în episodul din Star Trek în care un computer super-inteligent controlează planeta, dar niciun om nu mai știe cum să îl opereze. Sau poate ajungem ca în poveștile din domeniul matematicii: avem atât oameni, cât și calculatoare care pot demonstra teoreme complicate, dar nu suntem în stare să înțelegem demonstrațiile lor, ceea ce pune în discuție utilitatea lor.
- Ar trebui să fim mai temători de corporații care folosesc IA în mod nealiniat, decât un AGI nealiniat. Oamenii folosesc des termenul de „A(G)I nealiniat” ca să se refere la ceva ca pe stil Terminator, o formă de inteligență artificială generală care o să o ia razna și o să distrugă omenirea dacă nu e aliniată cu interesele noastre. Mulți susțin că există un risc existențial major, similar cu armele atomice, și probabilitățile diferă de la om la om. Pe termen scurt mi se pare mult mai probabil că ne îndreptăm către un viitor în care diverse organizații și corporații dețin și folosesc AI, iar interesele lor nu sunt, sau nu o să fie aliniate cu umanitatea în general sau cu interesele anumitor grupuri de oameni. Practic, o continuare a status quo-ului în care discriminăm pe bază de algoritmuri fără pic de transparență. Nici nu trebuie să caut prea mult ca să găsesc exemple azi.
Paranteză, apropo de tinerii care se întreabă dacă are sens sau nu să continue cu programatul. Are you one of them? Dacă vrei un răspuns, părerea mea e asta: dacă îți place și trec orele fără să-ți dai seama făcând ceva, continuă. Te orientezi tu mai târziu. E mult mai ușor să înveți lucruri noi dacă îți place ceea ce faci decât dacă faci cu sila pentru vreun motiv sau altul. Sigur, gândește-te o vreme la factorii care, crezi tu, vor influența lumea peste cinci ani, dar nu lăsa asta să te preocupa prea mult. Pe o perioadă mai lungă de cinci ani, nimeni nu știe. Cel mai rău ar fi să te răzgândești atât de des încât nu aprofundezi niciodată nimic.
Pe final, las citatul ăsta al lui Stephen Wolfram:
Deci, ce ar trebui să învețe oamenii de fapt? Să învețe cum să folosească instrumente pentru a face lucruri. Dar să învețe și ce lucruri sunt de făcut acolo – și să învețe fapte care să ancoreze cum te gândești la acele lucruri. Multă educație astăzi este despre răspunsul la întrebări. Dar pentru viitor – cu IA în peisaj – ceea ce este probabil să fie mai important este să învățăm cum să punem întrebări, și cum să ne dăm seama ce întrebări merită puse. Sau, în esență, cum să stabilim o „strategie intelectuală” pentru ce să facem.
Lasă un răspuns