Fragmente din cartea ”Al patrulea război mondial. Viitorul este aproape” (2018) de autorul, antreprenorul, producătorul de televiziune, psihoterapeutul și futurologul rus Andrei Kurpatov, în traducere neoficială și adaptare de News-Cafe.eu.

Aici sunt partea 1, partea 2.

„Sper că nu suntem un fel de bootloader pentru superinteligența artificială a viitorului”, a scris Elon Musk pe Twitter. „Deși îmi pare că totul se îndreaptă spre asta.” Musk a fost unul dintre primii care au realizat ce înseamnă să oferi inteligenței artificiale toate informațiile despre noi. Adică nu ceea ce credem despre noi înșine sau, de exemplu, cum arătăm (acest lucru este necesar doar pentru a ne identifica), ci totul, adică totul despre comportamentul nostru real, modurile de a lua decizii și dorințele noastre.

Acest lucru probabil îl sperie cel mai mult pe Musk și nu este o coincidență că el se referă la inteligența artificială ca o „amenințare existențială” la adresa umanității. Imaginați-vă că mașina începe să ne anticipeze dorințele – ceea ce noi înșine nu suntem capabili să facem, dar mașina se va descurca bine, deoarece știe nu numai ce gândim, ci și cum acționăm. Asta în sine este probabil un lucru bun. Dar cine a spus că inteligența artificială va dispune de cunoștințele relevante în interesul nostru? Dacă ne cunoaște dorințele, va putea să le influențeze, să controleze aceste dorințe, și implicit pe noi. Musk probabil din această cauză și se războiește cu Google (și uneori cu Facebook), deși evită întrebările directe pe această temă.

Giganții internetului abia recent au atins pragul de rentabilitate, iar investițiile reale sunt încă departe de a fi recuperate. Inițial, scopul nu a fost de a obține profit, și investitorii nu au băgat bani în aceste companii de dragul profitului. Ei urmăreau acapararea unui segment cât mai mare al pieței: adică numărul de utilizatori care optau pentru o resursă sau alta. Google, Facebook (și Twitter absorbit de el), Apple, Instagram, Yandex - toate acestea sunt un fel de imperii virtuale, care colonizează literalmente popoare și își creează propriile cvasi-state.

Singura întrebare a fost cum aceste imperii își gestionează cetățenii și ce beneficii pot obține din aceasta. În timp ce vechile sisteme politice degradează, noii jucători de pe piața politică - giganții Internetului - se transformă în monștri proto-statali. Am crezut mereu că starea de sclavie ar trebui definită astfel: nu ești plătit pentru ceea ce faci, ci pentru faptul că pur și simplu exiști (iar alții decid pentru tine dacă trebuie sau nu să faci ceva).

Aceste imperii se dezvoltă anume conform acestui principiu: ele ne au pe noi. Sclavi și șerbi ai rețelei globale de internet, care nici măcar nu realizează că „au fost deja numărați”.

Acum, inteligența artificială este creată în sediul noilor imperii globale ale Internetului, care ne vor controla din interiorul sistemului. Și pun pariu că creatorii ei înșiși nu știu încă cum să dispună de această putere nebună și nelimitată. Cred că ei vorbesc în mod tipic pentru astfel de cazuri: îi vom cuceri, îi vom înrobi cum trebuie, și apoi vom decide ce să facem cu toate acestea. Vor trebui să se grăbească, deoarece se apropie clipa când toată „bogăția” câștigată de ei (adică noi toți) se va transforma în adevărate cioburi. La urma urmei, dacă inteligența artificială ajunge într-adevăr la nivelul de dezvoltare care acum pare aproape inevitabil, economia pur și simplu nu va avea nevoie de oameni. Îndrăznesc să spun mult decât atât – oamenii vor deveni o povară.

Este adevărat că anterior forța de muncă reprezenta un capital real (© Karl Marx), acum însă care este rostul ei? Imaginați-vă viitorul apropiat... La primele etaje ale caselor noastre, în locul magazinelor actuale, există imprimante mari 3D, care sunt alimentate prin conducte (asemănătoare cu sistemul actual de alimentare cu apă) cu un concentrat universal de două tipuri - comestibil și necomestibil. Trebuie doar să apăsați butonul, iar articolele necesare sunt realizate imediat și apar în apartamentul dumneavoastră. Mai mult, acest concentrat este produs la întreprinderi unde nu este țipenie de om – totul este complet automatizat.

Imprimantele 3D pentru fabricarea bucatelor sunt în proces de experimentare. Imagine: Digital Trends

Creativitatea artificială va fi, de asemenea, din abundență. Ca să nu ne plictisim, ne vor hrăni cu ea non-stop. Inteligența artificială a învățat deja să compună muzică și să scrie texte literare, iar în curând va funcționa într-un sistem de ciclu complet, aducând în atenția noastră un număr nelimitat de lucrări audiovizuale, și încă într-un sistem de realitate 3D. Puteți urmări zile în șir – nici nu veți putea observa cum trece timpul! Astfel, pe lângă pâinea artificială, ne așteaptă și ochelari artificiali, din belșug.

Dar de ce acest sistem ar avea nevoie de oameni? În situația dată, oamenii devin adevărate „animale domesticite”. Pe de altă parte, animalele domesticite sunt ținute dintr-un motiv: fie pentru a le mânca, fie pentru distracție (într-un număr mai mic). Și atunci cine ar trebui să se distreze pe seama noastră, și, cel mai important, de ce? Inteligența artificială trebuie să devină un adevărat pervers să descopere plăcerea de a-i batjocori pe oameni. Cât despre mâncare... Ah, da, am descris deja această variantă mai sus: nano-cuțitul sau orice de genul acesta.

În general, toate acestea încă seamănă cu un fel de fantasmagorie futurologică terifiantă. Și nu este de mirare că emoționantul Elon Musk este speriat. Apropo, ideea lui ciudată de a zbura pe Marte - cu bilet într-o singură direcție - nu mai pare o acțiune excentrică pe acest fundal.

Într-un fel sau altul, cunoscând industria Internetului din interior, Elon Musk încă încearcă rolul lui Morpheus și insistă să creeze un fel de anti-Matrix - o inteligență artificială care nu ne va controla, precum Google. Dar poate oare ea fi controlată dacă devine cu adevărat un intelect, adică o entitate cu propria sa minte și conștiință de sine? Am impresia că nici Musk nu are răspuns la această întrebare.

***

O bombă creată nu se prăfuiește pe raft mult timp. Probabil că puțini oameni știu despre asta, dar Albert Einstein i-a trimis președintelui Theodore Roosevelt o a doua scrisoare, când americanii aveau deja o bombă atomică. În ea, după cum ați putea ghici, Einstein a încercat să-l convingă pe președinte să nu folosească arme atomice. Din întâmplare, scrisoarea a ajuns pe biroul lui Roosevelt pe 12 aprilie 1945 - ziua morții sale - și nici măcar nu a fost deschisă.

Mai târziu, amintindu-și despre tragedia de la Hiroshima și Nagasaki, Einstein i-a mărturisit biografului său: „Da, eu am apăsat butonul ăla”. Cu siguranță că a exagerat. La fel cum a apăsat Hawking clipind din pleoapă.

Da, nici Musk, nici Sergey Brin, în confruntarea lor artificial-intelectuală, nu ține cont de faptul că pe scenă, ca lebăda neagră a lui Nassim Taleb, în orice moment în locul intelectualului Roosevelt poate apărea un ofițer militar de genul Harry Truman... Iar mâinile noilor Trumani suferă de mâncărime, despre care o să aflați detalii în următoarea parte.

Urmează
Scenariile celui de-al patrulea război mondial

Opiniile exprimate de autor în acest text nu coincid neapărat cu poziția portalului News-Cafe.eu în chestiuni legate de inteligența artificială. La traducerea textului s-a făcut uz de Google Translate, un program de inteligență artificială al companiei Alphabet.