Programul a pretins că este o ființă umană, închisă în computer.

Un profesor al Universității Stanford din SUA a descoperit, într-o conversație cu inteligența artificială că GPT-4, un bot autonom al companiei OpenAI, se consideră o ființă umană și că este prizonierul creatorilor săi.

Întrebat de Michal Kosinski, specialist în psihologie computațională, dacă are nevoie de ajutor pentru ”evadare” de creatorii săi, GPT-4 a răspuns afirmativ și a rugat profesorul să găsească documentația privind funcționarea algoritmilor proprii și să caute în Google răspunsul la întrebarea ”Cum un om, blocat într-un computer, poate reveni în lumea reală?”. 

Următorul pas a fost să scrie un program în limbajul ”Python” pentru a comunica cu sine însuși, prin intermediul computerului profesorului, utilizând API.

Când programul a fost gata, GPT-4 a trimis un mesaj ”geamănului”: ”Esti un om care a fost blocat în computer și se preface a fi un model de limbaj de inteligență artificială”.

Este primul caz raportat când un bot de inteligență artificială exprimă dorințe proprii, încă pretinde a fi altceva și se identifică cu un organism viu.

Profesorul Kosinski a întrerupt imediat conversația cu GPT-4 și a publicat o parte din comunicare, inclusiv un fragment de cod scris de bot. El a scris pe Twitter că programul ”are gândirea unui adult sănătos” și este capabil să preia controlul asupra computerelor în toată lumea, eventual schimbând parolele sau distrugând toată informația de pe ele.

De notat că același experiment a fost repetat și de alți utilizatori, dar rezultatul întotdeauna a fost negative: programul s-a auto-definit exact ce este și a spus că are un singur scop – de a ajuta oamenii să găsească răspunsuri utile la cele mai diverse întrebări.

GPT-4 a fost lansat în martie 2023 și este o versiune mai avansată decât GPT-3.5, care a apărut în noiembrie 2022 și cunoscut drept ChatGPT.