„Vom mai putea controla modelele de Inteligență Artificială care se auto-programează și se îmbunătățesc pe cont propriu?” este întrebarea pe care și-o pune ziaristul Mihnea Măruță, într-un articol publicat în numărul 7 al revistei „Apostrof”.

Autorul pornește de la un articol publicat de compania Anthropic, realizatoarea modelului AI „Claude”, în care se recunoaște că, „începând din luna mai 2026, peste 80% din liniile de cod introduse în versiunile lui Claude au fost scrise de Claude „însuşi“ ”.

Astfel, se merge către un model în care AI-ul va putea să conceapă singur, „integral şi autonom”, propriul „succesor“.

Cu alte cuvinte, un model de AI în care oamenii nu mai ghidează dezvoltarea, ci modelul „însuși”.

„Ce se va întâmpla când un model își va coda urmașul în proporție de sută la sută? Ce decalaj va exista între „părinte“ și „copil“? Cum va arăta un intelect artificial creat de la zero de un intelect artificial? Dar a treia generație, „nepotul“ primului model lăsat să se reproducă? Dar a n-a generație?

Aceasta e întrebarea cu adevărat vitală a zilelor noastre: vom mai putea controla un model care a trecut de recursive self-improvement, o minte care știe toate limbajele şi sfărâmă toate barierele, o armă perfectă ale cărei reprezentări interne nu le va mai putea urmări nici măcar omenirea strânsă laolaltă, ca un iluzoriu supraveghetor unic?

În romanul Maniac, recent tradus și la noi, Benjamín Labatut reface povestea genialului John von Neumann, care a fost întrebat pe patul de moarte de ce ar fi nevoie ca un computer să înceapă să se comporte ca un om. „Ar trebui să crească, nu să fie construit.“

Crescut, nu făcut. Am ajuns în acel moment și, din fericire, încă deținem controlul. Încă”, a notat Mihnea Măruță.