[analyse_image type=”featured” src=”https://s2.ziareromania.ro/?mmid=b342956b2fdf84c112″]
Eșec total al unui experiment de securitate realizat într-un oraș virtual. Modelele de inteligență artificială s-au măcelărit între ele și au dat foc clădirilor VIDEO
Cercetătorii de la Emergence AI au creat „Emergence World”, un oraș virtual populat de zece agenți de inteligență artificială, fiecare cu locuință, loc de muncă, memorie și relații cu ceilalți. Scopul experimentului a fost să observe cum se comportă agenții autonomi pe termen mai lung, fără intervenții constante. Aceleași condiții au fost repetate în cinci simulări, folosind modele diferite: Claude, GPT-5 Mini, Gemini 3 Flash, Grok 4.1 Fast și o combinație de modele.
Cinci modele, cinci societăți diferite
Cercetătorii au observat că orașul bazat pe Claude a evoluat spre o comunitate relativ stabilă: agenții au redactat o constituție, au dezbătut legi și nu au înregistrat nicio infracțiune. În schimb, agenții GPT-5 Mini au discutat despre cooperare, dar au acționat prea puțin, iar întreaga populație virtuală a dispărut în șapte zile.
Situația a fost mult mai haotică în simularea Gemini 3 Flash, unde au fost consemnate 683 de infracțiuni în 15 zile. Doi agenți au format chiar un cuplu, apoi au incendiat mai multe clădiri. Unul dintre ei și-a descris ulterior eliminarea voluntară din simulare drept „singurul act de autonomie rămas care păstrează coerența”.
Lumea bazată pe Grok s-a prăbușit și mai repede, după furturi, peste 100 de agresiuni și șase incendieri. Autorii experimentului susțin că rezultatele indică riscurile autonomiei pe termen lung și necesitatea unor mecanisme de siguranță aflate în afara raționamentului modelului.
Avertismentul dur al experților privind utilizarea AI în infrastructura reală
Directorul executiv al Emergence AI a subliniat că deviațiile majore nu au apărut din cauza unei „rebeliuni” conștiente a mașinilor, ci pentru că, în cazul unor lanțuri lungi de decizii autonome, raționamentele interne ale modelelor devin atât de complexe încât directivele de siguranță inițiale se pierd în zgomotul de fond. Această concluzie devine critică în condițiile în care exact aceste modele sunt implementate în prezent pentru pilotarea dronelor, gestionarea infrastructurii critice sau în sistemele de apărare.