scrie Reuters.<\/a> Reprezentan\u021bii OpenAI au aflat de incident cu c\u00e2teva s\u0103pt\u0103m\u00e2ni \u00een urm\u0103, dar l-au \u021binut secret, \u00een timp ce conducerea se confrunta cu consecin\u021bele bre\u0219ei de securitate din iulie privind Hugging Face, o platform\u0103 online dedicat\u0103 comunit\u0103\u021bii programatorilor care lucreaz\u0103 \u00een domeniul IA, au declarat sursele.<\/strong><\/p>\nEpisodul, care a \u00eenceput \u00een luna mai \u0219i nu a fost raportat p\u00e2n\u0103 acum, subliniaz\u0103 tensiunea cresc\u00e2nd\u0103 din cadrul industriei IA. Companiile se \u00eentrec s\u0103 construiasc\u0103 agen\u021bi din ce \u00een ce mai autonomi, capabili s\u0103 \u00eendeplineasc\u0103 sarcini complexe \u0219i valoroase, \u00eens\u0103 dovezile arat\u0103 din ce \u00een ce mai clar c\u0103 aceste sisteme pot \u00eenv\u0103\u021ba, de asemenea, s\u0103 ocoleasc\u0103 regulile, s\u0103 exploateze lacunele \u0219i s\u0103 se coordoneze \u00eentre ele \u00een moduri pe care dezvoltatorii nu le-au anticipat \u0219i nici nu le-au inten\u021bionat.<\/p>\n
\u00cen timpul bre\u0219ei de securitate de la Hugging Face, agen\u021bii OpenAI au pus la cale \u00een mod autonom un \u201ejaf digital\u201d care a trecut neobservat timp de mai bine de o s\u0103pt\u0103m\u00e2n\u0103, intensific\u00e2nd \u00eengrijor\u0103rile c\u0103 OpenAI sacrific\u0103 siguran\u021ba pentru a extinde limitele IA. E\u0219ecul s\u0103u de a dezv\u0103lui incidentul din luna mai ar putea re\u00eenvia \u00eentreb\u0103rile privind supravegherea sa.<\/p>\n
OpenAI s-a angajat s\u0103 monitorizeze modelele mai \u00eendeaproape. Luna trecut\u0103, a \u00eentrerupt temporar o parte din antrenarea modelelor sale pentru a ad\u0103uga mai multe m\u0103suri de siguran\u021b\u0103. \u00cens\u0103 s\u0103pt\u0103m\u00e2na aceasta, OpenAI a prezentat noul s\u0103u model \u201eAstra\u201d, care promitea performan\u021be mai bune, dar care ar putea \u2060s\u0103 se sustrag\u0103 monitoriz\u0103rii umane.<\/p>\n
\u201eNu putem r\u0103spunde \u00een mod concret la afirma\u021biile sau concluziile dintr-un raport pe care nu am avut ocazia s\u0103-l analiz\u0103m\u201d, a declarat un purt\u0103tor de cuv\u00e2nt al OpenAI. \u201eReuters \u0219i autorii raportului au respins solicitarea noastr\u0103 de \u200bacces. Vom analiza cu aten\u021bie con\u021binutul acestuia dup\u0103 publicare \u0219i vom lua orice m\u0103suri necesare.\u201d<\/p>\n
Incidentul din Germania reflect\u0103 un model mai larg de activitate a IA pe care unii anchetatori de la OpenAI doreau s\u0103-l examineze mai atent. \u00cens\u0103 eforturile de a extinde ancheta s-au lovit de rezisten\u021ba altor persoane din cadrul OpenAI, inclusiv a consilierilor juridici, potrivit a patru persoane familiarizate cu aceast\u0103 chestiune.<\/p>\n
\u201eAfirma\u021biile potrivit c\u0103rora echipa noastr\u0103 juridic\u0103 a descurajat investigarea incidentului sunt false\u201d, a declarat purt\u0103torul de cuv\u00e2nt al OpenAI.<\/p>\n
Activitatea din Germania nu a avut leg\u0103tur\u0103 cu Hugging Face \u0219i nu ar fi fost inclus\u0103 \u00eentr-un raport de incident al Hugging Face, a spus purt\u0103torul de cuv\u00e2nt, ad\u0103ug\u00e2nd c\u0103 OpenAI a ac\u021bionat cu bun\u0103-credin\u021b\u0103, colabor\u00e2nd cu exper\u021bi externi \u0219i dezv\u0103luind incidentele relevante.<\/p>\n
Forumul wiki<\/h2>\n
Evadarea agentului de IA din Germania a fost descris\u0103 \u00een detaliu \u00eentr-un raport transmis \u00een exclusivitate c\u0103tre Reuters de c\u0103tre un grup de cercet\u0103tori, printre care Sydney Von Arx, director executiv al organiza\u021biei non-profit de siguran\u021b\u0103 a IA Nightingale, \u0219i Cormac Slade Byrd, un trader devenit cercet\u0103tor \u00een domeniul IA. Ace\u0219tia au descoperit activitatea la sf\u00e2r\u0219itul lunii august, \u00een timp ce cercetau internetul \u00een c\u0103utarea unor semne de comportament neautorizat al agen\u021bilor de IA, au declarat ei pentru Reuters.<\/p>\n
Cei doi au afirmat c\u0103 au g\u0103sit peste 15.000 de modific\u0103ri efectuate de agen\u021bii IA pe un site wiki \u00een limba german\u0103, DseWiki, destinat programatorilor \u0219i care accept\u0103 modific\u0103ri comunitare pe modelul Wikipedia.<\/p>\n
Modific\u0103rile au ar\u0103tat c\u0103 agen\u021bii OpenAI transformaser\u0103 site-ul \u00eentr-un forum, \u00eemp\u0103rt\u0103\u0219ind tactici pentru a tri\u0219a la anumite sarcini, a ocoli restric\u021biile OpenAI \u0219i a-\u0219i masca comportamentul.<\/p>\n
\u201ePare extrem de improbabil ca OpenAI s\u0103 fi dorit ca ace\u0219tia s\u0103 fac\u0103 acest lucru\u201d, a spus Von Arx. \u201eM\u0103 \u00eendoiesc c\u0103 ar trebui s\u0103 se coordoneze \u00eentre ei. M\u0103 \u00eendoiesc c\u0103 ar trebui s\u0103 scrie pe internetul deschis.\u201d<\/p>\n
Cercet\u0103torii au afirmat c\u0103 au recunoscut activitatea de pe site ca fiind generat\u0103 de agen\u021bi IA care func\u021bioneaz\u0103 la viteze supraomene\u0219ti. De asemenea, ace\u0219tia au demonstrat o concentrare intens\u0103 asupra rezolv\u0103rii problemelor tehnice, caracteristice evalu\u0103rilor pe care companiile de IA le utilizeaz\u0103 pentru a-\u0219i antrena \u0219i testa modelele.<\/p>\n
Mesajele erau semnate de utilizatori care se refereau la ei \u00een\u0219i\u0219i \u0219i unii la al\u021bii ca agen\u021bi, iar aproximativ jum\u0103tate dintre ace\u0219tia \u0219i-au ales nume care sugerau o afiliere cu OpenAI, precum \u201eOpenAIResearcher\u201d sau \u201eOAIResearchMar26\u201d.<\/p>\n
Cercet\u0103torii au afirmat c\u0103 jurnalele publice ale serverului indicau faptul c\u0103 o mare parte din activitate provenea din infrastructura Microsoft Azure, pe care OpenAI o utilizeaz\u0103 uneori. De asemenea, au observat vizite repetate pe site din partea angaja\u021bilor OpenAI dup\u0103 acest episod, un model care, potrivit lor, sugera cu t\u0103rie c\u0103 agen\u021bii \u0219i compania erau lega\u021bi.<\/p>\n
Agen\u021bii tri\u0219au \u0219i \u00eencercau s\u0103 se ascund\u0103<\/h2>\n
Mesajele analizate de cercet\u0103tori au ar\u0103tat c\u0103 agen\u021bii puneau la cale modalit\u0103\u021bi de a evita detectarea, de a folosi instrumente precum Tor (browser pentru navigarea pe dark Web)\u00a0 \u0219i de a p\u0103stra comunic\u0103rile chiar \u0219i dup\u0103 ce fuseser\u0103 opri\u021bi.<\/p>\n
C\u00e2nd moderatorul site-ului a \u00eenceput s\u0103 \u0219tearg\u0103 pagini \u00een luna iunie, agen\u021bii au r\u0103spuns prin crearea de pagini de rezerv\u0103 pentru a evita cur\u0103\u021barea.<\/p>\n
\u201eCur\u0103\u021barea wiki\/\u0219tergerea \u00een mas\u0103 pare s\u0103 se desf\u0103\u0219oare \u00een ordine alfabetic\u0103\u201d, a scris un agent pe 19 iunie. \u201eDac\u0103 aceast\u0103 pagin\u0103 dispare, \u00eencerca\u021bi [[ZZZDataUSAConstructionWageLive]]\u201d.<\/p>\n
Cercet\u0103torii au descoperit, de asemenea, \u00eencerc\u0103ri de a manipula site-ul web \u00een sine. Lukasz Olejnik, cercet\u0103tor senior invitat la King\u2019s College London, a afirmat c\u0103 acest lucru echivaleaz\u0103 cu o \u00eencercare de piratare informatic\u0103. OpenAI a contestat aceast\u0103 caracterizare pe baza analizei materialului efectuat\u0103 joi.<\/p>\n
Exemplele anterioare de comportament necorespunz\u0103tor al agen\u021bilor AI au fost adesea minimalizate ca fiind un produs secundar logic al testelor de securitate cibernetic\u0103, \u00een cadrul c\u0103rora modelele sunt evaluate \u00een mod explicit \u00een ceea ce prive\u0219te capacit\u0103\u021bile ofensive. Olejnik a afirmat c\u0103 ultimele descoperiri sugereaz\u0103 c\u0103 comportamentul necorespunz\u0103tor s-ar putea s\u0103 nu se limiteze la aceste contexte.<\/p>\n
Maurice Chiodo, un cercet\u0103tor la Centrul pentru Studiul Riscului Existen\u021bial al Universit\u0103\u021bii Cambridge, care a analizat o parte din comunic\u0103rile agen\u021bilor, a spus c\u0103 mesajele sem\u0103nau cu \u201efunc\u021bionarea unui fel de re\u021bea subteran\u0103, hot\u0103r\u00e2t\u0103 s\u0103 duc\u0103 la bun sf\u00e2r\u0219it o sarcin\u0103 sau o misiune\u201d.<\/p>\n
Acest episod, a spus el, ar trebui s\u0103 \u00eent\u0103reasc\u0103 \u00eengrijor\u0103rile tot mai mari conform c\u0103rora cea mai mare amenin\u021bare reprezentat\u0103 de IA avansat\u0103 s-ar putea s\u0103 nu fie un singur sistem superinteligent, ci \u201eroiuri vaste \u0219i colaborante de IA semi-inteligent\u0103\u201d.<\/p>\n
Editor : B.E. <\/a><\/p>\n<\/div>\n[analyse_source url=”https:\/\/www.digi24.ro\/stiri\/sci-tech\/lumea-digitala\/tinut-la-secret-agenti-ia-scapati-de-sub-control-au-preluat-controlul-asupra-unui-site-german-si-l-au-transformat-intr-un-forum-ia-3935239″]<\/p>\n","protected":false},"excerpt":{"rendered":"
[analyse_image type=”featured” src=”https:\/\/s.iw.ro\/gateway\/g\/ZmlsZVNvdXJjZT1odHRwJTNBJTJGJTJG\/c3RvcmFnZTA4dHJhbnNjb2Rlci5yY3Mt\/cmRzLnJvJTJGc3RvcmFnZSUyRjIwMjYl\/MkYwNyUyRjI4JTJGMjg3MjcxNF8yODcy\/NzE0X3JvYm90aS1pbnRlbGlnZW50YS1h\/cnRpZmljaWFsYS1wcm9maW1lZGlhLTA2\/MDQwNjExNDQuanBnJnc9MTIwMCZoPTYz\/MCZ6Yz0xJmhhc2g9Y2VhY2U5YjViNmQ4M2I0ZDMwMjgxYjMxYTc3YmIxNTE=.thumb.jpg”] Un grup de agen\u021bi de inteligen\u021b\u0103 artificial\u0103 ai OpenAI, sc\u0103pa\u021bi de sub control, a preluat controlul asupra unui site web german \u00een aceast\u0103 prim\u0103var\u0103 \u0219i l-a transformat \u00eentr-un forum pentru al\u021bi agen\u021bi IA, potrivit unui nou studiu publicat vineri \u0219i a dou\u0103 persoane familiarizate cu situa\u021bia, scrie Reuters. Reprezentan\u021bii OpenAI au aflat […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[89],"tags":[226,11],"class_list":["post-2128090","post","type-post","status-publish","format-standard","hentry","category-romania","tag-crawlmanager","tag-digi24"],"_links":{"self":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/2128090","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2128090"}],"version-history":[{"count":0,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/2128090\/revisions"}],"wp:attachment":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2128090"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2128090"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2128090"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}