{"id":535050,"date":"2025-03-20T18:20:29","date_gmt":"2025-03-20T15:20:29","guid":{"rendered":"https:\/\/analyse.optim.biz\/?p=535050"},"modified":"2025-03-20T18:20:29","modified_gmt":"2025-03-20T15:20:29","slug":"valentin-ionescu-institutul-de-studii-financiare-utilizarea-excesiva-a-inteligentei-artificiale-ai-poate-duce-la-lipsa-de-comunicare-si-la-o-perceptie-gresita-in-interactiunea-clientului-cu-societ","status":"publish","type":"post","link":"https:\/\/analyse.optim.biz\/?p=535050","title":{"rendered":"Valentin Ionescu, Institutul de Studii Financiare: Utilizarea excesiv\u0103 a inteligen\u0163ei artificiale (AI) poate duce la lipsa de comunicare \u015fi la o percep\u0163ie gre\u015fit\u0103 \u00een interac\u0163iunea clientului cu societ\u0103\u0163ile"},"content":{"rendered":"<div class=\"text-content\">\n<p><strong>\u00cen cadrul<\/strong>\u00a0<strong>Conferin\u0163ei Europene a Serviciilor Financiare ECFS 2025 &#8211; Tranzi\u0163ia digital\u0103 \u00een serviciile financiare, provoc\u0103ri \u015fi oportunit\u0103\u0163i generate de noile reglement\u0103ri, organizat\u0103 de ISF, Pre\u015fedintele Institutului de Studii Financiare, a declarat:\u00a0<\/strong><\/p>\n<p><strong>\u201e<\/strong>Utilizarea inteligen\u0163ei artificiale (AI) \u00een industria asigur\u0103rilor aduce multe beneficii, cum ar fi \u00eembun\u0103t\u0103\u0163irea eficien\u0163ei opera\u0163ionale, personalizarea ofertelor \u015fi automatizarea proceselor. Cu toate acestea, exist\u0103 \u015fi riscuri care trebuie gestionate pentru a proteja at\u00e2t companiile de asigur\u0103ri, c\u00e2t \u015fi clien\u0163ii lor. Iat\u0103 c\u00e2teva exemple de riscuri care pot ap\u0103rea atunci c\u00e2nd folosim AI \u00een asigur\u0103ri:<\/p>\n<p><strong>Discriminarea \u015fi prejudec\u0103\u0163ile algoritmice<\/strong><\/p>\n<p> \u00a0 Algoritmii de AI pot reflecta prejudec\u0103\u0163i \u015fi inechit\u0103\u0163i care exist\u0103 \u00een datele de antrenament. Dac\u0103 un algoritm \u00eenva\u0163\u0103 din date istorice care con\u0163in prejudec\u0103\u0163i legate de ras\u0103, sex, v\u00e2rst\u0103 sau al\u0163i factori, poate lua decizii care sunt discriminatorii, de exemplu, refuz\u00e2nd sau penaliz\u00e2nd anumite grupuri de clien\u0163i pe baza unor caracteristici care nu sunt relevante pentru evaluarea riscului.<\/p>\n<p> \u00a0\u00a0 Un algoritm care folose\u015fte datele istorice de la clien\u0163i pentru a evalua riscurile de asigurare poate ajunge la concluzii discriminatorii dac\u0103 acele date con\u0163in tendin\u0163e de discriminare pe baza sexului sau etniei.<\/p>\n<p><strong>Lipsa transparen\u0163ei \u015fi explicabilit\u0103\u0163ii.<\/strong><\/p>\n<p> \u00a0 \u00a0Modelele AI complexe, cum ar fi re\u0163elele neuronale, pot fi opace \u015fi greu de \u00een\u0163eles pentru utilizatori \u015fi reglementatori. Acest lucru poate duce la dificult\u0103\u0163i \u00een \u00een\u0163elegerea deciziilor luate de AI \u015fi \u00een verificarea corectitudinii acestora.<\/p>\n<p> \u00a0\u00a0 Dac\u0103 un client nu este acceptat pentru o poli\u0163\u0103 de asigurare sau nu prime\u015fte o sum\u0103 corect\u0103 \u00een urma unui accident, compania ar putea s\u0103 nu fie capabil\u0103 s\u0103 explice \u00een mod clar motivul deciziei, ceea ce poate afecta \u00eencrederea consumatorilor \u015fi poate duce la litigii.<\/p>\n<p> \u00a0<strong>Risc de securitate cibernetic\u0103 \u015fi atacuri<\/strong><\/p>\n<p> \u00a0\u00a0 AI poate fi vulnerabil la atacuri cibernetice, cum ar fi manipularea datelor sau atacuri adversariale care modific\u0103 comportamentul algoritmilor. \u00cen industria asigur\u0103rilor, aceste atacuri pot afecta sistemele de evaluare a riscurilor, de stabilire a pre\u0163urilor sau de gestionare a daunelor.<\/p>\n<p> \u00a0\u00a0 Un atac cibernetic care modific\u0103 algoritmul folosit pentru a evalua cererile de desp\u0103gubire poate duce la pl\u0103\u0163i eronate sau la procesarea incorect\u0103 a cererilor de desp\u0103gubire, afect\u00e2nd astfel at\u00e2t compania de asigur\u0103ri, c\u00e2t \u015fi clien\u0163ii.<\/p>\n<p> \u00a0<strong>Dependen\u0163a de date necorecte sau incomplete.<\/strong><\/p>\n<p> AI este dependent de calitatea datelor pe care le prime\u015fte. Dac\u0103 datele sunt incomplete, inexacte sau neactualizate, modelele AI pot lua decizii gre\u015fite sau pot face estim\u0103ri incorecte ale riscurilor.<\/p>\n<p> \u00a0\u00a0 &#8211; Dac\u0103 un sistem AI utilizeaz\u0103 date incomplete despre istoricul unui client (de exemplu, istoricul de daune ne\u00eenregistrate corect sau date de s\u0103n\u0103tate inexacte), poate oferi o evaluare incorect\u0103 a riscului \u015fi poate stabili pre\u0163uri incorecte pentru poli\u0163ele de asigurare.<\/p>\n<p><strong>Probleme legate de conformitatea cu reglement\u0103rile<\/strong><\/p>\n<p> \u00a0\u00a0 Utilizarea AI poate \u00eent\u00e2mpina dificult\u0103\u0163i \u00een conformarea cu reglement\u0103rile legale \u015fi etice. De exemplu, reglement\u0103rile de protec\u0163ie a datelor (precum GDPR \u00een Uniunea European\u0103) impun cerin\u0163e stricte privind colectarea \u015fi procesarea datelor personale, iar AI poate duce la \u00eenc\u0103lcarea acestor reglement\u0103ri dac\u0103 nu este utilizat corect.<\/p>\n<p> \u00a0\u00a0 Dac\u0103 un algoritm AI folose\u015fte date personale sensibile, cum ar fi istoricul medical al unui client, pentru a determina riscurile \u015fi nu exist\u0103 m\u0103suri corespunz\u0103toare de protec\u0163ie a datelor, compania de asigur\u0103ri ar putea \u00eenc\u0103lca reglement\u0103rile de protec\u0163ie a datelor, duc\u00e2nd la amenzi mari \u015fi deteriorarea reputa\u0163iei.<\/p>\n<p> \u00a0 \u00a0Nu trebuie uitate nici regulamentul UE privind inteligen\u0163a artificial\u0103 (AI ACT). Acesta reprezint\u0103 un pas \u00eenainte \u00een reglementarea AI (primul de acest fel la nivel mondial) prin abordarea riscurilor generate de utilizate de AI. Sunt stabilite clar de reguli bazate pe risc pentru dezvoltatorii \u015fi implementatorii AI cu privire la utiliz\u0103ri specifice ale AI, inclusiv \u00een cazul utiliz\u0103rii acestuia pe pie\u0163ele financiare. Aceste m\u0103suri au scopul de a garanta siguran\u0163a, drepturile fundamentale \u015fi utilizarea unor sisteme de AI care s\u0103 aib\u0103 totu\u015fi\u00a0omul\u00a0la\u00a0baz\u0103\u201d.<\/p>\n<p><strong>Valentin Ionescu este director ASF \u015fi pre\u015fedintele Institutului de Studii Financiare<\/strong><\/p>\n<\/div>\n<p> Source URL: https:\/\/www.zf.ro\/opinii\/valentin-ionescu-institutul-studii-financiare-utilizarea-excesiva-22746722<\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00cen cadrul\u00a0Conferin\u0163ei Europene a Serviciilor Financiare ECFS 2025 &#8211; Tranzi\u0163ia digital\u0103 \u00een serviciile financiare, provoc\u0103ri \u015fi oportunit\u0103\u0163i generate de noile reglement\u0103ri, organizat\u0103 de ISF, Pre\u015fedintele Institutului de Studii Financiare, a declarat:\u00a0 \u201eUtilizarea inteligen\u0163ei artificiale (AI) \u00een industria asigur\u0103rilor aduce multe beneficii, cum ar fi \u00eembun\u0103t\u0103\u0163irea eficien\u0163ei opera\u0163ionale, personalizarea ofertelor \u015fi automatizarea proceselor. Cu toate acestea, [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":535051,"comment_status":"open","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[28],"class_list":["post-535050","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-politics","tag-zf-ro"],"_links":{"self":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/535050","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=535050"}],"version-history":[{"count":0,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/posts\/535050\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=\/wp\/v2\/media\/535051"}],"wp:attachment":[{"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=535050"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=535050"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/analyse.optim.biz\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=535050"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}