Comitetul European pentru Risc Sistemic, responsabil cu supravegherea macroprudențială a sistemului financiar din UE, a emis un avertisment care zguduie din temelii sectorul bancar. Semnalul de alarmă, care întărește necesitatea păstrării banilor cash, privește riscurile cibernetice sistemice generate de modelele de inteligență artificială de frontieră. Mai exact, inteligența artificială a ajuns să fie utilizată pentru atacurile cibernetice în sectorul bancar, depășind capacitatea instituțiilor de a remedia blocajele. Astfel, este posibil oricând o întrerupere a activității și fluxurilor financiare.
Pericolele dezvoltării inteligenței artificiale s-au materializat, deja, cu o viteză incredibilă. Comitetul European pentru Risc Sistemic (CERS), organismul independent al Uniunii Europene responsabil cu supravegherea macroprudențială a sistemului financiar din UE, a publicat în Jurnalul Oficial al Uniunii Europene un avertisment teribil privind riscurile cibernetice sistemice generate de modelele de inteligență artificială de frontieră.
”Dezvoltarea rapidă a modelelor de IA de frontieră (FAIM) cu capabilitate cibernetică aduce schimbări semnificative în cadrul riscurilor pentru sistemul financiar al Uniunii. Datele actuale indică faptul că FAIM sunt capabile să descopere vulnerabilități, să genereze instrumente software funcționale de exploatare a vulnerabilităților și să execute autonom atacuri cibernetice de mare amploare la o viteză, scară și nivel de acuratețe care depășesc cu mult modelele de IA anterioare”, a arătat CERS.
Riscuri sistemice pentru bănci
CERS consideră aceste evoluții ca fiind o sursă de riscuri sistemice pentru sistemul financiar, cu potențialul de a genera efecte adverse semnificative asupra securității cibernetice prin descoperirea accelerată a vulnerabilităților, reducerea timpului disponibil pentru răspuns și apărare eficientă, creșterea amplitudinii și complexității atacurilor cibernetice și introducerea unor noi dependențe și riscuri de concentrare în cadrul sistemului financiar. Deși CERS recunoaște că FAIM consolidează capacitățile defensive ale instituțiilor financiare, aceste capacități sunt susceptibile să se materializeze treptat în următorii câțiva ani, necesitând ca instituțiile financiare să funcționeze pe durata unei perioade de tranziție caracterizate de risc ridicat, incertitudine accentuată și un cadru tehnologic în continuă evoluție.
”Având în vedere natura extrem de digitalizată și interconectată a sistemului financiar, astfel de efecte nefavorabile asupra securității cibernetice s-ar putea propaga rapid, afectând funcții critice și importante din cadrul instituțiilor financiare, conducând în cele din urmă la perturbare sistemică și pierderea încrederii în sistemul financiar”, semnalează CERS.
Dependențe periculoase
FAIM-urile emergente majorează riscul asociat TIC (tehnologie a informației și comunicațiilor), ducând la slăbirea rezilienței operaționale în sectorul financiar, în special în patru domenii. În primul rând capacitatea de a remedia rapid sisteme complexe fără a cauza nefuncționalități operaționale, apoi capacitatea apărătorilor, inclusiv abilitatea acestora de a efectua testare de securitate automată și manuală asistată de FAIM, precum și capacitatea lor de a proteja, detecta și răspunde la amenințările provenite din utilizarea adversă a FAIM. Totodată, un element de vulnerabilitate este concentrarea, incluzând dependențele de un număr limitat de furnizori de IA, dependenți la rândul lor de furnizori de servicii cloud, componente open source și alte programe software utilizate pe scară largă, la care se adaugă și capacitatea autorităților, inclusiv calibrarea așteptărilor, testarea la stres și măsurile de pregătire în conformitate cu evoluția FAIM, astfel încât situațiile de dificultate operațională să nu devină o sursă de instabilitate mai largă, mai arată CERS. 
Mai mult, stabilirea și menținerea vizibilității implementării IA în cadrul oricărei instituții financiare – inclusiv înțelegerea pe deplin a locului și modului în care este implementată IA – este o provocare, având în vedere că aceasta este utilizată în interfețele cu clienții, la agenți interni, în procesele de afaceri și în integrarea cu terți.
Cutremur în piețe
Evoluțiile identificate pot modifica semnificativ atât amploarea, cât și structura riscului cibernetic, majorând atât riscurile directe, cât și pe cele indirecte pentru stabilitatea financiară. Capabilitățile FAIM pot supune cadrele existente de reziliență unei presiuni substanțiale, mai ales dacă incidentele sunt răspândite și au loc simultan. Incidentele se pot propaga rapid și în rândul instituțiilor financiare și al piețelor dacă sunt afectați furnizori terți de servicii de importantă critică, ecosisteme tehnologice comune sau componente open source utilizate pe scară largă, majorând riscul unor perturbări conexe cu implicații sistemice, semnalează CERS.
”Există diferențe în modul în care băncile sunt finanțate și echipate pentru a face față provocărilor generate de FAIM. Aceste diferențe pot fi generate de costuri care sunt fixe, mai degrabă decât graduale, de constrângeri de resurse și de accesul limitat la specialiști. Atunci când există o asimetrie în capacitatea de a face față unor astfel de provocări, cea mai slabă legătură a lanțului poate afecta stabilitatea sistemului”, se precizează în avertismentul CERS.
Blocaj total
În cazul în care sunt descoperite prea multe vulnerabilități cu impact de importanță critică într-un interval scurt de timp, astfel încât numărul de corecții software de importanță critică necesare crește substanțial, instituțiile financiare ar putea fi nevoite să decidă între a se expune unor riscuri cibernetice semnificative sau a reduce cerințele de testare a corecțiilor și, prin urmare, a risca incidente operaționale și întreruperi. ”Din cauza gradului ridicat de interconectare din cadrul sectorului financiar al Uniunii, precum și dintre acest sector și alte sectoare și jurisdicții, această situație prezintă un risc sistematic și are potențialul de a crea fragilități sistemice”, consideră CERS.
