El fenomen del “data poisoning” (enverinament de dades) representa una amenaça significativa per als sistemes d’Intel·ligència Artificial (IA). Encara que aquest problema no és nou, ha cobrat renovada atenció degut a la proliferació del Big Data i l’evolució de les tecnologies d’IA. El “data poisoning” consisteix a manipular o injectar informació alterada en conjunts de dades utilitzats per entrenar models de Machine Learning (ML). Aquests atacs poden reduir dràsticament la fiabilitat d’aquests models o fins i tot permetre als atacants introduir portes enrere, permetent-los manipular els models al seu gust.
Els sistemes d’IA i ML, especialment en el sector energètic, són susceptibles al “data poisoning”. Per exemple, els atacants poden comprometre els cicles d’entrenament de vehicles autònoms, provocant que interpreten malament les senyals de trànsit. El perill és encara major al considerar el possible enverinament de dades en aplicacions de salut, la qual cosa podria conduir a diagnòstics incorrectes i sobrecarregar el sistema sanitari.
Per mitigar aquests riscos, és essencial comprendre la naturalesa del “data poisoning” i les seves conseqüències. Examinant conjunts de dades amb models de ML prèviament emprats i comparant-los amb models de producció actuals, les discrepàncies poden indicar possibles alteracions de dades. Les polítiques que limiten la quantitat de dades que un usuari pot proporcionar també són beneficioses, ja que els atacants solen injectar grans quantitats de dades en els conjunts de dades. És crucial millorar els controls d’accés i enfortir les polítiques d’identificació tant per a clients com servidors, incloent els serveis al núvol.
El 2021, Hyrum Anderson de Microsoft va demostrar com es podia extreure informació d’un model de ML sense ser detectat per sistemes de defensa. Aquesta presentació ofereix valuoses perspectives sobre els riscos potencials que enfronten les empreses i suggereix direccions per prevenir el perill.
Les tècniques defensives han d’incloure la reducció de la superfície d’atac amb tallafocs, l’aplicació oportuna de pegats de seguretat, la monitorització del tràfic de xarxa i comptar amb un sòlid pla de resposta a incidents. La seguretat física és igualment important, ja que el “data poisoning” pot ocórrer dins de les instal·lacions de l’empresa. Netejar les dades enverinades és un desafiament i pot fer que les activitats de formació en IA siguin inútils.
Source: Cybersecurity360
Per mitigar amenaces potencials, és important implementar mesures addicionals de ciberseguretat amb l’ajuda d’un soci de confiança com INFRA www.infrascan.net o bé pots provar-ho tu mateix utilitzant check.website.