Datrix si aggiudica due nuovi finanziamenti: il progetto SATML-B, promosso dal centro di competenza nazionale ad alta specializzazione per la cybersecurity per l’estensione di AIA-Guard, piattaforma progettata da Datrix per identificare e mitigare attacchi di tipo adversarial machine learning e data poisoning, permettendo quindi di rendere meno vulnerabili i modelli di AI, e la Doctoral Networks SPM4.0, coordinato dall’ Institute for Bioengineering of Catalonia (IBEC), con l’ambizione di sviluppare nuovi algoritmi di Deep Learning per l’analisi di immagini raccolte tramite microscopia a scansione di sonda applicata al contesto medicale.
Con questi progetti, Datrix, in linea con i recenti sviluppi relativi all’AI Act, punta a proporre sul mercato Europeo soluzioni, all’interno della nicchia Trustworthy and Reliable AI, capace di soddisfare i requisiti GDPR di utilizzatori del settore pubblico e privato, dando una risposta concreta alle crescenti esigenze di sicurezza in ambito di intelligenza artificiale, contribuendo alla realizzazione di sistemi affidabili e trasparenti anche in contesti sfidanti come il settore medicale.
SATML-B, acronimo di “Sicurezza, Affidabilità e Trasparenza delle tecniche di Machine Learning ed analisi Big data”, mira ad ampliare le funzionalità della piattaforma AIA-Guard, progettata da Datrix nel contesto di una precedente iniziativa finanziata da Cyber 4.0 e completata con successo nel febbraio 2023. Il progetto introdurrà un nuovo modulo chiamato “AI Shield”, progettato per proteggere attivamente i modelli di AI da input malevoli, concentrandosi sul potenziamento dei moduli di mitigazione agli Adversarial Attack e di Data Sanitization & Anonymization. Il progetto SATML-B, coordinato da Datrix e che avrà una durata di 12 mesi, potrà contare su un budget complessivo di 570.000 euro.
Oggi diverse realtà, sia pubbliche che private, puntano a sviluppare e utilizzare nuove applicazioni di AI per automatizzare i propri processi o servizi, ma l’utilizzo di modelli AI in ambienti di produzione può introdurre nuove vulnerabilità informatiche e di conseguenza rappresentare un vettore di cyber attacco. Questi nuovi rischi comprendono attacchi ai modelli di AI al fine di clonare il modello stesso, metterne fuori uso l’applicativo, rubare dati personali, oppure manipolare i dati utilizzati nelle fasi di ri-allenamento. Con lo sviluppo di “AIA Guard”, Datrix ha voluto fornire una soluzione capace di identificare queste possibili vulnerabilità ed offrire soluzioni concrete per mitigarle.
###
Resta sempre aggiornato sul tuo titolo preferito, apri l'Insight dedicato a Datrix
