Cisco presenta il nuovo AI Security Framework

L’intelligenza artificiale sta assumendo un ruolo sempre più centrale nelle aziende, ma molte di esse non sono pronte a gestirne i rischi. Secondo il Cisco 2025 AI Readiness Index , solo il 29% delle organizzazioni si sente pronto a difendersi dalle minacce legate all’IA, e appena il 33% ha un piano per un’adozione responsabile. I dirigenti conoscono la cybersecurity tradizionale, ma faticano a gestire i rischi dell’IA, caratterizzati da comportamenti imprevedibili dei sistemi.

Per affrontare queste sfide, Cisco ha sviluppato l’AI Security Framework , un approccio integrato e indipendente dai fornitori in grado di aiutare le aziende a comprendere i possibili errori dei sistemi IA, come questi potrebbero essere attaccati e come costruire difese capaci di evolvere con la tecnologia, coprendo rischi tecnici, comportamentali e di governance.

Leggi anche Cisco AI Assistant for Security

Un panorama frammentato e la necessità di integrazione

Per anni, le aziende hanno cercato di gestire i rischi dell’IA usando linee guida diverse: MITRE ATLAS per le tattiche avversarie, NIST per gli attacchi al machine learning, OWASP per i modelli linguistici e pratiche interne di Google, OpenAI e Anthropic. Ma nessuno di questi strumenti offre una visione completa del rischio. Serve invece un modello unico che integri sicurezza, runtime, supply chain, comportamento dei modelli, input/output dannosi e rischi agentici, perché nel mondo reale i rischi non sono separati e nemmeno gli attaccanti li affrontano a compartimenti stagni.

Un nuovo paradigma per comprendere il rischio dell'IA

I rischi dell’IA sono concreti e richiedono un approccio unificato. Cisco distingue due dimensioni complementari:

• Sicurezza dell’IA : proteggere i sistemi da attacchi, accessi non autorizzati e compromissioni durante tutto il ciclo di vita.
• Sicurezza responsabile dell’IA : garantire che l’IA si comporti in modo etico, affidabile, trasparente e allineato ai valori umani.

Affrontare insieme sicurezza e rischi operativi permette alle aziende di costruire sistemi di IA robusti, sicuri e affidabili.

Per rispondere a un panorama di minacce IA in continua evoluzione, il Framework Integrato di Sicurezza e Protezione AI di Cisco si basa su cinque elementi chiave: integrazione delle minacce e dei contenuti dannosi, gestione del ciclo di vita, orchestrazione multi-agente, supporto multimodale e utilizzo consapevole del pubblico.

• Integrazione di minacce e danni : sicurezza e protezione dell’IA sono inseparabili. Attacchi tecnici e manipolazioni dei contenuti spesso si combinano, causando danni reali agli utenti. Il framework unisce questi elementi in un’unica struttura per comprendere i rischi in modo olistico.
• Consapevolezza del ciclo di vita : i rischi cambiano durante sviluppo, addestramento, distribuzione e operatività. Il framework aiuta le organizzazioni a identificare le vulnerabilità in ogni fase e a implementare difese che evolvono con il sistema.
• Orchestrazione multi-agente : considera i rischi quando più sistemi IA collaborano, valutando comunicazioni, memoria condivisa e processi decisionali autonomi—minacce invisibili ai framework tradizionali.
• Multimodalità : l’IA oggi lavora su testo, audio, immagini, video, codice e dati dai sensori. Il framework consente di trattare in modo coerente i rischi derivanti da diversi tipi di input, essenziali per robotica, veicoli autonomi e piattaforme di monitoraggio.
• Uso consapevole del pubblico : il framework offre una “bussola” per diversi interlocutori: dirigenti, responsabili della sicurezza, ingegneri e team di threat intelligence. Tutti condividono un modello comune, migliorando comunicazione e allineamento tra funzioni aziendali, sicurezza, sviluppatori e governance.

In sintesi, il Cisco AI Security Framework fornisce un linguaggio condiviso e una visione completa dei rischi IA, dalle infrastrutture e supply chain alle politiche organizzative e alle interazioni umane, aiutando le aziende a costruire sistemi di IA sicuri, affidabili e responsabili.

Classificazione unificata delle minacce dell'IA

Un elemento centrale del Cisco AI Security Framework è la sua classificazione unificata delle minacce, organizzata in quattro livelli: obiettivi (il “perché” degli attacchi), tecniche (il “come”), sottotecniche (varianti specifiche) e procedure (implementazioni reali). Questa struttura collega le motivazioni degli attaccanti agli impatti concreti sui sistemi e sulle aziende.

Il framework identifica 19 obiettivi degli attaccanti , tra cui dirottamento, jailbreak, compromissione della privacy, escalation di privilegi e generazione di contenuti dannosi. A livello operativo, include oltre 150 tecniche e sottotecniche , come iniezioni di prompt, manipolazioni multi-agente, corruzione della memoria e compromissione della supply chain, coprendo scenari complessi come la propagazione di prompt malevoli tra strumenti e agenti. La classificazione copre anche 25 categorie di contenuti dannosi , dai problemi di cybersecurity e privacy alla compromissione della proprietà intellettuale.

Il Framework Integrato di Sicurezza e Protezione AI di Cisco è uno degli approcci più completi e lungimiranti disponibili oggi. In un’epoca in cui l’IA sta trasformando i settori, avere una visione chiara dei rischi non è solo utile, ma essenziale. Il framework è integrato anche in Cisco AI Defense , dove minacce, indicatori e strategie di mitigazione vengono tracciati in modo pratico.