Macchine con AI e Regolamento 2023/1230: gestire l'evoluzione del rischio

L'introduzione di algoritmi di apprendimento automatico nelle macchine solleva dubbi critici: come valutare un comportamento che cambia post-vendita? Con l'entrata in vigore del Regolamento (UE) 2023/1230 dal 20 gennaio 2027, la conformità non è più una fotografia statica, ma un processo dinamico.

La sfida del comportamento autoadattativo

Il cuore della problematica risiede nell'Allegato I, parte A, del Regolamento 2023/1230, che introduce requisiti specifici per i software di sicurezza. La valutazione dei rischi secondo la EN ISO 12100 diventa complessa quando la macchina 'impara' da dati nuovi, potendo potenzialmente alterare le proprie logiche di sicurezza originali.

Limiti della progettazione tradizionale

I sistemi tradizionali si basano su logiche deterministiche. Un sistema di AI, invece, opera su base probabilistica. Il rischio principale per il costruttore non è solo il malfunzionamento del software, ma la 'deriva' delle prestazioni di sicurezza in scenari non previsti durante il test iniziale.

La valutazione dei rischi nell'era dell'AI

La valutazione deve ora includere scenari di stress sui dati di apprendimento. Non basta verificare che il software funzioni correttamente; bisogna validare i confini entro cui l'AI può operare senza compromettere le funzioni di sicurezza definite ai sensi della EN ISO 13849-1.

Attenzione: la modifica del software di sicurezza tramite autoapprendimento può essere interpretata come una modifica sostanziale. Se il processo di apprendimento altera le funzioni di sicurezza originarie, la macchina necessita di una nuova procedura di valutazione della conformità.

Requisiti del fascicolo tecnico e software di sicurezza

Il fascicolo tecnico deve ora includere la logica di apprendimento e i criteri di validazione dei dati di input. Dovrete dimostrare che i dati utilizzati per l'addestramento non introducono bias pericolosi che potrebbero disattivare involontariamente le protezioni della macchina.

Strategia di monitoraggio continuo

È necessario implementare meccanismi di 'guardrail' software. Questi limitatori agiscono come supervisori di alto livello, pronti a riportare la macchina in uno stato sicuro qualora l'AI tentasse di superare i parametri di sicurezza prestabiliti nella valutazione iniziale.

Caso applicativo: braccio robotico con visione artificiale

Consideriamo un braccio robotico che impara a ottimizzare il percorso di movimentazione dei pezzi. Se l'algoritmo decidesse che passare attraverso una zona presidiata da laser scanner è più veloce, violerebbe i requisiti di sicurezza.

• Analisi: Il sistema deve includere un livello di controllo cablato o firmware certificato che impedisce fisicamente il superamento delle zone di sicurezza, indipendentemente dalle 'scoperte' dell'AI.
• Verifica: Il test deve includere tentativi intenzionali di indurre il sistema a violare i limiti di sicurezza tramite l'immissione di dati di apprendimento anomali.

Marcatura CE e Dichiarazione di conformità

La targa CE rimane la firma del costruttore. Tuttavia, la Dichiarazione UE di conformità dovrà riflettere il fatto che il software di sicurezza è parte integrante del sistema. È fondamentale dettagliare le versioni software e i vincoli operativi che definiscono il perimetro di sicurezza 'congelato' alla messa in servizio.

Come farlo con CEPilot

Con la nostra funzionalità di Valutazione dei Rischi, puoi gestire la complessità dei sistemi basati su AI integrando scenari di rischio dinamico direttamente nel tuo processo di marcatura. Il wizard guidato ti permette di definire zone operative specifiche e condizioni di guasto, inclusi i limiti di comportamento necessari per supervisionare gli algoritmi di autoapprendimento, assicurando che le logiche di sicurezza (Safety functions) rimangano all'interno dei parametri definiti dalla EN ISO 12100 e conformi alle nuove disposizioni del Regolamento (UE) 2023/1230.

In sintesi

• Adottate un approccio di sicurezza basato sui livelli (layering): separate l'AI (ottimizzazione) dai sistemi di sicurezza certificati (protezione).
• Documentate rigorosamente nel fascicolo tecnico il dominio di addestramento dell'AI e i limiti invalicabili impostati dal costruttore.
• Verificate che il software di sicurezza rimanga conforme anche dopo gli aggiornamenti di apprendimento, ricorrendo a test di regressione obbligatori.
• Preparatevi alla transizione verso il Regolamento (UE) 2023/1230, allineando le procedure di validazione software ai nuovi requisiti dell'Allegato I.