Formato: EPUB
La tesi centrale di questo rapporto è che valutare un sistema di IA avanzato non possa ridursi a stabilire quante risposte esatte produce. Occorre esaminare anche quali presupposti accetta, quali prove utilizza, come collega le premesse alle conclusioni, quanta confidenza dichiara, come reagisce alle controprove e se il suo comportamento resta affidabile quando cambia il contesto. Questa è la funzione proposta per un Motore di Valutazione Epistemica: non un oracolo capace di certificare la verità in generale, ma un’infrastruttura di audit che scompone una prestazione in dimensioni controllabili e conserva una traccia delle evidenze, dei test, dei dissensi e dei limiti. La proposta risponde a un problema reale di scalable oversight: quando le prestazioni della macchina superano quelle del revisore in un compito specifico, il controllo umano deve spostarsi dalla riproduzione diretta della soluzione alla verifica di artefatti, procedure, vincoli e conseguenze. La epistemic safety estende inoltre il problema alla protezione della qualità delle credenze degli stessi supervisori, che un sistema capace potrebbe influenzare pur apparendo corretto nel compito osservato (CSIRO, DISR).
L’analisi porta a una conclusione costruttiva ma più prudente rispetto all’impostazione iniziale. Accuratezza, F1 e perplexity non sono metriche inutili: misurano proprietà parziali che restano necessarie, ma non bastano a rilevare risposte corrette per ragioni sbagliate, giustificazioni infedeli, confidenza mal calibrata o resistenza anomala alla revisione. Analogamente, la spiegazione in linguaggio naturale non equivale a una finestra sul calcolo interno: una catena di ragionamento può essere leggibile senza essere completa o fedele ai fattori che hanno effettivamente prodotto la risposta. Anche il consenso fra modelli non è automaticamente conoscenza indipendente, perché giudici simili possono condividere dati, pregiudizi ed errori. Infine, la verifica formale può sostituire la fiducia nel dimostratore con il controllo meccanico di un certificato, soltanto nei domini in cui enunciato, assiomi e specifiche sono formalizzabili; non elimina il problema della corrispondenza fra modello formale e realtà. Il MVE deve quindi essere progettato come ecosistema di prove eterogenee, non come un secondo modello linguistico investito dell’autorità di giudice supremo.
Sul piano istituzionale, non esiste oggi una “ISO epistemica” né un diritto generale all’audit epistemico delle superintelligenze. Esistono però componenti su cui costruire: ISO/IEC 42001 per i sistemi di gestione dell’IA, ISO/IEC 42005 per la valutazione d’impatto, ISO/IEC 42006 per gli organismi che eseguono audit e certificazione, il NIST AI Risk Management Framework e gli obblighi europei per i modelli GPAI con rischio sistemico. ISO/IEC 42005 è stata pubblicata nel maggio 2025 e fornisce guida per i processi di valutazione d’impatto; ISO/IEC 42006, pubblicata nello stesso mese, specifica requisiti per gli organismi di audit e certificazione dei sistemi di gestione dell’IA (ISO 42005, ISO 42006). La proposta più realistica è dunque un profilo di audit epistemico integrabile in questi quadri, con accesso graduato, indipendenza dei valutatori, monitoraggio continuo, registrazione delle decisioni e possibilità di riesame.
DOWNLOAD
FILESTORE
Scrivi un commento