Intelligenza artificiale, una rivoluzione cognitiva. La prestigiosa rivista scientifica Nature ha appena pubblicato un articolo intitolato “The case for human-AI interaction as System 0 thinking”. Chi scrive, insieme a un team di ricercatori (Marianna Ganapini, Enrico Panai, Mario Ubiali), sono tra gli autori che affrontano il complesso argomento della relazione essere umano-AI, utilizzando un punto di vista multidisciplinare.
L’articolo propone una nuova teoria su come l’intelligenza artificiale stia cambiando il modo in cui pensiamo e prendiamo decisioni. Sosteniamo che l’interazione tra esseri umani e sistemi di AI avanzati stia creando un nuovo sistema cognitivo, che chiamiamo “Sistema 0”.
La teoria di Kahneman
Per capire il concetto di Sistema 0 è utile fare un passo indietro e ricordare la teoria dei due sistemi di pensiero proposta dal Premio Nobel Daniel Kahneman. Secondo Kahneman le persone per prendere decisioni e affrontare i problemi utilizzano due diversi sistemi cognitivi: il Sistema 1, caratterizzato da pensiero rapido, intuitivo e automatico, e il Sistema 2, che rappresenta un pensiero più lento, analitico e riflessivo.
Il Sistema 0 si riferisce alla capacità dell’AI di svolgere compiti cognitivi complessi in modo autonomo e indipendente dalla nostra mente biologica. Questi compiti includono la gestione di grandi quantità di dati, l’elaborazione di informazioni e la produzione di decisioni o suggerimenti su base algoritmica.
Tuttavia, a differenza del Sistema 1 e del Sistema 2 che sono incarnati, il Sistema 0 è esterno al nostro corpo, è inorganico e non possiede capacità intrinseche di dare significato alle informazioni che elabora. Questo significa che l’AI può analizzare e generare risposte senza realmente comprendere il contenuto su cui lavora, lasciando agli esseri umani il compito di interpretare e attribuire significato ai risultati ottenuti.
Un sistema che pre-elabora le informazioni
Questo livello di interazione tra essere umano e AI è quindi visto come un fondamento su cui si basano sia il pensiero intuitivo (Sistema 1) che quello analitico (Sistema 2). In altre parole, il Sistema 0 fornisce agli umani un supporto cognitivo che prepara le informazioni in modo più efficiente, ma che richiede ancora l’intervento umano per l’interpretazione e la decisione finale. Immaginate di avere un assistente invisibile che costantemente filtra, organizza e presenta informazioni in modo da renderle più facilmente comprensibili e utilizzabili.
Questo assistente non solo fornisce dati, ma li pre-elabora in base alle nostre preferenze e necessità. Siamo però noi che alla fine dovremmo prendere la decisione finale. Il rischio è quello di accettare passivamente i risultati prodotti dall’AI, senza metterli in discussione, portando così a un’erosione delle nostre abilità di ragionamento personale.
Un altro tema riguarda la trasparenza e la fiducia: come possiamo essere sicuri che i sistemi AI siano affidabili, privi di pregiudizi e in grado di offrire informazioni corrette?
Alla data non abbiamo alcuna sicurezza, inoltre, la crescente integrazione di dati sintetici (non direttamente raccolti dalla realtà) rischia di alterare la nostra percezione e comprensione del mondo. Ciò potrebbe influire negativamente sui processi decisionali, specialmente in contesti dove l’accuratezza dell’informazione è cruciale.
L’aspetto affascinante è il potenziale del Sistema 0 di influenzare anche il modo in cui percepiamo noi stessi. Tradizionalmente, l’introspezione è stata considerata un dominio esclusivo della mente umana, ma con l’avvento di AI in grado di analizzare i nostri comportamenti e stati mentali, potremmo presto cominciare a fare affidamento su queste tecnologie per comprendere aspetti della nostra psicologia personale.
Tuttavia, rimane aperta la domanda se l’analisi dell’AI possa veramente sostituire l’esperienza soggettiva dell’introspezione. Nonostante i rischi evidenziati, si riconoscono le potenziali opportunità offerte dal Sistema 0. L’AI può supportare l’umanità nell’affrontare sfide complesse che superano le capacità del pensiero umano.
Ad esempio, potrebbe rivelarsi fondamentale nella risoluzione di problemi scientifici, nell’analisi di grandi dataset o nella gestione di sistemi sociali complessi. Per bilanciare rischi e opportunità, proponiamo una serie di raccomandazioni. Sebbene il Sistema 0 possa migliorare le nostre capacità cognitive, dobbiamo assicurarci che rimanga uno strumento sotto il controllo umano e che i suoi output siano soggetti a valutazione critica e controllo etico.
Pertanto, suggeriamo di dedicare maggiore attenzione al tema della fiducia nell’IA, in particolare nel contesto del Sistema 0. Ciò include lo sviluppo di framework per la valutazione dell’affidabilità, della trasparenza e dei potenziali pregiudizi dei sistemi di IA, nonché la definizione di linee guida per il suo utilizzo responsabile ed etico.
In un futuro in cui l’AI avrà un ruolo sempre più centrale nelle nostre vite, il Sistema 0 potrebbe essere il prossimo grande passo nell’evoluzione del pensiero umano, e del calcolo non umano.
Lascia un commento