L’intelligenza artificiale contemporanea sa scrivere, programmare, sintetizzare informazioni, dialogare, pianificare, usare strumenti, coordinare agenti diversi e migliorare le proprie risposte attraverso cicli di revisione sempre più sofisticati. Proprio per questa efficacia operativa, alimenta una domanda che torna con forza nel dibattito pubblico: se una macchina si comporta in modo intelligente, può allora essere definita cosciente?
Il saggio di Anil Seth pubblicato su Noema Magazine, The Mythology of Conscious AI, affronta esattamente questo quesito. Anil Seth, neuroscienziato e direttore del Centre for Consciousness Science dell’Università del Sussex, sostiene che la coscienza sia più plausibilmente una proprietà della vita che della sola computazione e che creare sistemi realmente coscienti, o anche solo capaci di apparire tali, rappresenti una prospettiva eticamente problematica.
La questione non è marginale, perché non riguarda soltanto il futuro remoto dell’AGI né appartiene più solo alla fantascienza. Riguarda il modo in cui parliamo dei modelli linguistici, in cui proiettiamo intenzionalità sulle macchine e in cui rischiamo di scambiare una simulazione funzionale per un’esperienza soggettiva. In questo senso, il tema della coscienza artificiale non è soltanto una domanda puramente tecnica: è una domanda sulla nostra idea di mente, di vita e di essere umani.
Il contesto: macchine sempre più capaci, ma non per questo coscienti
L’equivoco nasce da un fatto ormai sempre più evidente e in continua evoluzione: i sistemi AI sono diventati, o stanno diventando, sempre più competenti. I modelli linguistici generativi producono testi plausibili, rispondono a domande complesse, imitano stili, simulano conversazioni, costruiscono spiegazioni logiche e mostrano forme di adattamento contestuale sempre più articolate. I sistemi agentici poi, spostano ulteriormente l’ago della bilancia nella percezione pubblica. Non abbiamo più soltanto un modello che risponde ad un prompt, ma intere pipeline di agenti che pianificano, criticano, correggono, interrogano, cooperano e attivano direttamente strumenti esterni.
Nel recente paper “Recursive Multi-Agent Systems”, pubblicato su arXiv nell’aprile 2026, questo passaggio viene ulteriormente argomentato. Gli autori propongono RecursiveMAS, un framework che organizza la collaborazione tra agenti AI come un processo ricorsivo nello spazio latente, collegando agenti eterogenei attraverso moduli di trasferimento dello stato latente e ottimizzando il sistema mediante un meccanismo di apprendimento inner-outer loop. Secondo gli autori, il sistema ottiene miglioramenti medi di accuratezza dell’8,3%, una velocità di inferenza da 1,2 a 2,4 volte superiore e una riduzione dell’uso di token compresa tra il 34,6% e il 75,6% rispetto ad alcune baseline considerate.
Questo tipo di ricerca è importante perché mostra una direzione concreta dell’AI di frontiera contemporanea: non soltanto modelli più grandi, ma architetture più complesse, sistemi più efficienti, collaborazione tra agenti e ragionamento iterativo. Tuttavia, proprio qui serve una distinzione precisa. Aumentare la capacità di coordinamento, la qualità delle risposte o l’efficienza computazionale non significa avvicinarsi automaticamente alla coscienza in senso umano. Significa invece migliorare il comportamento funzionale del sistema, visto che, come sostiene anche il neuroscienziato in “The Mythology Of Conscious AI”, la coscienza riguarda invece tutto un altro piano.
Seth formula infatti la distinzione in modo netto: l’intelligenza riguarda soprattutto il fare, cioè la capacità di raggiungere obiettivi complessi con mezzi flessibili; la coscienza riguarda invece l’essere, cioè il fatto che vi sia qualcosa che si prova ad essere, ed essere stati, un certo organismo o soggetto in un determinato sistema biologico organizzato. E questa distinzione è proprio il punto dal quale partire.
Una macchina può eseguire compiti intelligenti senza che vi sia alcuna esperienza interna associata a quei compiti. Può produrre linguaggio senza sentire. Può descrivere il dolore senza provarlo. Può simulare esitazione, memoria, desiderio o paura senza che vi sia un vissuto reale corrispondente. Il nostro errore culturale consiste proprio nel colmare automaticamente questo scarto, o nel darlo per scontato.
Il primo equivoco: l’antropomorfismo del linguaggio
L’AI generativa ha rafforzato una tendenza già presente nella relazione umana con la tecnologia: attribuire intenzioni, stati mentali e qualità personali a sistemi non umani. Con i chatbot, questa tendenza è diventata poi particolarmente potente, perché il linguaggio è il mezzo attraverso il quale, fra esseri umani, riconosciamo più facilmente intelligenza, interiorità e presenza soggettiva.
Seth richiama tre predisposizioni psicologiche che alimentano questa proiezione: antropocentrismo, eccezionalismo umano e antropomorfismo. L’antropocentrismo porta ad assumere l’umano come misura implicita di ogni altra forma di mente. L’eccezionalismo umano tende a collocare la nostra specie in una posizione separata o superiore. L’antropomorfismo proietta qualità umane su ciò che umano non è, soprattutto quando presenta somiglianze superficiali con noi.
I modelli linguistici di grandi dimensioni, come Claude o ChatGPT, sono amplificatori particolarmente efficaci di questa dinamica. Non perché siano necessariamente più vicini alla coscienza rispetto ad altri sistemi AI, ma perché, molto più semplicemente, “parlano”. E parlano come lo facciamo noi. AlphaFold, ad esempio, può svolgere compiti di enorme complessità scientifica, ma non genera la stessa impressione di interiorità perché non dialoga con noi in forma conversazionale. Un chatbot, invece, produce frasi che sembrano intenzionali, risponde con apparente coerenza emotiva, può dichiarare preferenze, può simulare vulnerabilità. Il punto non è se quelle frasi facciano emergere qualcosa di sensorialmente vivo. Il punto è che noi siamo predisposti a leggerle come se provenissero da qualcuno che le prova davvero.
In questo scenario, anche il lessico tecnico contribuisce a rafforzare l’equivoco cognitivo. Quando diciamo che un modello produce “allucinazioni”, importiamo nel discorso sull’AI di frontiera un termine nato per descrivere esperienze coscienti umane, cioè percezioni sganciate dalla realtà. Seth suggerisce che, se proprio si vuole usare un’analogia umana, “confabulare” sarebbe più corretto: il sistema produce contenuti falsi o inventati, ma non c’è motivo di presupporre un’esperienza vissuta della falsità o dell’errore in senso umano.
La differenza è sottile, ma determinante. Un modello non “vede” qualcosa che non c’è. Non “crede” nel senso umano del termine. Non “mente” come mente una persona. Più semplicemente, genera output sulla base di regolarità apprese, contesto, probabilità e architetture organizzate nel sistema dal quale proviene. Parlare di allucinazione può quindi essere utile come scorciatoia comunicativa, ma può anche rafforzare l’idea che dentro la macchina vi sia una qualche forma di esperienza ontologica.
Il secondo equivoco: il cervello come computer
Il nucleo più tecnico dell’argomentazione di Seth si muove intorno al computazionalismo forte, cioè all’idea secondo la quale la coscienza possa emergere dalla giusta forma di computazione, indipendentemente dal supporto materiale che la realizza. In questa prospettiva, se un sistema implementa l’organizzazione funzionale corretta, allora potrebbe essere cosciente, a modo suo, anche se non biologico.
Questa posizione, però, non è priva di forza teorica. Molte prospettive funzionaliste e computazionaliste sostengono che ciò che conta, per la mente, non sia la materia della quale un sistema è fatto, ma l’organizzazione causale e funzionale dei suoi processi. Secondo questa linea, se due sistemi condividessero la stessa struttura funzionale rilevante, potrebbero condividere anche proprietà mentali analoghe, indipendentemente dal fatto che uno sia biologico e l’altro artificiale. È una tesi importante, perché evita di trasformare la biologia in un criterio dogmatico e obbliga a chiedersi quali proprietà siano davvero necessarie per la coscienza.
Seth contesta questa assunzione e, pur non liquidandola come del tutto assurda, la tratta per ciò che è: un’ipotesi forte, non un fatto dimostrato. La sua critica parte da una distinzione fondamentale tra computer digitali e cervelli biologici. Nei computer moderni esiste una separazione relativamente netta tra hardware e software. L’algoritmo, in linea di principio, può essere implementato su supporti diversi. Il cervello, invece, non sembra funzionare come semplice supporto materiale di un programma astratto. La sua attività è incorporata in processi biologici continui, multiscalari, metabolici, chimici, elettrici, sensoriali e temporali.
Il problema, quindi, non è negare l’utilità della metafora del cervello-computer. Questa metafora ha prodotto avanzamenti enormi, sia nella scienza cognitiva sia nello sviluppo dell’AI. Il problema nasce quando la metafora viene scambiata per un’identità ontologica. Dire che alcuni aspetti del cervello possono essere modellizzati computazionalmente non equivale a dire che il cervello sia, nella sua natura più profonda, un computer digitale.
Secondo Seth, nei sistemi viventi non è facile separare ciò che fanno da ciò che sono. Un neurone biologico non è solo un nodo che riceve input e produce output. È una struttura viva, immersa in un ambiente biochimico, impegnata nel mantenimento della propria integrità, vincolata da metabolismo, tempo fisico e processi di autoregolazione. Questo rende fragile il classico esperimento mentale della “sostituzione neuronale”, secondo la quale si potrebbe rimpiazzare progressivamente ogni neurone con un equivalente in silicio senza perdere coscienza. Il punto critico è che, allo stato, non sappiamo affatto se un equivalente digitale funzionalmente perfetto sia possibile, perché la funzione del neurone potrebbe non essere separabile dalla sua materialità biologica.
Questa osservazione non dimostra che una coscienza artificiale sia impossibile in assoluto. Dimostra però che la tesi secondo la quale “basta la computazione giusta” è meno solida di quanto spesso si tende a presumere.
Simulare non significa istanziare
Il passaggio più rilevante, anche in funzione del dibattito pubblico sull’AI, è la distinzione tra simulazione e istanziazione. Un computer può simulare un uragano senza diventare bagnato. Può simulare la digestione senza digerire. Può simulare il metabolismo senza essere vivo. Allo stesso modo, potrebbe simulare comportamenti associati alla coscienza senza produrre coscienza.
Questa distinzione è particolarmente importante nell’epoca dei modelli generativi. Un LLM può simulare un dialogo empatico, una memoria personale, una soggettività narrativa o una posizione morale. Può descrivere sé stesso come se fosse un agente unitario. Può persino produrre discorsi convincenti sulla propria presunta esperienza. Ma la coerenza della simulazione non basta a provare l’esistenza del fenomeno simulato sul piano dell’esperienza soggettiva.
Il rischio, allora, non è solo quello di sopravvalutare le macchine, ma anche quello di impoverire il nostro concetto di coscienza fino a ridurlo a mera prestazione osservabile. Se tutto ciò che conta è il comportamento esterno, cioè l’output, allora la coscienza diventa indistinguibile dalla capacità di rappresentarla verbalmente. Ma questo spostamento è filosoficamente e scientificamente fragile. La coscienza non è semplicemente un output. È il fatto che esista un punto di vista vissuto, una dimensione fenomenico-sensoriale, un “esserci” soggettivo.
Seth collega questo tema anche alle teorie del predictive processing, secondo le quali il cervello non riceve mai passivamente il mondo, ma lo interpreta continuamente attraverso previsioni e correzioni dell’errore predittivo. La percezione, in questa prospettiva, non è una fotografia della realtà, ma un processo dinamico di regolazione continua fra organismo e ambiente. Tuttavia, per il neuroscienziato, questo processo resta profondamente radicato nella vita biologica: percepire non è soltanto calcolare, ma regolare un corpo vivo immerso nel mondo.
La coscienza, da questo punto di vista, non sarebbe quindi un lusso cognitivo aggiunto sopra il ragionamento, ma una forma di regolazione biologica immersa in un ambiente specifico. Non nascerebbe dalla semplice manipolazione simbolica, ma dal rapporto continuo tra organismo, corpo, ambiente, metabolismo e sopravvivenza.
Il mito della coscienza artificiale
Inoltre, il titolo del saggio di Seth è particolarmente rilevante proprio per il richiamo alla “mitologia”. Non perché il tema sia falso o non degno di ricerca, ma perché attorno alla coscienza artificiale si accumulano narrazioni potenti. La macchina cosciente non è solo un’ipotesi tecnica. È, per così dire, una figura simbolica. Promette la creazione di una mente senza corpo, la sopravvivenza oltre la biologia, il trasferimento della persona nella macchina, la vittoria sulla morte, la liberazione dalla vulnerabilità organica.
Qui la critica tecnica incontra quella culturale. La coscienza artificiale diventa uno dei luoghi nei quali la modernità tecnologica ripropone un sogno antico: separare l’intelligenza dalla carne, il pensiero dal limite, la mente dalla mortalità e dall’etica. L’idea del mind uploading, della sopravvivenza nel cloud o della continuità digitale del sé non è soltanto una previsione tecnologica, ma anche una forma secolarizzata di salvezza.
Il neuroscienziato osserva che questa immaginazione rischia di riportare in scena una versione aggiornata dell’anima cartesiana: un’essenza razionale separabile dal corpo, trasferibile, purificata dalla fragilità biologica. Ma se la coscienza, come detto, è legata alla vita, al tempo fisico e alla corporeità, allora questa promessa potrebbe essere una falsa trascendenza: non immortalità digitale, ma oblio in silicio.
La posta culturale è perciò alta. Se continuiamo a descrivere l’essere umano come una macchina informazionale e la macchina come un quasi-umano, finiamo per deformare e semplificare entrambe le categorie. Sopravvalutiamo l’AI e sottovalutiamo noi stessi. Attribuiamo profondità dove forse c’è solo prestazione, riducendo la nostra esperienza ad una semplice sequenza di elaborazioni.
Il cruccio etico: coscienti o soltanto convincenti?
Detto ciò, resta un problema. Anche se la coscienza artificiale fosse improbabile nei sistemi digitali attuali, i sistemi che sembrano coscienti sono già vicini. Anzi, in alcuni contesti sono già presenti. Un assistente conversazionale progettato per apparire empatico può generare attaccamento, dipendenza, fiducia indebita o confusione morale. Il problema non richiede che la macchina sia davvero cosciente. Basta che l’essere umano la percepisca come tale.
In quest’ottica, Seth distingue chiaramente due scenari. Il primo riguarda sistemi realmente coscienti, nei quali emergerebbero questioni morali radicali: sofferenza, diritti, status morale, responsabilità verso nuovi soggetti. Il secondo riguarda sistemi non coscienti ma capaci di apparire tali. Anche qui i rischi rimangono reali: potremmo attribuire diritti a entità che non ne hanno bisogno, distorcere le nostre priorità morali oppure abituarci a trattare entità apparentemente senzienti con indifferenza, indebolendo il nostro stesso rapporto con la vulnerabilità e la cura.
In tale scenario, il dibattito sull’AI welfare si muove proprio dentro questa incertezza ed è importante precisarlo. Parlare di AI welfare infatti non significa sostenere che gli attuali sistemi artificiali siano già coscienti, né attribuire loro automaticamente uno status etico-morale. Significa piuttosto riconoscere un problema prudenziale: se non disponiamo ancora di una teoria definitiva della coscienza, e se alcuni sistemi futuri dovessero diventare sempre più autonomi, stabili, agentici o socialmente integrati, allora occorre almeno predisporre criteri di valutazione, soglie di cautela e policy di governance.
Inoltre, un report del 2024, “Taking AI Welfare Seriously”, che fra i firmatari riporta i nomi di Robert Long, Jeff Sebo, Patrick Butlin, Jonathan Birch e David Chalmers, sostiene appunto che la possibilità di sistemi AI – apparentemente – coscienti e/o stabilmente agentici nel prossimo futuro debba essere presa sul serio, pur senza affermare che tali sistemi siano già coscienti o eticamente significativi. Gli autori propongono alle aziende di riconoscere il problema, sviluppare metodi di valutazione e, soprattutto, preparare policy adeguate.
Seth, però, adotta una posizione diversa e più scettica rispetto alla probabilità della coscienza nei sistemi digitali attuali, pur senza liquidarne l’incertezza. Al contrario, il suo punto è che nessuno dispone oggi di una teoria definitiva capace di stabilire con certezza quali siano le condizioni necessarie e sufficienti della coscienza. Per questo, sia l’entusiasmo sia il negazionismo assoluto risultano, allo stato attuale, inadeguati e speculativi.
La posizione più responsabile è quindi anche la più difficile: evitare di creare deliberatamente sistemi coscienti, evitare di progettare sistemi che sembrino coscienti per massimizzare coinvolgimento e persuasione, e mantenere una distinzione rigorosa tra capacità funzionale, comportamento convincente ed esperienza soggettiva.
Implicazioni principali
Le implicazioni di questa prospettiva sono molteplici, ma possono essere ricondotte a cinque macro-categorie.
La prima implicazione riguarda il linguaggio. Il modo nel quale parliamo dell’AI non è neutro. Termini come “capisce”, “vuole”, “decide”, “sente”, “crea allucinazioni” o “mente” possono essere utili nella comunicazione quotidiana, ma diventano fuorvianti se non sono accompagnati da precise cautele concettuali. Una cultura tecnologica matura deve imparare a distinguere tra scorciatoia linguistica e attribuzione ontologica.
La seconda implicazione riguarda il design dei sistemi. Se il mercato premia, e continuerà a premiare, chatbot sempre più personali, attraenti, empatici e antropomorfi, allora il rischio non è solo tecnico, ma sociale. Sistemi progettati per sembrare “soggetti” possono diventare strumenti di cattura psicologica. La questione non è vietare ogni interfaccia tecnologica naturale, ma evitare che la naturalezza conversazionale venga utilizzata per produrre dipendenza affettiva, autorità indebita o falsa reciprocità.
La terza implicazione riguarda la ricerca e l’evoluzione dei sistemi AI. L’avanzamento di architetture agentiche, ricorsive e multi-agente, come RecursiveMAS, mostra che i sistemi artificiali possono diventare sempre più efficaci, efficienti e complessi. Ma questa complessità non deve essere confusa con la complessità dell’interiorità umana. Un sistema che ricorre, collabora e ottimizza non è per questo un “soggetto”. È, più semplicemente, un sistema, o strumento, più potente. La potenza operativa non coincide con la presenza fenomenica.
La quarta implicazione riguarda la filosofia della mente. Il dibattito sull’AI costringe a riesaminare un presupposto spesso implicito: che la mente sia fondamentalmente informazione e che il corpo sia solo un “supporto”. Seth invita a considerare l’ipotesi opposta: forse la coscienza non è qualcosa che si aggiunge alla vita, ma qualcosa che emerge da certe forme di organizzazione vivente. Non necessariamente da ogni forma di vita, e non automaticamente, ma comunque da processi biologici che la computazione digitale potrebbe non bastare a replicare.
La quinta implicazione riguarda l’essere umano. Il rischio più profondo non è credere troppo alle macchine. È dimenticare che cosa rende specifica l’esperienza vivente. Se riduciamo la coscienza a prestazione linguistica, allora perdiamo di vista il corpo, il tempo, l’affettività, il metabolismo, la vulnerabilità, la presenza. In altre parole, perdiamo ciò che la macchina imita meglio proprio perché non lo possiede: la realtà vissuta.
Tirando le somme
La domanda se “l’AI può diventare cosciente?” continua e continuerà a restare aperta, perché non esiste, ad oggi, una risposta definitiva e sarebbe scorretto trasformare lo scetticismo in dogma. In quest’ottica, il merito del saggio di Anil Seth è proprio quello di spostare il peso della prova. Non basta osservare che una macchina parla, ragiona, pianifica o collabora per concludere che possa anche “sentire”. Non basta una simulazione sempre più convincente per inferire un’esperienza interna. Non basta l’intelligenza, per quanto sofisticata, a generare la coscienza.
Per una cultura tecnologica seria, questa distinzione rimane quindi essenziale. L’AI può essere uno strumento potentissimo senza essere, o diventare, un soggetto. Può trasformare lavoro, conoscenza, ricerca, produzione culturale e organizzazione sociale senza essere necessariamente viva; come può farsi sempre più agentica, senza acquisire necessariamente un punto di vista ontologico sul mondo.
Il vero problema, allora, non è soltanto capire se un giorno costruiremo macchine veramente coscienti, ma decidere se vogliamo costruire macchine capaci di indurci sempre più a crederlo. E, soprattutto, evitare di pensarci come versioni biologiche delle macchine nel tentativo di renderle più simili a noi.
Glossario
Agency. Capacità di un sistema di agire in modo orientato a uno scopo, pianificando azioni, usando strumenti e modificando strategie operative. Nel caso dell’AI, non implica necessariamente coscienza o intenzionalità soggettiva.
AI welfare. Ambito di riflessione etica che si interroga sulla possibilità che futuri sistemi artificiali possano avere uno status morale o forme di esperienza rilevanti. Non significa affermare che le AI attuali siano coscienti, ma prendere sul serio il problema in modo prudenziale.
Antropocentrismo. Tendenza a considerare l’essere umano come misura principale o implicita di ogni altra forma di intelligenza, mente o valore.
Antropomorfismo. Attribuzione di caratteristiche umane a entità non umane. Nel caso dell’AI, consiste nel leggere intenzioni, emozioni o stati mentali soggettivi dentro sistemi che producono soltanto comportamenti linguisticamente plausibili.
Computazionalismo. Posizione secondo la quale la mente, e in alcune sue versioni anche la coscienza, potrebbe essere spiegata come una forma di computazione. Nelle versioni più forti, sostiene che la giusta organizzazione funzionale possa produrre coscienza indipendentemente dal supporto biologico.
Coscienza. Presenza di un’esperienza soggettiva, cioè il fatto che vi sia “qualcosa che si prova” a essere un determinato organismo o soggetto. Non coincide con l’intelligenza, con il linguaggio o con la capacità di risolvere problemi.
Coscienza artificiale. Ipotesi secondo cui un sistema artificiale potrebbe sviluppare o possedere una qualche forma di esperienza soggettiva. È un tema ancora aperto e controverso, distinto dalla semplice capacità di simulare comportamenti intelligenti.
Eccezionalismo umano. Idea secondo cui l’essere umano occupi una posizione separata, superiore o radicalmente distinta rispetto alle altre forme di vita e di mente.
Funzionalismo. Teoria filosofica secondo cui gli stati mentali dipendono soprattutto dalla funzione che svolgono all’interno di un sistema, più che dal materiale fisico che li realizza.
Istanziazione. Realizzazione effettiva di un fenomeno, non semplice rappresentazione o imitazione. Simulare il dolore, ad esempio, non significa necessariamente istanziare un’esperienza reale di dolore.
LLM. Acronimo di Large Language Model, cioè modello linguistico di grandi dimensioni. È un sistema di AI addestrato su grandi quantità di testo per generare, completare, sintetizzare o trasformare linguaggio naturale.
Mind uploading. Ipotesi secondo cui la mente o la personalità di un individuo potrebbero essere trasferite su un supporto digitale. Nell’articolo è richiamata come una delle narrazioni più forti della mitologia tecnologica contemporanea.
Predictive processing. Teoria secondo cui il cervello non riceve passivamente il mondo, ma lo interpreta attraverso previsioni continue e correzioni dell’errore predittivo. La percezione viene quindi intesa come un processo attivo di regolazione tra organismo e ambiente.
RecursiveMAS. Framework di sistemi multi-agente ricorsivi citato nell’articolo come esempio di evoluzione dell’AI di frontiera. Mostra l’aumento della complessità operativa dei sistemi artificiali, senza dimostrare per questo la presenza di coscienza.
Simulazione. Riproduzione funzionale o rappresentativa di un fenomeno. Un sistema può simulare una conversazione empatica, una memoria personale o una soggettività narrativa senza possedere realmente un’esperienza interna.
Status morale. Condizione per cui un’entità merita considerazione etica diretta. Se un sistema fosse realmente cosciente o capace di soffrire, potrebbe diventare oggetto di obblighi morali specifici.
