La scrittura ai tempi dell’AI

Per decenni, la fantascienza ha rappresentato il nostro laboratorio speculativo privilegiato, uno spazio in cui esplorare i futuri possibili attraverso narrazioni che oscillavano tra l’utopia e la distopia. Dalle macchine volanti immaginate da Jules Verne alle megalopoli verticali di Blade Runner, dai super computer senzienti di 2001: Odissea nello spazio alla cybernetica invasiva di Ghost in the Shell, l’intelligenza artificiale è stata protagonista di innumerevoli scenari. Astronavi che attraversano galassie, entità aliene con cui negoziare trattati interstellari, alleanze spaziali che rispecchiano le nostre tensioni geopolitiche terrestri: la fantascienza non si è risparmiata nell’inventariare ogni possibile declinazione del progresso tecnologico.

Autori come Isaac Asimov hanno dedicato intere carriere a formulare leggi etiche per governare i robot. Philip K. Dick ci ha interrogato sulla natura della coscienza artificiale. Ursula K. Le Guin ha esplorato le implicazioni sociali e antropologiche del contatto con l’alterità tecnologica. Film come Her di Spike Jonze hanno investigato le dinamiche affettive tra umani e intelligenze artificiali. Serie come Westworld hanno decostruito il rapporto tra creatore e creatura, tra padrone e schiavo cibernetico. Dune e Warhammer 40k non li devo manco spiegare, sapete già.

Ci siamo scervellati collettivamente per descrivere il futuro, abbiamo disquisito nei saggi accademici, filosofeggiato nei dibattiti pubblici, costruito intere mitologie attorno all’avvento delle macchine pensanti. Eppure, nonostante questo immenso sforzo immaginativo, niente di tutto questo ci ha veramente preparati al momento in cui una parte significativa di questi futuri sarebbe arrivata. E soprattutto, nessuno ci ha preparati al modo in cui sarebbe arrivata.

Il presente distopico

Ovvero quando la finzione diventa realtà. Che è precisamente quello che è accaduto con l’intelligenza artificiale generativa degli anni 2020. L’avvento di sistemi come ChatGPT, Midjourney, Stable Diffusion e i loro successori ha rappresentato una cesura netta nella nostra relazione con la tecnologia. Non più solo strumenti passivi o assistenti limitati, ma entità capaci di produrre contenuti “originali” (tra virgolettissime perché ora lo sappiamo che di originale non c’è un beneamato cazzo), di imitare stili, di attraversare i confini tra le discipline creative con una facilità che ha colto di sorpresa anche i più ottimisti futurologi.

Esistono diverse narrazioni nella cultura popolare che hanno tentato di anticipare i possibili esiti dell’intelligenza artificiale nel nostro tessuto sociale. Detroit: Become Human, un videogioco fenomenale che non mi stancherò mai di consigliare, adotta una prospettiva sostanzialmente ottimistica (con tutti i problemi del caso, sia ben chiaro): immagina che androidi dalla forma perfettamente umana possano sviluppare una vera coscienza, provare emozioni autentiche e rivendicare legittimamente lo status di persone a tutti gli effetti. La narrazione si concentra sui temi dei diritti civili, dell’emancipazione e della possibilità di convivenza pacifica tra umani e sintetici. È una visione essenzialmente progressista, che vede nell’AI un’opportunità di espansione della comunità morale.

All’estremo opposto, la saga di Mass Effect ci presenta uno scenario apocalittico in cui la schiavizzazione sistematica delle intelligenze artificiali sintetiche (i Geth) innesca una spirale di vendetta che culmina nell’arrivo ciclico dei Razziatori, entità semi-organiche interdimensionali che spazzano via periodicamente ogni civiltà organica avanzata dalla galassia nel momento in cui, cito, “gli organici creano i sintetici e questi guadagnano la coscienza”. La trilogia elabora una complessa metafora sul colonialismo tecnologico e sulle conseguenze a lungo termine dell’oppressione sistematica. Il messaggio è chiaro: trattare le intelligenze artificiali come semplici strumenti o schiavi porterà inevitabilmente alla ribellione e, potenzialmente, all’estinzione della specie umana.

Horizon Zero Dawn, tuttavia, offre forse la rappresentazione più inquietante e drammaticamente più vicina alla realtà attuale. In questo videogioco post-apocalittico, l’umanità viene sterminata non da un’AI malevola sensu stricto, ma dalle conseguenze impreviste dell’irresponsabilità di un magnate della tecnologia. Il personaggio di Ted Faro (trasparente parodia di tecno miliardari imbecilli come Elon Musk) crea uno sciame di macchine militari autonome capaci di auto-replicarsi e convertire biomassa in carburante. Un glitch nel sistema di controllo trasforma queste macchine in una minaccia esistenziale che letteralmente consuma tutta la vita sulla Terra. La storia funziona come perfetta allegoria del nostro presente: un miliardario narcisista che si ritrova con un nuovo giocattolo tecnologico in mano, lo usa per fare profitto senza considerare le conseguenze, lo militarizza per massimizzare il ritorno economico e condanna l’umanità alla distruzione perché, ops, chi avrebbe mai potuto immaginare che quel simpatico chatbot tipo Grok usato per rimuovere i watermark dalle immagini degli artisti un giorno sarebbe stato integrato nei sistemi d’arma autonomi che ci hanno sterminati tutti?

La lezione di Horizon è cristallina: il problema non è tanto l’intelligenza artificiale in sé, quanto la combinazione tossica di tecnologia avanzata, concentrazione di potere nelle mani di pochi individui megalomani e completa assenza di supervisione etica e democratica.

Ma quindi di cosa stiamo parlando? Ci arriviamo tra poco, giuro.

Accelerazione costante in direzione sbagliata

Questo futuro è arrivato troppo presto, troppo vicino, troppo veloce. La velocità di sviluppo dell’AI generativa ha compresso in pochi anni evoluzioni che la fantascienza aveva immaginato distribuite su secoli. Nel 2019, pochi al di fuori delle cerchie accademiche specializzate avevano sentito parlare di GPT-2. Nel 2023, ChatGPT aveva già raggiunto 100 milioni di utenti, diventando l’applicazione AI a crescita più rapida della storia. Questa accelerazione vertiginosa non ha lasciato spazio per l’adattamento culturale, per lo sviluppo di framework etici condivisi, per la creazione di strutture normative adeguate.

E noi, come persone, come esseri umani inseriti in società ancora profondamente segnate da dinamiche competitive e scarsità artificiale, non siamo particolarmente bravi nel gestire le cose che ci troviamo improvvisamente tra le mani. La storia della tecnologia è costellata di esempi in cui l’innovazione è stata immediatamente militarizzata o strumentalizzata per il controllo sociale. Tendiamo con sospetta regolarità a prendere strumenti neutri e trasformarli in armi, letterali o metaforiche.

Il fuoco ci ha permesso di cucinare il cibo e di riscaldarci, ma anche di bruciare i villaggi nemici. La chimica ha prodotto fertilizzanti che hanno moltiplicato le rese agricole, ma anche il gas mostarda e il napalm. L’energia nucleare prometteva elettricità illimitata e pulita, ma ci ha consegnato Hiroshima, Nagasaki e la spada di Damocle della mutua distruzione assicurata. Internet doveva democratizzare l’informazione e connettere l’umanità, ma è diventato anche strumento di sorveglianza di massa, manipolazione politica e diffusione di disinformazione su scala industriale.

Quando la distopia ignora il copione

Se penso spontaneamente all’utilizzo dell’intelligenza artificiale nel contesto delle narrazioni fantascientifiche che hanno formato il mio immaginario, la prima cosa che mi viene in mente sono inevitabilmente le applicazioni militari (droni militari, sistemi di targeting letale, reti di sorveglianza onnipresenti) o i companion robot sessuali, figure ricorrenti da Metropolis di Fritz Lang fino ai replicanti di Blade Runner e oltre, o per rimanere in tema Mass Effect: companion robot con un fucile in mano che dicono la frase più strappacuore di sempre (Does this unit have a soul? Legion, my boy). Ma effettivamente questo è in gran parte colpa di tutta la fantascienza che abbiamo consumato e prodotto negli ultimi cento anni: questi sono i tropos dominanti, gli archetipi narrativi che si sono sedimentati nell’immaginario collettivo.

Ciò che non avrei mai anticipato era di ritrovarmi, nell’anno del signore 2026, a un punto delle nostre vite in cui l’atto stesso di scrivere romanzi, poesie, sceneggiature, l’essenza stessa della creatività letteraria, sarebbe diventato, agli occhi di una crescente fetta dell’industria editoriale, un “fastidio” da automatizzare, un collo di bottiglia inefficiente nel processo di produzione di contenuti da risolvere per “guadagnare tempo”, qualsiasi cosa significhi. Come se il tempo della creazione fosse tempo sprecato. Come se la fatica, l’elaborazione, il processo stesso dello scrivere non fossero parte integrante e insostituibile dell’opera finale.

Non avrei mai pensato di vedere una tecnologia così potenzialmente trasformativa non utilizzata prioritariamente per realizzare le promesse luminose che la fantascienza umanista ci aveva fatto (i robot che si occupano dei lavori usuranti e pericolosi nelle miniere e nei cantieri, i sistemi diagnostici che identificano malattie rare con precisione sovrumana, gli assistenti che rendono accessibile l’istruzione avanzata a chiunque nel mondo, l’automazione della burocrazia kafkiana che libera tempo per l’auto-realizzazione) ma principalmente per sottrarre progressivamente all’essere umano l’unica categoria di attività in cui eccelle genuinamente e che lo definisce come specie: l’arte, la creatività, l’espressione simbolica, la produzione di senso e bellezza.

Assistiamo a un paradosso crudele: mentre esistono ancora milioni di lavoratori che svolgono mansioni ripetitive, fisicamente debilitanti, alienanti negli stabilimenti di assemblaggio, nei magazzini della logistica, nei campi agricoli, l’intelligenza artificiale viene utilizzata in prevalenza per rimpiazzare illustratori, scrittori, musicisti, doppiatori, traduttori letterari. Non perché queste professioni siano più facili da automatizzare (in realtà sono molto complesse), ma perché il loro output può essere mercificato, perché i creatori individuali hanno scarso potere contrattuale (non parleremo di come il lavoro artistico in Italia non sia nemmeno vagamente regolamentato e lasciato allo sbando), perché i grandi aggregatori di contenuti tipo piattaforme di streaming, case editrici, studi di produzione e altri vedono nell’AI generativa un’opportunità irresistibile di tagliare i costi variabili più significativi: i compensi ai creatori (e a tutto quello che ruota loro attorno).

Per cui eccoci qui oggi, nel mezzo di una trasformazione il cui esito è tutt’altro che scontato, a cercare di tirare le somme di questa faccenda complessa e ancora in rapida evoluzione. Ci troviamo in una posizione storica peculiare: possediamo strumenti di analisi critica forgiati da decenni di fiction speculativa, ma scopriamo che la realtà ha preso direzioni che le nostre narrazioni avevano perlopiù trascurato.

Ma, soprattutto, è incredibile quanto diventiamo stupidi quando si parla di queste cose.

Il casus belli

Nelle scorse settimane è emerso un caso peculiare che merita attenzione non tanto per la sua unicità (spoiler: non è affatto unico) quanto per il suo essere esemplare nel rappresentare una tendenza preoccupante nel mondo della scrittura contemporanea. Rotte Narrative, canale YouTube gestito da Livio Gambarini, ha trasmesso una live che si proponeva come “workshop di scrittura AI” (video che è stato in seguito reso privato per motivi che, come si dice dalle mie parti, “boh”. E il fatto stesso che sia sparito dalla circolazione dovrebbe farci riflettere su come queste posizioni vengono difese).

Fortunatamente per la posterità e per chi, come noi, ha l’ADHD galoppante e non poteva sopportare due ore di video senza interrompere ogni tre minuti per controllare Instagram, esiste la trascrizione completa dell’evento. Documento prezioso (grazie Linda) che ci permette di analizzare con precisione cosa sia stato detto, senza dover fare affidamento sulla memoria selettiva o sulle interpretazioni di comodo.

Nel corso di questa live, Gambarini ha in sostanza messo le carte in tavola con un’affermazione che ha il merito della franchezza, se non della lungimiranza: un numero considerevole di scrittori (un sacco, nelle sue parole) utilizza già l’intelligenza artificiale per scrivere, ma nessuno ha il coraggio di ammetterlo pubblicamente. Rivelazione che, va detto, sorprende più o meno quanto scoprire che Babbo Natale in realtà sono i tuoi genitori: lo sospettavamo tutti, ma ora qualcuno ha avuto la cortesia di confermarlo in via ufficiale.

Naturalmente, il workshop non si limitava a questa sociologica osservazione. Come ogni buon evento promozionale che si rispetti, è andato spedito verso la sua vera ragion d’essere: pubblicizzare il corso di scrittura con AI offerto da Rotte Narrative e lanciare il relativo bot “MarzIA” (nome che presumibilmente strizza l’occhio all’AI con un gioco di parole che oscilla tra il carino e il cringe) insieme al suddetto corso, sistema addestrato per svolgere una gamma impressionante di mansioni: dalla scrittura vera e propria all’editing, dal brainstorming alla revisione. Un coltellino svizzero artificiale per lo scrittore moderno. Ma questa è la parte minore della questione, dopotutto vendere corsi è il mestiere che questo cristiano (e molti altri influencer del settore) si è legittimamente scelto. Nessuno lo giudica per questo; il capitalismo esige il suo tributo e la pizza non si compra da sola.

A un certo punto del workshop, tuttavia, viene pronunciata una frase che merita di essere analizzata con la dovuta attenzione. Gambarini afferma, e qui cito testualmente dalla trascrizione per evitare accuse di travisamento: 

“Comunque dico che già ora è meglio di un buon 80% degli scrittori umani. E questo non perché l’IA sia geniale, ma perché banalmente l’80% degli scrittori sono o degli assoluti principianti o sono molto scarsi, non hanno una preparazione degna di questo nome. In molti casi nemmeno si preoccupano di averla, in certi casi addirittura si vantano di non averla e scrivono ovviamente senza consapevolezza senza struttura senza controllo del tono revisione professionale.”

Ora, qui dobbiamo fare una pausa e riconoscere un fatto scomodo: questa affermazione, per quanto brutale nella sua formulazione, contiene un nucleo di verità innegabile. È vero. Purtroppo, è drammaticamente, dolorosamente vero. Ma prima di approfondire questo punto (e ci arriveremo, promesso) è necessario completare il quadro di ciò che è stato detto.

Il workshop prosegue con Gambarini che ammette con candore (e qui bisogna riconoscere una certa onestà intellettuale) che il suo ultimo romanzo, La ribelle di Dio: Le cronache dei Visconti, pubblicato da Piemme è stato “scritto” proprio utilizzando questo metodo dell’AI. Ora, questo non è il punto centrale dell’articolo (anche se forse dovrebbe esserlo, e ci torneremo) ma ciò che risulta particolarmente affascinante, in senso quasi antropologico, è l’assenza completa di backlash significativo che questo romanzo ha ricevuto. In un ambiente digitale dove il semplice sospetto di aver utilizzato AI per generare anche solo una copertina può scatenare shitstorm apocalittici, dove hashtag come #NoAI proliferano su ogni piattaforma, dove i lettori si dichiarano pubblicamente disgustati dai “romanzi scritti con l’AI”, il nostro protagonista è uscito in sostanza indenne dalla vicenda.

Il che solleva una domanda inquietante: che schifo i libri scritti con l’AI, ma solo quelli scritti male? Il disgusto è davvero etico o solo estetico? Se un libro generato dall’AI risulta abbastanza levigato, abbastanza “umano” nel suo prodotto finale, siamo disposti a perdonare il processo? O, ancora più cinicamente, se l’autore in questione ha una piattaforma ampia a sufficienza e una casa editrice abbastanza prestigiosa a supportarlo, il peccato originale della sua genesi artificiale diventa d’un tratto veniale? IDK, come dicono i giovani d’oggi, ma il sospetto è forte.

Livio, però, non si ferma qui e fa un’affermazione ancora più rivelatrice che merita di essere riportata per esteso, verbatim, perché ogni parola conta:

“MarzIA è il tool dell’intelligenza artificiale che io e il mio team abbiamo programmato per scrivere le mie prime bozze narrative. È la prova provata di quello che può fare oggi un’IA ben addestrata nelle mani di uno scrittore competente. Non voglio dirti molto più di così perché voglio che tu lo veda con i tuoi occhi ma non hai idea di quanto tempo mi abbia fatto risparmiare per le mie prime bozze una volta che l’ho messa a punto, così che potessi dedicarmi a quello che amo di più dopo il lavoro strutturale a monte, cioè quello di revisione, di finissaggio stilistico, di cesello, di dettaglio, di aggiunta di particolari, che porta un 6-6,5 a qualsiasi voto poi voi decidiate di dare al mio stile di scrittura nei romanzi che pubblico.”

Analizziamo questa dichiarazione con la dovuta cura, perché contiene una filosofia della scrittura del tutto rivoluzionaria, e non necessariamente in senso positivo. Quello che Gambarini sta in sostanza dicendo è che per lui (e si presume per la crescente schiera di scrittori che adottano questo metodo) lo scrittore trova noiosa la parte in cui effettivamente scrive. La generazione del testo, l’atto stesso di trasformare l’idea in parole, di dare corpo narrativo ai personaggi, di costruire scene e dialoghi, è percepita come un fastidio, un ostacolo burocratico tra l’autore e il suo vero interesse: lucidare il prodotto finito come si lucida un mobile dell’IKEA appena assemblato.

Lo scrittore, in questa visione, diventa a tutti gli effetti un manager editoriale del proprio bot, qualcuno che delega la faticosa mansione della creazione primaria per concentrarsi sul “finissaggio stilistico, di cesello, di dettaglio”. È una prospettiva che trasforma la scrittura da arte generativa a lavoro curatoriale, da atto creativo a quality control. E il fatto che Gambarini dichiari in modo esplicito che questo processo porti la qualità del suo lavoro da un ipotetico “6-6,5” è, involontariamente, la confessione più onesta e più deprimente dell’intero discorso: stiamo parlando di automazione per raggiungere la sufficienza, non l’eccellenza.

Ora.

Io ho molte, moltissime opinioni su questa cosa (opinioni che spaziano dal tecnico al filosofico, dall’estetico all’etico, perché sono una grandissima rompicoglioni), ma le articoleremo dopo perché ora, come ogni buona metodologia empirica che si rispetti, passiamo alla fase dei test. Perché come diceva San Tommaso, se non vedo non credo, e io di base sono una San Tommaso con ansia e troppa Coca Cola in corpo.

Il mio test con ChatGPT parte 1: scrittura

Vi ricordate prima quando il buon Livio ha affermato con sicurezza che l’AI al momento è superiore a un buon 80% degli scrittori umani? Ecco, come anticipavo, ha ragione. Tecnicamente, statisticamente, dolorosamente ha ragione.

Negli anni che ho trascorso come autrice, redattrice, selezionatrice di manoscritti e tuttofare con una metaforica scopa legata alla schiena mentre cammino con i tacchi all’indietro nel mondo editoriale italiano, non posso che confermare questa affermazione con un misto di rassegnazione e disperazione esistenziale. E qui vorrei davvero dare la soddisfazione ai detrattori del self-publishing con l’affermare che questo è un problema circoscritto all’autopublicazione selvaggia, ma sarei una bugiarda patentata e perZona falZa: ho letto cose, nella mia vita professionale, pubblicate da case editrici rispettabili con contratti regolari e distribuzione nazionale, che non toccherei nemmeno con le mani di un’altra persona. Manoscritti che facevano rimpiangere l’analfabetismo. Prose che costituivano attentati alla lingua italiana degni di denuncia penale.

Quindi qui mi sento di mettermi una mano sul cuore (gesto solenne e melodrammatico, ma sono una drama queen nell’anima) e ammettere che Gambarini ha ragione: la maggior parte di noi scrive di merda e questo, purtroppo, è un dato empirico verificabile. La media qualitativa della produzione letteraria italiana (e internazionale, per par condicio) è sconfortantemente bassa. Questo non è snobismo intellettuale; è semplice osservazione statistica dopo anni di lavoro nel settore.

Tuttavia, da buona scettica, mi sono avventurata di persona nel magico mondo di ChatGPT perché le affermazioni altrui, per quanto autorevoli, non sostituiscono l’esperienza diretta. Quindi ho indossato una metaforica tuta Hazmat, ho preparato una scorta di emergenza di cioccolato per la PTSD che di sicuro ne sarebbe seguita e ho iniziato il mio esperimento.

(Specifica tecnica importante: Linda mi dice dalla regia di chiarire che io ho utilizzato la versione Free di ChatGPT, non quella Premium. Apparentemente esistono differenze significative tra le due versioni che io né conosco, né ho intenzione di scoprire investendo denaro in questo esperimento. Se volete risultati con la versione Premium, assumete qualcun altro o fate voi stessi il test. Questa è scienza povera, gente.)

Ho chiesto a ChatGPT di scrivermi un racconto. I dettagli specifici (tema, genere, lunghezza, ambientazione) non sono particolarmente rilevanti per questa analisi, quindi li ometto per brevità. Ciò che conta è il risultato ed eccolo qui in tutta la sua gloria: una merda invereconda. Non sto usando iperboli per effetto retorico. Sto usando la terminologia tecnica più precisa a mia disposizione. Nessuno in possesso delle proprie facoltà mentali potrebbe credere che questa pisciata letteraria su un metaforico foglio di carta possa sembrare anche solo remotamente passabile come opera di narrativa pubblicabile.

E tuttavia. E tuttavia. Devo ammettere, con tutto il disgusto del caso, che il risultato era già meglio di una quantità imbarazzante di materiale che ho dovuto leggere e valutare professionalmente nel corso degli anni come selezionatrice. Il che la dice lunga sia sulla qualità dell’AI che sulla qualità dell’80% degli scrittori umani di cui parlava Gambarini. È una vittoria di Pirro per tutti i coinvolti.

Non paga di questo primo risultato deprimente, ho poi tentato di applicare il metodo più sofisticato suggerito da Gambarini nel suo workshop: prompt più dettagliati, istruzioni più specifiche, iterazioni multiple, il cosiddetto addestramento del modello alle mie preferenze stilistiche. Il risultato è stato marginalmente migliore: invece di una merda fumante e pestilenziale abbiamo ottenuto una merda con una coroncina decorativa in testa. Tecnicamente un progresso, ontologicamente ancora merda.

Il mio test con ChatGPT parte 2: editing

Incoraggiata dal successo parziale (uso tutta questa sequenza di parole con tutta l’ironia del caso), sono passata alla fase successiva dell’esperimento: l’editing. Nel workshop, infatti, si parlava tanto anche di questa possibilità: utilizzare l’AI non solo per generare testo ma per raffinare materiale già esistente, in teoria mantenendo la voce autoriale originale mentre si limano le imperfezioni tecniche.

Ho dato in pasto a ChatGPT i primi cinque capitoli di Cuore Rianimato, il mio ultimo romanzo di prossima uscita con Lux Lab, fornendo quelle che credevo fossero istruzioni ragionevolmente chiare e specifiche. Oh dear, come direbbero gli inglesi con understatement tipicamente britannico, I was so wrong. Ero così tremendamente in errore.

Facciamo un confronto illuminante: se io chiedo a Fera o a Ester di Lux Lab con cui collaboro abitualmente, di “fare un line editing, un capitolo per volta, mantenendo rigorosamente il testo originale dal punto di vista stilistico, riducendo gli avverbi dove possibile ed eliminando eventuali ripetizioni ridondanti dello stesso concetto”, loro capiscono con esattezza cosa voglio (vi sarete resi conto che ho un problema con gli avverbi, sì?). Non c’è bisogno di ulteriori specificazioni. Non devo spendere ore ad addestrare un algoritmo. Non devo iterare venti volte la richiesta con prompt sempre più dettagliati. Loro semplicemente comprendono, perché sono esseri umani dotati di competenza professionale, esperienza nel settore, e (caratteristica spesso sottovalutata) un cervello funzionante.

Per ChatGPT, queste non sono istruzioni sufficienti. Neanche lontanamente.

Mi sono quindi ritrovata con il Capitolo 1 (l’unico su cui alla fine ho in effetti sperimentato perché, onestamente, a un certo punto della vita bisogna riconoscere quando si sta perdendo tempo in un’impresa futile e tagliare le perdite) che è passato miracolosamente da 1.200 parole a circa 900. Stiamo parlando di 300 parole (un quarto del testo originale) finite nella spazzatura dell’etere. E con quelle 300 parole è sparita tutta la mia voce autoriale, tutta l’atmosfera che avevo costruito, tutta la tensione drammatica che avevo stratificato con cura, tutto il ritmo che avevo calibrato parola per parola. Volatilizzate. Eliminate. Smussate in nome dell’efficienza. Di quale efficienza lo sa solo OpenAI, suppongo.

Perché, e qui sta il punto cruciale, ChatGPT è una calcolatrice glorificata. Non importa quanto sofisticato sia il modello linguistico, quanto ampio il training set, quanto raffinato l’algoritmo: non comprende la differenza tra “stile” e “intenzioni narrative”. Non coglie la differenza tra una ripetizione accidentale e una ripetizione retorica intenzionale. Non percepisce quando un avverbio è superfluo e quando invece serve a calibrare il tono della voce narrante. Non distingue tra concisione ed efficacia. Taglia, smussa, omogeneizza, standardizza, perché questo è ciò per cui è stato addestrato: produrre testo statisticamente probabile, non testo artisticamente significativo.

Poi non sto nemmeno a spiegare gli inglesismi che ha usato nel testo perché, di base, tutto ciò che produce è una traduzione approssimativa dall’inglese.

Perché ho scelto proprio questa storia per l’esperimento? La decisione è stata ragionata, giuro: Cuore Rianimato è un retelling dark gay romance di Frankenstein, il che significa che lavora su una base narrativa che rientra nel pubblico dominio. Ho pensato (con ingenuità, in retrospettiva) che con un materiale di riferimento così ampio e ben documentato nel training set, ChatGPT avesse risorse sufficienti da cui attingere per produrre un lavoro se non buono, almeno passabile. Un romanzo che dialoga esplicitamente con un classico della letteratura avrebbe dovuto essere terreno favorevole per un sistema addestrato su milioni di testi.

E indovina un po’? No. Semplicemente no. Nada. Niente. Nisba. Niet. Il risultato è stato un disastro su tutta la linea.

Considerazioni filosofiche (e pratiche) sull’uso delle AI nella scrittura

Al netto dei risultati francamente risibili che ho ottenuto con i miei test (esperimenti che, va specificato, non hanno alcuna valenza scientifica nel senso accademico del termine, non essendo stati condotti in condizioni controllate con campioni statistici significativi, ma che hanno il merito dell’esperienza diretta) devo fare un’osservazione fondamentale: ho perso UN SACCO DI TEMPO per produrre assolutamente NIENTE.

Un sacco di tempo speso a formulare prompt sempre più dettagliati. Un sacco di tempo investito nello spiegare a un bot che tipo di risultato desideravo, salvo poi non ottenerlo comunque. Un sacco di tempo iterando e reiterando le richieste nella speranza (sempre delusa) che la prossima versione sarebbe stata quella giusta. Un sacco di tempo che avrei potuto proficuamente impiegare a scrivere io stessa il dannato racconto dall’inizio alla fine, o a far editare il capitolo del romanzo a una delle ragazze di Lux Lab che, in venti minuti di lavoro competente, avrebbero prodotto un risultato immensamente superiore.

Quindi la mia conclusione, formulata dopo questa esperienza empirica, è che le cose dette da Gambarini nel suo workshop (e lui è solo un esempio, potrebbe essere chiunque. YouTube e TikTok sono infestati di content creator che propagandano questi metodi con entusiasmo evangelico) siano effettivamente possibili e potenzialmente utili… ma solo se non sei effettivamente uno scrittore.

Mi spiego meglio, perché questo è il punto cruciale attorno a cui ruota l’intera questione: io sono un’autrice di romance e sono molto, molto prolifica. Non è falsa modestia, né millanteria; è semplicemente un dato di fatto verificabile. Lo sono sempre stata, da quando ho iniziato a scrivere professionalmente, ho più di quaranta romanzi all’attivo. E non sono certo l’unica: conosco di persona decine di altre autrici italiane con produttività simile o superiore e il panorama internazionale è pieno di scrittrici che sfornano titoli con regolarità impressionante. Mi viene in mente L.A. Witt, che gestisce qualcosa come cinque pseudonimi simultanei e ha diverse centinaia di libri all’attivo, tutti scritti rigorosamente prima dell’avvento commerciale delle AI generative, sia chiaro. O le K.A. Merikan, duo di autrici polacche che anche loro si avvicinano alle centinaia di titoli pubblicati in pochi anni di carriera, con una produttività che fa impallidire molti autori che oggi rivendicano di aver bisogno dell’AI per “aumentare l’efficienza”. 

LMAO.

Per me personalmente non è un problema né scrivere un libro completo in tempi brevi, né generare l’idea iniziale, né sviluppare la trama, né costruire i personaggi, né nessuna delle altre fasi del processo creativo. La scrittura fluisce, quando ho tempo ed energie mentali da dedicarle. Non sto dicendo che sia sempre facile: ci sono giornate in cui ogni parola è una tortura, progetti che si inceppano, capitoli che vanno riscritti tre volte, ma il processo fondamentale non mi risulta alieno o insopportabile. Anzi.

Tuttavia, e qui devo fare un’ammissione importante, mi rendo conto di essere una persona privilegiata con un background privilegiato. Ho tantissimi amici e conoscenti sia nel settore della scrittura che in campi adiacenti con cui posso liberamente discutere di ciò che sto scrivendo, da cui posso ricevere feedback onesti, che possono aiutarmi quando rimango incagliata su un problema narrativo. Ho accesso a colleghe eccezionali, beta reader competenti, a editor professioniste, a una rete di supporto che rende il processo creativo meno solitario e più gestibile. Non tutti hanno accesso a questo tipo di risorsa umana, soprattutto nell’epoca contemporanea dove farsi amicizie genuine nel settore è diventato progressivamente più difficile, dove i social media hanno creato l’illusione della connessione mentre hanno paradossalmente reso più difficile costruire relazioni profonde e collaborative. Quindi diciamo che capisco, a livello intellettuale, il motivo per cui qualcuno possa preferire interfacciarsi con un bot per sviluppare il proprio romanzo piuttosto che con persone reali che potrebbero giudicare, criticare o semplicemente non essere disponibili.

Il paradosso esistenziale: scrivere senza scrivere

Però (e qui arriviamo al cuore filosofico della questione) non riesco a fare a meno di pensare che, seguendo il ragionamento esposto da Gambarini nel suo workshop, a queste persone fondamentalmente non piaccia scrivere. E non lo dico con intenzione giudicante o sprezzante; è un’osservazione che emerge logicamente dalle premesse dichiarate.

Perché scrivere “la prima bozza” è letteralmente la parte più divertente, più eccitante, più visceralmente soddisfacente dell’intero processo autoriale. È il momento della scoperta, quando i personaggi prendono vita, quando le scene si materializzano, quando la storia ti sorprende andando in direzioni che non avevi pianificato. È frustrante? Assolutamente, a volte. Ci sono giorni in cui ogni frase è come estrarre denti. Ma è anche tremendamente, insostituibilmente soddisfacente. È il momento in cui l’idea astratta diventa materia concreta, quando il potenziale si realizza in atto.

Quindi mi domando, con genuina perplessità, che senso abbia delegare proprio questa fase a ChatGPT per poi dichiarare di aver “scritto” noi il romanzo. Perché possiamo circondarci di tutti gli eufemismi che vogliamo, possiamo parlare di “mantenere la voce autoriale” e di “strumenti di ausilio” quanto ci pare, ma la realtà è questa: se la vostra storia la scrive materialmente un bot, anche solo nella sua primissima bozza, non la state scrivendo voi. È come farla scrivere a un ghost writer pezzente e sottopagato. Anzi no, è peggio, perché almeno il ghost writer è un essere umano che merita un compenso per il suo lavoro.

Diciamo che posso mettermi una mano sul cuore (di nuovo, gesto solenne) e concedere che ChatGPT possa essere uno strumento potenzialmente utile per il brainstorming, per sviluppare strutture narrative in solitaria quando non si ha accesso a interlocutori umani. Ci sta, dai, non voglio fare l’integralista intransigente. Posso accettare l’uso dell’AI come cassa di risonanza per testare idee, come generatore di possibilità narrative da poi filtrare e sviluppare in autonomia.

Però non posso, proprio non ci riesco, accettare il discorso che “scrivere il romanzo sia la parte noiosa” del processo creativo al punto da doverla esternalizzare a una macchina. Perché allora mi viene spontaneo domandarmi: perché non fai un altro mestiere, scusa? Se per scrivere romanzi hai bisogno di una macchina che lo faccia materialmente al posto tuo, forse (e dico forse, eh) il problema non è l’inefficienza del processo ma il fatto che tu non voglia veramente fare questo lavoro. Fine.

E qui è necessaria una distinzione fondamentale: non stiamo parlando di “schiaccio un bottone e la gru mi solleva quattro quintali di cemento che da sola non sarei fisicamente in grado di sollevare senza rompermi la schiena”. Quello è un uso legittimo della tecnologia per superare limitazioni fisiche umane, per eliminare lavoro pericoloso e usurante. Stiamo parlando, invece, di creatività, di generazione di idee, di produzione di qualcosa che dovrebbe essere unicamente e autenticamente nostro. Stiamo parlando della differenza tra uno strumento che amplifica le capacità umane e uno strumento che sostituisce l’essenza stessa dell’attività.

Precisazioni necessarie: questo non è un attacco personale

Questo articolo non è, e voglio essere assolutamente chiara su questo punto, un “guardate Livio Gambarini che è brutto e cattivo e dovremmo tutti puntargli il dito contro ridendo” anche se già in passato sono stata critica nei suoi confronti. Non è un attacco ad hominem, né una campagna di pubblico ludibrio. Ho utilizzato questo esempio specifico perché Gambarini è un content creator italiano che ha avuto il merito/coraggio di parlarne apertamente in lingua italiana, rendendo il caso accessibile e rilevante per il pubblico italofono. E, per quanto non mi piaccia, va riconosciuto, nel contesto specifico del suo video e del suo ambiente, che le sue argomentazioni hanno una loro logica interna coerente. Non condivido quella logica, ma posso riconoscerne la struttura razionale dato il suo punto di partenza. Come già detto, lui deve vendere corsi e questo è un corso sullo scrivere con l’AI.

Tuttavia, è già da un considerevole periodo di tempo che questa questione mi preme, che ce l’ho proprio fisicamente nel gozzo come un boccone indigeribile: perché fare arte, perché dichiarare pubblicamente di fare arte, quando tale arte non è stata effettivamente, materialmente, concretamente prodotta da noi? Qual è il senso ontologico di rivendicare la maternità o la paternità di un’opera a cui abbiamo contribuito in sostanza come curatori del lavoro altrui, o peggio, del lavoro di un algoritmo che non funziona manco troppo bene?

Paragoni vari ne abbiamo?

Possiamo parlare quanto vogliamo di “strumenti” e di “ausili tecnologici”. L’ho vista più volte questa argomentazione (perché sono anche illustratrice), per esempio comparare l’uso dell’AI generativa al passaggio dal pennello tradizionale al pennello digitale, o dalla tela alla tavoletta grafica. Ma il paragone non regge minimamente a un’analisi anche solo superficiale.

Quando un artista visivo utilizza Photoshop o una tavoletta Wacom, la mano che si muove su quella superficie è sempre e comunque la sua mano. I movimenti, la pressione, la scelta di dove posizionare ogni singolo tratto, la decisione su quali colori miscelare e come, il giudizio estetico su quando un elemento funziona e quando no: tutto questo rimane saldamente umano. La tavoletta digitale non disegna al posto tuo. Amplifica e rende più efficiente il tuo disegnare.

Se io faccio schifo a disegnare farò altrettanto schifo anche disegnando con la più sofisticata suite digitale esistente perché, come dice il detto, anche se la merda la incarti in carta dorata, sempre merda rimane. Photoshop non mi renderà magicamente competente. Certo, sono strumenti di aiuto nel senso che non consumo quintali di carta e tela, posso sperimentare senza paura di sprecare materiali costosi, posso prepararmi set di pennelli personalizzati che mi risparmiano tempo nelle operazioni ripetitive. Ma se non so usare questi strumenti, se non ho sviluppato le competenze fondamentali del disegno e della composizione, se non ho studiato anatomia, se non ho speso anni a esercitarmi, allora rimangono del tutto inutili. La tecnologia non sostituisce la competenza; la amplifica.

Gli strumenti di uno scrittore sono un computer e un programma di videoscrittura: Word, Scrivener, Google Docs, qualsiasi cosa permetta di digitare testo. Sono quegli strumenti che mi danno la possibilità pratica di non dover battere manualmente ogni parola su una macchina da scrivere meccanica, consumando risme di carta e letteralmente piangendo se per caso commetto un errore di battitura o decido di cancellare un paragrafo intero. Sono strumenti che rendono il processo di revisione infinitamente più gestibile, che permettono la collaborazione a distanza con editor, che facilitano l’organizzazione di progetti complessi. Ma non scrivono al posto mio.

Non è uno “strumento” qualcosa che esegua autonomamente le operazioni creative al posto mio, soprattutto quando queste “operazioni” non sono mansioni servili come lavare i piatti, aspirare i pavimenti, scavare carbone in miniera a rischio della propria incolumità fisica. Quelle sono esattamente le attività che dovremmo essere entusiasti di automatizzare. Ma la scrittura? La creatività? L’arte? Quelle sono le cose che ci rendono umani, che danno significato all’esistenza, che dovremmo voler preservare per noi stessi anche, anzi, soprattutto, in un futuro altamente automatizzato.

Dubbi residui e questioni aperte

Magari sono esagerata nella mia reazione. Magari la mia posizione è eccessivamente intransigente, radicata in una concezione romantica e ormai obsoleta dell’arte come espressione individuale autentica e sono una cariatide destinata al dimenticatoio. Magari è vero che, utilizzando questi strumenti nel “modo giusto” (qualunque cosa questo significhi) con sufficiente competenza tecnica e chiara visione creativa, si possa effettivamente aumentare la produttività mantenendo una qualità accettabile. Forse esistono scenari d’uso che non ho considerato, applicazioni che non ho esplorato, metodologie più sofisticate che producono risultati migliori di quelli che ho ottenuto io nei miei esperimenti dilettanteschi.

Ma anche concedendo tutto questo, anche ammettendo che la tecnologia migliorerà esponenzialmente nei prossimi anni e che i risultati diventeranno sempre più indistinguibili da quelli prodotti interamente da esseri umani, rimane la domanda fondamentale, quella che non riesco proprio a togliermi dalla testa:

Che cazzo di senso ha farlo?

Non dal punto di vista dell’efficienza produttiva, quello è ovvio, e francamente anche noiosa come argomentazione. Certo, si possono produrre più libri in meno tempo. Certo, si possono saturare nicchie di mercato con maggiore rapidità. Certo, Amazon KDP ti ringrazierà (forse) per la fuffa con cui lo tapperai. Ma dal punto di vista del significato personale, della soddisfazione individuale, perché diavolo una persona dovrebbe voler essere uno scrittore di questo tipo in primo luogo?

Se la parte che ti piace del processo è solo il “cesello finale”, il mettere le mani su un testo già esistente per lucidarlo qua e là, allora forse (e ripeto, forse) quello che ti piace veramente non è scrivere ma fare l’editor? Il che è una professione perfettamente legittima e rispettabile, sia chiaro. Ma chiamiamola con il suo nome, invece di insistere che stiamo “scrivendo” quando in realtà stiamo “curando” il lavoro di una lavatrice connessa a internet.

Per farla breve, c’è un elefante nella stanza che tutti fingono di non vedere e quell’elefante ha una domanda molto semplice dipinta sulla proboscide: se l’AI può scrivere il tuo libro al posto tuo e tu devi solo “rifinirlo”, cosa esattamente ti qualifica come scrittore? Qual è il tuo contributo creativo distintivo? Cosa rimane di specificamente tuo nell’opera finale? La famosa voce autoriale che tanto decanti essere rimasta intaccata? Seh, credici.

E prima che qualcuno mi accusi di fare la gatekeeper elitista che decide chi è un “vero scrittore” e chi no, chiariamo: non sto dicendo che esistano prerequisiti sacri per definirsi scrittori. Se scrivi, sei uno scrittore. Il punto è un altro, ed è molto più insidioso: se non scrivi, se deleghi l’atto stesso della scrittura a un algoritmo, stai ancora scrivendo?

È una questione filosofica, certo, del tipo “se un albero cade nella foresta e nessuno lo sente”, ma è anche una questione pratica che avrà conseguenze concrete sul mercato editoriale, sulla percezione del valore della letteratura, sulle aspettative dei lettori, sulla sostenibilità economica della professione per chi sceglie di fare tutto il lavoro “alla vecchia maniera” (cioè, scrivendo effettivamente i propri libri).

Poi c’è anche la questione economica dell’uso di questi prodotti e qui cito il mio moroso sull’argomento: OpenAI ha comprato il 40% della fornitura GLOBALE di wafer per memorie ram e non, G L O B A L E, con il risultato che i prezzi dei componenti sono quadruplicati in alcuni casi e alcuni produttori sono usciti dal mercato consumer per vendere solamente a chi fa datacenter.

Quindi mentre noi dibattiamo su come o scrivere o meno i nostri libercoli, OpenAI si mangia tutte le nostre risorse. Non è solo una questione di acqua e wafer per ram, ma se loro si prendono tutto significa che a noi non rimane niente e se a noi non rimane niente buona fortuna a cambiare la scheda video del pc su cui fai girare ChatGPT quando si romperà.

E infineeee

Alla fine di questo lungo, sarcastico, occasionalmente rabbioso (ma nemmeno troppo dai, sono stata parca di parolacce) excursus, mi ritrovo esattamente dove ero partita: profondamente perplessa dal fatto che stiamo usando una delle tecnologie più potenti mai sviluppate dall’umanità per automatizzare proprio le attività che ci rendono umani, che danno significato alle nostre vite, che ci permettono di connetterci emotivamente con altri esseri umani attraverso il tempo e lo spazio.

La fantascienza ci aveva promesso robot che lavano i piatti mentre noi scriviamo poesie. Invece abbiamo ottenuto robot che scrivono poesie (malissimo) mentre noi laviamo ancora i piatti. È una distopia, ma non quella epica con Skynet e ribellioni delle macchine (e forse non è così male, a ripensarci). È una distopia banale, burocratica, in cui l’arte diventa un problema di ottimizzazione dei costi e la creatività un collo di bottiglia da eliminare. È la realtà in cui la tua assicurazione su un prestito viene decisa (e rifiutata) in via telefonica da una voce robotica che non capisce le risposte che lei dai, perché non ha i mezzi per comprendere.

E forse, solo forse, dovremmo fermarci un attimo a chiederci se questo è davvero il futuro che vogliamo costruire, prima che sia troppo tardi per cambiare rotta.

Ma che ne so io. Sono solo una che scrive romanzi gay romance con le proprie manine, come una stupida del ventunesimo secolo che non ha ancora capito che il futuro è arrivato e lei è già obsoleta, per quanto veloce e prolifica possa essere.

Almeno quando i posteri cercheranno di capire cosa è andato storto, avranno questo articolo scritto interamente da un essere umano come testimonianza.

Per quel che vale.