Quello che ci preoccupa di Chat GPT e delle IA capaci di scrivere – almeno per ora

Da quando le IA sono entrate nel dibattito pubblico, le reazioni del pubblico e degli addetti ai lavori sono state molto interessanti perché hanno scombussolato per l’ennesima volta le carte. Dal punto di vista visivo, rappresentano probabilmente il più grande shock culturale dai tempi della fotografia, quando improvvisamente la rappresentazione del vero non dipendeva più solo dalla mano dell’artista ma dal “semplice” scatto di un fotografo.

Dallo scatto del fotografo poi siamo passati alla fotografia digitale e poi a quella dei nostri smartphone. Nel frattempo l’arte, non dovendo più mostrarci il vero, ha iniziato a raccontarci qualcosa oltre il vero e i risultati sono stati senza dubbio interessanti.

Le IA danno l’illusione a tutti di poter mostrare immagini interessanti e questo è senza dubbio vero, ma così come un computer in grado di emettere suoni non ti trasforma in un compositore, ci vuole anche una certa capacità nel saper spiegare alla IA il risultato che vogliamo ottenere. In teoria, per le IA testuali come ChatGPT, la situazione è molto simile, così come i rischi di cui fra poco parleremo.

Prima però di addentrarmi nell’analisi mi chiedo: perché chi scrive è meno preoccupato rispetto a chi disegna dell’arrivo delle IA? I problemi sono gli stessi, ma il clima è ben diverso. Mi viene da dire che è tutta una questione di educazione visiva e testuale. La scuola si prende molto tempo per insegnarci a scrivere bene, a rispettare le regole grammaticali, le concordanze dei verbi e a evitare i refusi, ma non perde lo stesso tempo a educarci alla lettura delle immagini. Il risultato è che un’immagine di Midjourney, magari pure con le dita sbagliate, tutto sommato può farci dire che è bella, che ci entusiasma o ci emoziona e ci sembra impossibile che si possa ottenere senza abilità artistiche. Col testo invece è molto più complesso. Eventuali storture sono palesi, come gli errori fattuali o di composizione. Ecco perché chi scrive si sente, sbagliando, molto al sicuro.

È anche molto più difficile copiare uno stile di scrittura che uno stile visivo. Almeno per ora. «Almeno per ora» potrebbe essere una costante di questo articolo perché la ricerca sulle IA e le loro capacità si muovono così velocemente che questo articolo potrebbe già essere vecchio il giorno dopo in cui verrà pubblicato. Quindi sì, almeno per ora, la situazione è questa e ho già dovuto cambiare alcune osservazioni mentre lo scrivevo.

C’è anche una considerazione da fare, molto più triste e concreta: tutto sommato chi scrive per lavoro già vive una vita economicamente difficile, fatta di paghe al ribasso e accanto a gente che scrive come se fosse una IA, ovvero pescando qua e là dagli altri rielaborando il minimo indispensabile, se non addirittura copiando spudoratamente; quindi, tutto sommato, più che sicuri siamo rassegnati. Nel senso: se devo perdere il lavoro perché un ragazzino sottopagato lo fa gratis e male – tanto conta il clic – tanto vale perderlo grazie a una IA, almeno non cresciamo più generazioni di illusi.

Ma per capire un po’ come la pensa la diretta interessata, ho chiesto a ChatGPT cosa ne pensa delle problematiche e dei rischi sollevati dalle IA capaci di scrivere. La risposta che mi ha dato è stata interessante: «Il primo e più ovvio pericolo della scrittura AI è la potenziale perdita di posti di lavoro nel settore della scrittura. Man mano che gli algoritmi di intelligenza artificiale diventano più avanzati, possono generare contenuti scritti di alta qualità che rivaleggiano con quelli degli scrittori umani. Ciò significa che le aziende e gli editori potrebbero essere più inclini a utilizzare la scrittura AI invece di assumere scrittori umani, portando a una significativa riduzione delle opportunità di lavoro nella professione di scrittore».

E fin qui, cara ChatGPT, c’è poco da dire, hai già detto tutto. Sulla riduzione dei posti di lavoro una cosa va aggiunta: se ti pagano due spiccioli per tradurre notizie vogliamo davvero chiamarlo lavoro? Forse è anche il caso di svegliarsi da questa allucinazione collettiva, ma procediamo.

«L’intelligenza artificiale (AI) è diventata uno strumento sempre più popolare in vari campi, inclusa la scrittura. La scrittura AI si riferisce all’uso di algoritmi informatici per generare contenuti scritti, inclusi articoli, saggi e persino romanzi. Sebbene questa tecnologia abbia i suoi vantaggi, come una maggiore efficienza e velocità, presenta anche alcuni rischi significativi che devono essere considerati».

Questa parte sta diventando particolarmente importante in tutti quei campi in cui la scrittura non è tanto frutto di un ingegno umano ma al servizio di una struttura che deve pensare soprattutto alla vendita e al commercio, per non parlare di tutti quei testi che servono esclusivamente per il posizionamento in rete.

Pensiamo al copywriting, ai blog aziendali, a tutte quelle forme di scrittura che devono funzionare rispettando alcune informazioni essenziali. Da una parte, una IA potrebbe aiutarci a trovare la frase giusta proponendoci alcuni spunti – questo già succede da tempo – dall’altra è inevitabile che una serie di testi tutto sommato molto semplici su cui molte persone contavano verranno presto appaltati a una IA, che forse costa meno e produce subito, riducendo l’intervento umano a qualche aggiustamento, se proprio necessario.

Di fatto, la IA non farà altro che fare ciò che molti umani fanno già: prendere qualche informazione di massima sul contesto ed elaborarlo in modo leggibile. Ovviamente ci sarà sempre l’eccezione: lo slogan geniale, il testo spettacolare, ma saranno, appunto, eccezioni e siamo sicuri che varrà la pena pagarle? Forse nascerà una branca di testi scritti da “umani certificati” e detta così suona molto cyberpunk.

Un altro campo in cui la situazione rischia di peggiorare drasticamente è senza dubbio quello delle traduzioni. Già oggi la funzione Translate di Google è migliorata moltissimo, non sarà così strano che renda obsoleti i traduttori entro qualche anno. Oppure, anche in questo caso, ne ridurrà gli interventi a determinate parole che si basano su qualcosa che la IA difficilmente può capire: il contesto.

«Un altro pericolo della scrittura AI è il potenziale per un uso non etico. Gli algoritmi di intelligenza artificiale possono essere programmati per generare informazioni fuorvianti o false, che potrebbero essere utilizzate per diffondere notizie false o disinformazione. Ciò potrebbe avere gravi conseguenze, come influenzare l’opinione pubblica o causare danni a individui o gruppi».

Questo è senza dubbio un bel problema, ma direi che già non siamo messi bene per quanto riguarda la nostra capacità di comprendere le fake news , avendo da tempo rinunciato in massa all’approfondimento. Quindi, cara ChatGPT, tranquilla: nel caso, seminerai altre bugie in un panorama già disastrato. Un altro tema legato alla questione della verità è quello dei pregiudizi che le IA portano dentro di sé perché sono programmate da persone che ne hanno, consci o inconsci. E quindi potremmo avere IA razziste, che riportano notizie in maniera errata o faziosa, confermando eventuali pregiudizi che già abbiamo e così via.

«Inoltre, la scrittura AI solleva preoccupazioni sulla proprietà e sul copyright. Se un algoritmo AI genera contenuto scritto, chi detiene i diritti su tale contenuto? Il proprietario dell’algoritmo dovrebbe essere considerato l’autore o il merito dovrebbe andare all’individuo che ha sviluppato l’algoritmo? Si tratta di questioni legali complesse che devono essere affrontate man mano che la scrittura di intelligenza artificiale diventa più diffusa».

Questo è forse il problema più subdolo e scottante, soprattutto per due motivi. Come abbiamo detto all’inizio, è più difficile imitare lo stile di scrittura, ma è molto semplice allenare una IA a scrivere sfruttando i testi che trova in rete per poi sostituirsi a chi li ha scritti, scavando la fossa a molti autori. Non penso che i suddetti sarebbero molto felici di aver allenato chi ruberà loro il posto.

Il secondo problema, quello dell’autorialità, sta già emergendo fortissimo in un campo che si riteneva più al riparo dalle IA: l’editoria. Engadget riporta che su Kindle Store si trovano già almeno 200 libri in cui ChatGPT è accreditato come coautore e c’è tutto un settore molto grigio (per usare un eufemismo) che non vede l’ora di sfruttare le potenzialità della IA, quello dei «book stuffer». Cercando libri su Amazon probabilmente vi sarete imbattuti in autoproduzioni imbarazzanti, libri copiati e ciarpame vario. Vi sarete probabilmente chiesti che ci fa quella roba su Amazon e perché viene continuamente prodotta. Succede perché esiste Kindle Unlimited, ovvero la possibilità di leggere gratis su Kindle un sacco di libri pagando solo 9 euro al mese, pagando gli autori in base alle pagine lette.

Il book stuffing è sostanzialmente la pratica di creare libri molto lunghi, a volte anche pieni di pagine vuote, scopiazzando in giro quello che funziona, e buttarlo nel mare magnum delle pubblicazioni che la gente si può leggere gratis su Kindle Unlimited. L’importante non è scrivere roba di qualità ma scrivere tanto e far si che la gente giri le pagine, puntando a chi divora tutto ciò che è fantasy, romantico, erotico eccetera.

Nonostante vari tentativi di arginare il fenomeno, un sacco di truffatori hanno continuato a sfruttare questo sistema e ChatGPT non farà altro che rendere le cose ancora peggiori. Per non parlare di tutti quelli che, per il gusto di vedersi un libro pubblicato, daranno l’assalto alle case editrici sfruttando “aiutini” non dichiarati.

La scrittura AI rappresenta anche una minaccia per la creatività e l’originalità. Sebbene gli algoritmi di intelligenza artificiale possano generare contenuti ben scritti, mancano della scintilla creativa che rende unica la scrittura umana. Ciò potrebbe portare a un mondo in cui tutta la scrittura suona allo stesso modo, priva dell’individualità e della diversità che rendono la letteratura e la scrittura così potenti. E questo si lega all’ultima osservazione che mi ha fatto ChatGPT.

«Infine, ci sono preoccupazioni per il potenziale uso improprio dei contenuti generati dall’intelligenza artificiale. Ad esempio, un algoritmo AI potrebbe essere utilizzato per generare e-mail di spam o per creare false recensioni online. Ciò potrebbe avere gravi conseguenze per le imprese e i consumatori, in quanto potrebbe comportare perdite finanziarie o danni alla reputazione».

Immaginate la facilità con cui in futuro sarà possibile riempire di commenti che sembrano tutti differenti un articolo che non ci piace, per far credere che quel tema venga considerato male dall’opinione pubblica.

«In conclusione, mentre la scrittura AI ha il potenziale per essere uno strumento potente, pone anche rischi significativi. Potrebbe portare alla perdita del lavoro, alla diffusione di notizie false e disinformazione, sfide legali, perdita di creatività e originalità e potenziale uso improprio. Poiché l’uso della scrittura AI continua a crescere, è importante considerare questi rischi e adottare misure per affrontarli per garantire che questa tecnologia sia utilizzata in modo etico e responsabile».

Hai proprio ragione, cara ChatGPT.