L'Editoriale
Mercoledì 16 Gennaio 2019
L’argine di Papa Francesco
all’utopia tecnocratica
L’allarme per alcuni versi è sconvolgente. Lo lancia ancora una volta Papa Francesco nelle lettera che ieri ha inviato all’Accademia per la vita, i guardiani della Chiesa in trincea per la tutela della persona. Chiede di stare attenti al sistema del denaro e all’ideologia del consumo elaborata dagli gnomi che selezionano i bisogni e manipolano i nostri sogni. Chiede di elaborare un argine alla «decostruzione dell’umanesimo» e non fidarsi affatto di quell’utopia tecnocratica di cui ci sentiamo padroni, mentre spesso in realtà ne siamo schiavi. Oggi la parola magica è «algoritmo». Ad essi affidiamo tutto e così l’algoritmo diventa il padrone che mi accompagna, mi condivide, insomma mi vende. I sogni, i desideri, gli affetti, i timori, la trama delle relazioni interpersonali, le inquietudini normali della vita, gli interessi sociali e politici, la libertà finiscono in mani ignote. Così qualcuno alla fine sceglie per me cosa mi interessa e perfino cosa devo desiderare di conoscere.
La scienza e la tecnica non sono più al servizio della persona umana e dei suoi diritti fondamentali ma rischiano di acquisire il controllo totale o parziale delle nostre vite. Fin dove ci siamo spinti? Siamo davvero oltre il riduzionismo dell’umano e stiamo sfiorando la sostituzione dell’umano?
L’allarme di Francesco di ieri fa emergere un dibattito fin qui ristretto ad un pugno di intellettuali che da tempo mettono in guardia dal mito del «digito ergo sum». I problemi sono enormi sul piano etico e giuridico. Chi ci protegge dall’algoritmo profilatore seriale in grado di costruire una nuova società, dove tutto è predetto e dove tutto è sorvegliato? Le discussione inquieta pochi. Eppure gli effetti devastanti che si hanno per esempio sull’informazione a causa delle percezioni che i social diffondono a larghe mani, sono un campanello di allarme. Modificano le relazioni sul piano personale e sociale e la persona viene sempre di più esposta a logiche nelle mani di pochi di solito occulti. Chi costruisce gli algoritmi sa come funzionano, ma sono pochissimi coloro che sono disposti a rivelarne i meccanismi. Stabilire di chi la responsabilità nell’era dei robot è una questione che appassiona troppo poco l’opinione pubblica. Anzi si tende ad evitare di affrontare il problema, perché apparentemente gli algoritmi migliorano la vita. Ma è un’illusione. L’intelligenza artificiale nelle mani di un ristretto numero di superuomini è in grado di minare le democrazie, l’esercizio del controllo, la responsabilità personale.
Il rischio è dunque, come spiega il Papa, davvero quello della «decostruzione» dell’umanesimo con ricadute fatali per la famiglia umana. Non è solo un problema di trasparenza. Non basta sapere chi siano i proprietari degli algoritmi dei robot, chi li struttura e chi li fa camminare. Bisogna sapere chi elabora i valori-obbiettivo, chi profila le identità in vista di cosa e quali diritti e tutele nuove vanno messe in campo.
Tutto ciò ha una spiccata dimensione morale ed è per questo che all’Accademia per la vita in Vaticano hanno deciso di dedicare la riflessione alla «roboetica», la frontiera avanzata della bioetica applicata alla intelligenza artificiale. Bisogna indagare nuovi scenari, definire i rischi del postumano, attrezzarsi per un giudizio complessivo sulle implicazioni globali dei robots nelle relazioni umane e nei cambiamenti della coscienza personale. Ma senza finire nella trappola del fascino e del mito da una parte e della paura dall’altro. Bergoglio lo definisce compito «assai esigente», che richiede «un discernimento ancora più attento» vista la posta in gioco: la vita.
© RIPRODUZIONE RISERVATA
