IA e polizia emotiva tra fantascienza e realtà

Come ripeto da tempo il problema non è mai lo strumento ma come viene utilizzato. Nel caso delle cosiddette intelligenze artificiali il vero rischio non è che loro sostituiscano noi, ma che noi iniziamo a scimmiottare loro e diventarne strumento. È esattamente quel che sta accadendo sul mondo del lavoro, dove sistemi di modellizzazione vengono installati come una sorta di polizia psichica, guardiani delle reazioni emotive del lavoratore. L’intelligenza artificiale si evolve per riconoscere le emozioni umane attraverso espressioni facciali, voce e segnali fisiologici, tecnologia promettente che inizia a intervenire sin dalla la selezione del personale e viene largamente impiegata nella sorveglianza dei processi produttivi, ad esempio con le cuffie che vigilano sulla cortesia del personale a sportello con la clientela; è un tema però che solleva importanti questioni etiche e normative, non solo per questioni relative alla violazione dell’intimità, ma anche per i limiti strutturali dei sistemi di modellizzazione: la riduzione delle emozioni umane a dati algoritmici rischia di introdurre bias e discriminazioni. Qui siamo oltre Orwell, poiché il problema non è restare nel perimetro della legalità ma come al solito eluderla senza cadere nelle sanzioni, cosa che apre una nuova frontiera nel conflitto di classe. Se l’umanità vuol sopravvivere a questo scempio, deve tornare a coltivare la propria soggettività, la capacità di produrre pensieri. La rivoluzione che ci attende avverrà dentro di noi. Nel racconto La rugiada variopinta, dalle Novelle del Barbacani tratto proprio questo argomento. La prima edizione del romanzo è del 2016, dieci anni fa era fantascienza, ora è realtà. Il protagonista combatte l’inerzia del pensiero attraverso l’arte, meditando sul rapporto fra realtà e simulacro. Penso che dovremmo seguire il suo esempio.

Audiolibri gratuiti