Un algoritmo contro la pornografia nei romanzi self-published

Un’insidiosa polemica sta scuotendo in questi giorni l’universo dell’editoria digitale. Si tratta dello scandalo relativo alla diffusione, senza controllo, di titoli pornografici self-published sui grandi store on line.
Il caso è scoppiato perché ci si è accorti che diversi scrittori hanno autopubblicato opere dal contenuto scabroso, spesso ai limiti della pedofilia. I nomi degli autori, ma sarebbe meglio dire «autrici», sono noti sebbene probabilmente si tratti di pseudonimi – Cassandra Zara, Ashley Gold, Alicia Hataway, Erika Simons – e lo stesso vale per i titoli delle opere, tutti sul calibro di: Papino mangia me per cena o No, professore non abusare di noi.
Alla luce dei fatti Amazon e Kobo hanno preso provvedimenti immediati, eliminando la maggior parte dei titoli scandalosi dai loro siti. Kobo si è scusato pubblicamente per l’accaduto (riprendiamo la dichiarazione da «la Repubblica» di oggi) affermando che tutto questo è stato causato da «utenti che non hanno rispettato i termini imposti dal self-publishing del loro sito, e ha ringraziato coloro che hanno segnalato i titoli indecenti».
L’altro aspetto saliente della questione, infatti, è quello relativo all’assenza di filtri «a monte» in grado di regolamentare il mare magnum delle autopubblicazioni on line, che rende appunto le «segnalazioni» l’unico espediente per arginare il problema. Un problema che non è solo del mercato editoriale in senso stretto, ma si tratta di una questione aperta che coinvolge l’intero universo dei contenuti user-generated.
Facciamo alcuni esempi: lo scorso anno avevamo dato notizia di una storica sentenza tedesca relativa al copyright che vedeva su fronti opposti la Gema (la Siae teutonica) e YouTube. In breve: il colosso dei video on line non aveva provveduto a rimuovere dalla propria vetrina i video di alcune canzoni protette dal diritto d’autore, per le quali non era stata pagata la licenza alla Gema. Il risvolto più interessante della sentenza che, dando ragione all’ente pubblico, obbligava YouTube a pagare una multa e a rimuovere i video dalla versione tedesca del proprio portale, è quello che obbligava la piattaforma di proprietà di Google ad adoperarsi affinché tali contenuti non fossero più disponibili nel suo catalogo. Questione non banale perché, per mettere in atto il provvedimento, a YouTube non bastava applicare il sistema esistente di «content id» (il filtro che rende ciascun video reperibile tramite una ricerca sul motore del sito) ma doveva affiancargli anche un filtro semantico che identificasse (e censurasse) non solo la versione «official» di un determinato brano, ma anche le sue versioni live, karaoke e «amatoriali». YouTube non poteva dunque limitarsi a una mera «verifica dell’esistente», ma impedire anche illegali caricamenti futuri per iniziativa di singoli utenti.
Naturalmente il colosso del video-sharing è ricorso poi in appello affermando che l’imposizione di un nuovo meccanismo di filtraggio dei contenuti costituiva un limite all’innovazione e alla libertà d’espressione, i pilastri della piattaforma di proprietà di Mountain View che trae linfa vitale dai contenuti caricati dagli utenti.
Agli stessi principi si erano ispirati, finora, anche Amazon e Kobo – per i quali comunque il self-publishing rappresenta una fetta non trascurabile del loro business – che si sono sempre fatti paladini della libertà di espressione, negando di voler attuare alcun tipo di censura preventiva.
Sempre su «la Repubblica» leggiamo che: «Nel caso di Kobo, per esempio, a leggere il regolamento della casa canadese, gli e-book autoprodotti vanno on line (e quindi a disposizione di tutti) “nel giro di 24-72 ore”. Un lasso di tempo limitato per controllare se un'intera pubblicazione non infrange le linee guida di retailer come Amazon e Kobo, che vietano espressamente materiale pornografico e “offensivo”».
Il nodo della questione è quindi da un lato, la progettazione (nient’affatto semplice) di un algoritmo che individui e contrassegni le pubblicazioni con contenuti illegali o scabrosi, e dall’altro riuscire a indicizzare con maggior cura le pubblicazioni self-published in modo che quelle rivolte a un pubblico adulto non finiscano tra quelle rivolte ai bambini (cosa che è capitata appunto nel quadro del recente scandalo).
Se Kobo, interrogata da «la Repubblica», porrà rimedio almeno a questa seconda questione dichiarando che: «tra qualche settimana (anche in Italia) per i suoi libri sarà pronto un nuovo sistema di parental control, ossia filtro per bambini. Amazon, – fa sapere il quotidiano – al momento, non ha risposto».