È un decennio che subiamo la fascinazione dell’algoritmo. Fatichiamo a capire esattamente cosa sia ma non importa. Sappiamo che è scritto in un linguaggio strano, fatto di molte righe e pieno di simboli. Sappiamo che non lo scrivono persone normali, servono degli ingegneri per metterlo assieme per bene. Una volta scritto (loro dicono “compilato”) l’algoritmo diventa segreto, perché se non lo fosse il gioco sarebbe finito prima ancora di cominciare: l’algoritmo è il nuovo oro nero, se così non fosse poi noi come facciamo a pagare gli ingegneri?

Per sovrappiù subiamo la fascinazione anche degli ingegneri. Non si spiega diversamente la cieca fiducia che riponiamo in persone che preferiscono scrivere codice piuttosto che parlarsi in una delle molte lingue conosciute. Così capita che l’ingegnere prepari l’algoritmo, oggetto prezioso che per sua stessa definizione non potrà fallire. E l’algoritmo sapientemente compilato riconoscerà il colore della pelle, le fattezze femminili, il triangolo più scuro lì in basso e, nel tempo di un millisecondo, emetterà la sua sentenza senza appello: È PORNO!

 

 

Così su Facebook L’origine del mondo di Courbet diventa materiale pornografico e viene censurato. Non una volta (gli umani imparano dai loro errori gli algoritmi meno) ma più e più volte. Fino a quando l’incompetenza non diventa un vero marchio di fabbrica.

L’algoritmo può essere variamente interpellato. Per esempio gli potremo affidare il compito di censurare i contenuti indecenti, magari controllando una ad una tutte le parole della nostra piattaforma. Del resto chi altri lo potrebbe fare?  Essendo stato scritto da un ingegnere – categoria che notoriamente non eccelle in ironia – l’algoritmo magari all’inizio faticherà un po’ a distinguere la parola MERDA scritta da un comico da quella scritta da un odiatore seriale. Tutte le MERDE sono uguali per l’algoritmo. Il quale algoritmo quando segnaliamo che l’assessore alla cultura del nostro Comune ci ha appena detto SEI UNA MERDA sul suo profilo, ci risponderà di aver attentamente vagliato quella pagina e di averla trovata OK.

 

Quando segnaliamo a Facebook una pagina neofascista piena di odio, svastiche, proiettili, bersagli, elmetti, mimetiche, pugnali, busti del duce e minacce di morte, in genere la prima risposta automatica di Facebook è qualcosa tipo: Ciao mantello547, grazie per la tua segnalazione: abbiamo controllato la pagina “VIVA HITLER, VI FACCIAMO A PEZZETTINI” e l’abbiamo trovata OK.

 

 

Per anni abbiamo pensato che l’algoritmo pensasse a tutto: a difenderci dal porno o dai nazisti tanto per dirne un paio, in virtù della sua suprema intelligenza ingegneristica. E anche un po’ per via della nostra creduloneria sulle possibilità della tecnologia. Poi è venuto fuori che per esempio Facebook per distinguere i quadri dal porno o i MERDA dei comici da quelli degli assessori stipendiava algoritmi umani che in cinque secondi devono stabilire se un contenuto è OK o se deve essere cassato, e tutto il racconto eroico dell’ingegnere onniscente che costruisce universi di codice in grado di salvarci (o di condannarci definitivamente) è leggermente svaporato.

E buonanotte.

 

 

29 commenti a “Me l’ha detto l’algoritmo”

  1. il mondo perfetto dice:

    Più che di algoritmo parlerei di censura. Questa voglia di considerare tutto quanto sia legato a internet ed ai social come qualcosa di mai avvenuto prima- senza eccezioni- credo sia provinciale, tipo i turisti giapponesi che fotografano le pozzanghere italiane.
    Detto ciò la censura su facebook è infame, molto infame: io per aver messo in copertina un’immagine di Je vous salue Marie di Godard (non dovrei spiegarvi che si tratta di un capolavoro del cinema di ogni tempo) fui bannato.
    Ma la stupidità è stupidità, non diamo colpa a algoritmi.

  2. Luca Sommacal dice:

    No, non ci siamo. Non so che trascorsi tu abbia con gli ingegneri, ma ti assicuro che hai sbagliato bersaglio.

    Ti faccio solo un esempio: anche Google utilizza lo stesso tipo di algoritmi, creati (presumibilmente) da “ingegeri”.

    L’algoritmo è solo uno strumento. E chi lo crea (chiamalo programmatore o sviluppatore) non decide tutto da solo: implementa quello che qualcun altro (nelle grandi aziende, un product manager, che non è detto sia un ingegnere) ha deciso.

    Se hai voglia, sono disponibile per corsi base è avanzato di cicli di vita di prodotti software

    (Il commento potrebbe essere molto più lungo ma finisce qui perché adesso sento la necessità di parlare un po’ con il mio compilatore di fiducia)

  3. Marcello dice:

    Quoto al 100%

  4. Sergej dice:

    Succede che il responsabile italiano del team di controllo sulla congruenza della pubblicità Google (quella che “finanzia” grandi e piccoli siti web e che ha creato il mercato dell’analisi pubblicitaria), che stabiliscono che i siti che pubblicano quadri e statue dell’antichità non possono ospitare i banner del circuito Google, quando cambiano lavoro passano a lavorare per la CEI o per gli organi di informazione cattolici. E’ successo qualche anno fa. L’immissione di personale proveniente da certi ambienti che controllano le tastiere degli uffici che controllano fa saltare qualsiasi pretestuosa e presuntuosa idea che esista una “oggettività” dell’algoritmo. D’altra parte l’alternativa potrebbe essere ad es_ che ognuno “vede” ciò che corrisponde al proprio gusto, così come oggi Google ti dà i risultati sulla base non di quello che esiste ma di quello che presume tu stia cercando o ti fa vedere la pubblicità sulla base delle tue ultime ricerche o dei siti che hai visitato. Se sei giudicato un sessuofogo non potrai mai vedere la Maya Desnuda, mentre se sei un maniaco sessuale sì? Credo che quanto prima ci poniamo il problema di uscire da questo circuito incontrollato, prima torniamo a disporre di una rete che serva per lo svago la conoscenza e per il lavoro. Attualmente, sempre di più, serve solo per il controllo e per portarti dove altri vogliono che tu sia. (Scusa lo sfogo)

  5. malb dice:

    Se si conosce il metodo della ricerca scientifica si sa che l’espressione matematica o logica che descrive gli eventi studiati è costruita sulla scelta di variabili che si ritengono significative. Se le variabili scelte non lo sono o se lo sono solo in parte, l’elaborazione matematica o logica fornirà una descrizione approssimata, come del resto avviene sempre perché anche le variabili trascurate hanno comunque un peso.
    Questo metodo è stato in parte trasferito nella realizzazione dei database e degli algoritmi che elaborano j dati contenuti in essi. In questi casi però i dati non sono ricercati in natura, ma l’algoritmo elabora i nuovi valori che acquisisce con quelli che hanno le variabili omogenee contenute nel data base. Se questi non contengono tutte le sfumature che sono proprie della mente umana quando è esperta in una certa materia, l’algoritmo fornirà una risposta incompleta, parziale e in qualche caso ridicola. Anche gli algoritmi cosiddetti intelligenti cioè quelli che immettono nel database di riferimento informazioni ricevute nel corso del loro funzionamento, difficilmente potranno raggiungere la conoscenza dell’esperto che usa anche la sua conoscenza implicita cioè quella generata dalla sua esperienza e non solo dalle pubblicazioni che conosce.
    Da questo si possono trarre due conclusioni.
    La prima è che l’algoritmo non ci protegge, ma ci indirizza secondo le idee di chi lo scrive e scrive i database o di chi gli fornisce le specifiche. In altre parole il condizionamento realizzato attraverso software opporti ha la stessa età dell’uso dei database e delle loro elaborazioni.
    La seconda è una domanda a @mante: “non sarà che anche gli algoritmi sono a bassa risoluzione?”

  6. il mondo perfetto dice:

    L’esperimento di vedere quanto un blogger piddino e soprattutto gli haters della stessa parte politica sopportassero opinioni dissenzienti ha dato gli esiti che prevedevo. Haters liberi di insultare, replica del commentatore non piddino, censurata.
    Ma, finito questo esperimento credo, cari, che resterete delusi: continuerò a commentare il blog di Mante, finchè la sua censura piddina non si allargherà, ma con un solo commento, visto che i dati empirici di cui abbisognavo per la mia ricerca li ho ormai avuti. Vi ringrazio sentitamente per avere, senza saperlo, confermato mie teorie (se le aveste smentite avrei dovuto scrivere molte parti del mio volume- che comunque non citerà il presente sito).
    Buona opposizione, cari.
    ps: “Bassa risoluzione” me lo hanno prestato ieri, quindi lo leggerò senza che nemmeno un euro di diritti finisca nelle tasche di Mantellini…

  7. LuBe dice:

    Che esperimentone… stai scrivendo il libro “Banalità 2.0”?

  8. Maurizio di Lione dice:

    Ma le foto di chi sono ?

  9. metil dice:

    Eppure nel riconoscimento dei brani musicali non viene fatta alcuna analisi semiotica, non si analizzano per niente le fattezze musicali e nemmeno i triangoli e gli intervalli, l’algoritmo lavora su altri parametri: è proprio una baggianata moralista e tutta pietosamente politica. O forse volevi essere ostentatamente simpatico, allora ok: il solito piatto. :-)

    Quindi penso che tu e l’ingegnere dovreste parlarvi perché è successo un pasticciaccio: l’onorevole Boldrini, alla Presidenza della Camera dei Deputati di una Repubblica, la pensava esattamente così: un algoritmo per far piazza pulita dei cattivi, delle fake, degli haters. Concetto ripetuto in più riprese, dal 2016 al 2018, per non sbagliare, per non essere equivocata..

    corriere.it: Fake news: l’appello di Laura Boldrini e il nuovo algoritmo …

    Le fake news. Tipo Oscar Giannino che spiegò ai poveracci il significato di accountability e che raccontò a Zingales di esser laureato. Il Sole24 dopo la campagna politica lo reintegrò subito.. per una questione di meritocrazia, una questione morale.

    E’ uno strano gioco di specchi a geometrie variabili: io osservo te come tu osservi i grillini… non è fantastico? Non so se ridere o piangere, o promuoverti Ministro dell’Innovazione del Governo Verdini-Boldrini. Con stima.

  10. metil dice:

    Gli stupidissimi algoritmi di Google hanno già stravinto visto che hanno il potere di deviare la politica e i rappresentanti pubblici, sono oggi il potere economico e militare (come la cosiddetta ‘Primavera araba’ di Twitter)
    E sono algoritmi stupidi perché sono gli utenti stessi a fornire dati e informazioni sensibili, non ci vuole una scienza. Non è il chip nel cervello, no quello era il romanticismo cyberpunk di un ex olivettiano fallito: qui è il cervello nel chip..
    ah ah buffoni.

  11. il mondo perfetto dice:

    @LuBe
    stai al tuo posto, troll piddino. Io pubblico libri e ci guadagno, tu fai l’hater gratis e nell’anonimato, insultando- che qualcosa di tuo non sei capace a scriverlo. Sprechi “fiato”, ultima volta che ti rispondo. Ti compiango, invero.

  12. zioluc dice:

    ma le foto di chi sono? [#2]

  13. layos dice:

    Un mio professore di informatica soleva ricordarci, sempre, che i calcolatori elettronici non saranno mai “intelligenti” ma solamente degli stupidi molto molto veloci. Così veloci da sembrare intelligenti. Gli algoritmi di intelligenza artificiale al momento sono solo una quantità esorbitante di piccole azioni molto stupide dalle quali si tenta di far derivare una decisione intelligente. Per quanto ci illudano, restano sempre stupide istruzioni date in pasto a stupide macchine.

  14. metil dice:

    Ad un certo punto entra nel museo un nazista dell’Illinois, una testa rasata, con il solo scopo di dare un seguito alla barzelletta di Mantellini. Fa parte di quella destra americana della periferia sperduta e imperscrutabile, dove ogni triangolo è rigorosamente glabro secondo i dettami dell’industria pornografica.
    Si accorge che il quadro non è nemmeno un vintage ma un’opera degenerata di uno schifoso bigotto e, tirato fuori un raschietto, si avvicina al quadro per raschiare via la peluria come fosse un drappo papale.
    Raschia che ti raschia si forma un grosso buco nero da cui salta fuori Hawking in carrozzella, bestemmiando con la voce robotica e aggiungendo frasi del tipo “Alex Farolfi! Terza D.. istituto psicopedagogico..Come stai?”

  15. Barbara Vernetti dice:

    Non è vero che gli algoritmi non possano imparare dai propri errori, anzi se scritti opportunamente lo possono fare meglio e più velocemente di un essere umano. Non è neppure vero che gli algoritmi siano scritti esclusivamente da ingegneri, ma sono scritti da una variegata umanità con formazione tecnico-scientifica, anche ingegneri, ma altrettanti matematici, informatici, fisici, etc. Nel complesso post superficiale.

  16. massimo mantellini dice:

    A questo punto a giudicare dai commenti temo sia piuttosto evidente che avrei dovuto calcare di più la mano sul tag del post

  17. Luca Sommacal dice:

    Io non vedo tag

  18. il mondo perfetto dice:

    Credo il riferimento al tag fosse ironico (70%).Oppure ha confuso tag con titol0 (29%). Oppure ci voleva prendere in giro (1%).

  19. Luca Sommacal dice:

    Sono un ingegnere, non ho il senso dell’ironia

  20. il mondo perfetto dice:

    Male. Ma direi, dopotutto, che la frase precedente, con un pò di buona volontà, contiene in sè la smentita di quanto hai asserito, nella frase stessa. Ho fiducia:)

  21. unAlberto dice:

    Una cosa è sicura. V’è in giro un autoalgoritmo autocompilante (autocompiacente ed autopromuovente) di una tale efficacia, che nel rispetto delle leggi sopracitate, possiamo ragionevolmente credere che, maggiore è la potenza del calcolatore, minore la probabilità che non venga ridicolizzato colui che, nel rispetto dell’aforisma di Wilde, che regola la dialettica delle discussioni con l’idiota, non rinunci alla sfida di contrastarlo con esiti negativi per la sua autostima.
    #sapevandoloprima

  22. il mondo perfetto dice:

    @unAlberto
    mi spiace: non sei stato abbastanza criptico. E c’è un “che” di troppo. Ci devi lavorare di più. Per intanto, rosica.
    #SuperCazzole

  23. Luca Sommacal dice:

    @il mondo perfetto
    in realtà, ad essere ironico è l’algoritmo che ha deciso di non far vedere tutto quello che Mante ha scritto nel suo commento (per visualizzarlo, da PC: tasto destro sulla pagina, poi “Visualizza sorgente pagina” e poi cerca “ironia”)… o forse è Mante stesso che ha voluto prendersi gioco dell’algoritmo…

  24. massimo mantellini dice:

    @Luca Sommacal, cavolo hai ragione ;)

  25. il mondo perfetto dice:

    @LucaSommacal
    quando commentano quel che ho detto senza dire (aggiungere) niente di nuovo sono molto soddisfatto. Resta il fatto che il riferimento al tag fosse ironico, cari piccoli Jenkins (questa la capiscono solo i lettori di Dylan Dog).

  26. unAlberto dice:

    Quanta presunzione ed arroganza. Ho tentato in tutti i modi di buttarla sull’ironia, ma non presta il fianco….
    Fa pulci a grammatica, alle intenzioni e pure a preghiere opere ed omissioni
    Il suo è il pensiero unico, chi non lo asseconda è piddino, ignorante, frustrato e scemo chi legge

    Questo viene da un altro pianeta e si ferma su un cpt spaziale.

    Adesso mi fermo anch’io perché poi butto via troppo tempo, e va tutto a favore del suo esperimento sociale. No grazie troppa prosopopea.
    Rosico, si, rosico il cioccolato delle uova di Pasqua.
    Saluti a Groucho

  27. il mondo perfetto dice:

    @unAlberto

    1-io non faccio pulci, noto errori- come hanno fatto, non qui, anche con me, senza che gridassi allo scandalo.
    2- il mio non è il pensiero unico, mi chiedo come si fa ancora, nel 2018, a votare pd: e non credo che questo interrogativo sia vietato, fortunatamente- libero chiunque di pensarla diversamente, non ci sarebbe da dirlo ma visto che hai battuto su questo punto, te lo specifico
    3- non mi chiamo questo-ma fa come vuoi.
    4 non vengo da un altro pianeta, permalosone:)
    5- senza rancore

  28. unAlberto dice:

    @illmondoperfettino, amico Catoplepa,
    anch’io noto gli errori, quelli degli altri, se ci sono… i miei non li vedo, li vedono gli altri.
    E neppure io mi so dare una risposta sul perché ci sia ancora chi vota pd o fi.
    Mi sembra il paradosso del medico che fuma. Viene a dire a me che fumare mi brucia i polmoni e mi incenerisce le sinapsi (tanto per dire qualcosa che mi par brutto) ed intanto lui continua a fumare sfidando la sorte e non dando il buon esempio.
    Il mio ha smesso di fumare…
    Tornando ai tuoi nemiciamici del pd, sul fatto che nonostante tutto ci sia chi li vota, ho un ipotesi ancora allo stato embrionale, che potrebbe ingenuamente offrire uno spunto di riflessione, ma sto uscendo troppo dal topic e mi fermo qui.
    E comunque ho dato il mio voto ai 5s.
    E visto che non mi “rancori“, mi spieghi, se ne hai voglia, perché ti sei accanito sul blog di Mantellini?
    Cosa te lo fa scegliere fra tanto altri? Ma forse l’ho capito

  29. Luca Sommacal dice:

    Ok, mi arrendo:

    https://500px.com/photo/47483702/shanghai-world-financial-center-by-cl%C3%A9ment-celma

Lascia un commento