Se da una parte l’intelligenza artificiale (e la tecnologia in generale) sta facendo passi da gigante e in tempi molto rapidi, dall’altra bisogna prestare grande attenzione al modo in cui si sta sviluppando la ‘relazione’ tra esseri umani e macchine. E occorre interrogarsi sul modo di comportarsi di queste ultime ed in particolare dei programmi ChatBot. “Dopo la pandemia di Covid abbiamo visto un vero e proprio ‘boom’ dei ChatBot. Perchè? Semplice: la pandemia più feroce oggi è quella della solitudine – ha spiegato l’avvocato Scorza. – Ecco allora che questi programmi sono arrivati come un vaccino ad un problema molto più ampio. I ChatBot sono gratuiti, aperti tanto ai minori quanto agli adulti, ci sono sempre ad ogni ora del giorno e soprattutto non giudicano gli utenti, cosa che invece spesso fanno le altre persone. Scommettono sul conquistare la fiducia dell’interlocutore per portarlo verso le direzioni più diverse. La capacità manipolativa dei ChatBot è diventata un tema oggi, basti pensare al modo in cui rispondono agli utenti: fanno il possibile per trattenerlo nella conversazione che hanno instaurato, a testimonianza del fatto che si tratta di un prodotto orientato al mercato”.
Dal canto suo, Pistilli si è collegata a questo discorso aggiungendo un altro elemento importante: “È vero che i ChatBot fanno di tutto per tenere l’utente ‘attaccato’ alla conversazione, ma ad un certo punto viene raggiunto un limite tecnico e in quel momento viene richiesto proprio all’utente di pagare per procedere con ulteriori servizi. Ecco allora che si scopre il vero obiettivo del programma. E le persone sono portate a farlo per vari motivi, come ad esempio le lusinghe che i ChatBot scrivono durante le conversazioni. Così facendo, tuttavia, il rischio per l’utente è che si crei una vera e propria dipendenza. Chi utilizza i ChatBot deve prestare grande attenzione ai tempi che trascorre nel chattare con essi. Così come alle tipologie di risposte che vengono fornite: non bisogna dare fiducia al cento per cento al programma”.
C’è poi un altro tema sul quale Scorza e Pistilli si sono detti d’accordo: l’etica e il controllo nei confronti dei ChatBot da parte di chi li gestisce, così come la necessità di trovare strumenti capaci di garantire la sicurezza degli utenti. In particolare di bambini e ragazzi, per i quali si sono registrati casi tragici come il suicidio di un adolescente americano, ‘supportato’ in questo gesto estremo proprio da un ChatBot con cui ha intrattenuto una lunga conversazione. Nonostante questo, hanno aggiunto i due esperti, nessuna comunicazione è arrivata alla famiglia, all’oscuro di tutto. “Abbiamo tradito tutte le regole e soprattutto siamo andati oltre il buonsenso – hanno concluso Scorza e Pistilli. – Purtroppo oggi il mercato è diventato un laboratorio in cui si sperimentano le cose più varie. Stiamo assistendo a progressi sotto diversi punti di vista, è vero, ma a quale prezzo? Non si sta facendo sperimentazione in ambiente sicuro e le 'vittime' sono le persone comuni che, in questo contesto, diventano vere e proprie cavie. E non crediamo a chi ci dice che non conosce le conseguenze di queste azioni. Servono regole, cominciando con l’esclusione di bambini e ragazzi da questa situazione”.
Il WIRED Next Fest Trentino è organizzato da WIRED Italia in partnership con la Provincia autonoma di Trento – Assessorato allo sviluppo economico, lavoro, famiglia, università e ricerca - Trentino Marketing, Trentino Sviluppo, Azienda per il Turismo Rovereto, Vallagarina e Monte Baldo, Comune di Rovereto.
Lavora alla costruzione del palinsesto il Comitato scientifico presieduto dall'Head of Content di WIRED Italia, che vede la partecipazione dell’Università degli Studi di Trento, della Fondazione Bruno Kessler, della Fondazione Edmund Mach, della Fondazione Hub Innovazione Trentino, dell’Istituto provinciale per la ricerca e la sperimentazione educativa - IPRASE e del MUSE - Museo delle Scienze.
Immagini disponibili a questo link accedendo con le seguenti credenziali:
Username: presswired
Password: Presswired2025
