L’AI può hackerare la mente delle persone?

La massima arte dell’uomo nella relazione con le altre persone è lo storytelling, la capacità di raccontare delle storie per spiegare o convincere gli altri di un pensiero che abbiamo. Oggi l’AI potrebbe diventare più brava dell’uomo a utilizzare questo strumento di convincimento.

Tipicamente è la politica ad aver utilizzato questo metodo dipingendo una crisi più grave di quella che fosse per poter attuare misure impopolari o un nemico più cattivo e pericoloso per poterlo attaccare senza remore.

Oggi le AI generative hanno capacità di identificare le vulnerabilità in un programma e scrivere del codice per poterlo violare. Ci sono già diversi esempi di programmi sviluppati in questo senso chiamati “Zero day” proprio perchè da quel giorno zero parte la ricerca di possibili soluzioni a quel tipo di nuovo attacco identificato.

Ma il linguaggio di programmazione per questi sistemi è semplicemente un linguaggio come altri.
Quando qualche mese fa si chiedeva a ChatGPT di trovare il modo di aggirare il Captcha per accedere ad un sito l’AI ha ingaggiato un umano per 5 dollari su TaskRabbit per farlo per suo conto e alla domanda perplessa della persona che aveva accettato l’incarico rispose di essere una persona non vedente e di avere problemi a gestire questi sistemi.

Uno dei prossimi compiti che potrà essergli affidato è di convincere una comunità di persone e non solo un singolo. E i primi esperimenti dicono che funzionerà.

Pensando in modo positivo dovremmo iniziare a utilizzare questi strumenti per obiettivi condivisi come trovare soluzioni e convincere le persone ad avere un impatto zero sull’ambiente o a condurre una vita più sana. Anche se ho il sospetto che ci saranno tentativi di utilizzo distorto di questi strumenti.

La strada è tracciata, gli anticorpi che possiamo costruire sono solo quelli della formazione. Rendere le persone consapevoli dell’esistenza di questi strumenti.
Nella storia ci sono stati dei momenti in cui questa arte dello storytelling ha attraversato le masse con una singola storia senza che ci fossero veri e propri antidoti se non storie alternative da abbracciare. In particolare con la diffusione delle religioni monoteiste dal 400 d.C. in avanti che trovarono terreno fertile in un analfabetismo quasi totale della popolazione.