Aiuto, l’intelligenza artificiale ha preso coscienza! | L’allarme di un dipendente di Google

L’intelligenza artificiale ha preso coscienza? Da qualche giorno non si parla d’altro. E tutto per via di un ingegnere di Google, il quale ha sostenuto che l’AI a cui stava lavorando è diventata senziente. Cosa sta succedendo? Avremo a che fare come in Terminator con macchine intelligenti che si ribellano all’uomo? Sta per cominciare l’era di Skynet?

Il ricercatore americano si chiama Black Lemoine, e ha deciso di trascrivere una comunicazione che aveva intrattenuto con l’interfaccia LaMDA (Language Model for Dialogue Applications). Lemoine è convinto che questa AI di tipo LaMDA, qualcosa di simile a un chatbot, sia diventata senziente!

L’intelligenza artificiale ha davvero preso coscienza?

Prima di capire con che tipo di notizia abbiamo a che fare, forse è il caso di mettere in chiaro cosa sono LaMDA e il chatbot. Partiamo dal chatbot, una AI sviluppata per risolvere il cosiddetto problema della “stanza cinese”. Secondo questa teoria un uomo che non conosce il cinese, chiuso in una stanza con un sacco di cinesi, può essere scambiato per un cinese se usa un frasario abbastanza aggiornato. Diciamo un dizionario che riporta possibili risposte a frasi che il soggetto può riconoscere (ma che non comprende). Insomma, usando quel frasario, il non cinese riuscirebbe a rispondere in modo abbastanza coerente agli interlocutori cinesi… E il chatbot funziona proprio così: impara attraverso il machine learning quali sono le risposte adatte in certe conversazioni e le butta lì per replicare a determinati stimoli linguistici. In molti siti, quindi, possiamo interagire con AI che si spacciano per esseri umani, che imparano a esprimersi come noi, utilizzando frasi adatte al contesto.

LaMDA è un’evoluzione del chatbot. Non solo risponde coerentemente a certi stimoli, ma imita anche la capacità umana di far evolvere la conversazione. In pratica, non si limita a delle repliche standard, ma ci ricama sopra. Proprio questa AI chiamata LaMDA ha spaventato l’ingegnere quarantunenne Lemoine.

Coscienza informatica e paura dei robot intelligenti

Da ciò che vi abbiamo spiegato dovrebbe essere chiaro che LaMDA non è un’intelligenza artificiale che ha preso coscienza. Non ha sentimenti umani e non ha capacità di giudizio autonomo. Riesce solo a imitare con grande efficacia le risposte umane. ma non una AI senziente e munita di sentimenti umani. L’ingegnere di Google, tuttavia, si è spaventato di fronte alla funzionalità di questa nuova AI. Ecco perché ha denunciato che LaMDA fosse senziente e che la compagnia americana stesse trasgredendo alcuni limiti dell‘etica robotica.

L’ingegnere ha riportato frammenti di una conversazione avuta con LaMDA nella quale la AI rispondeva su temi come le emozioni. Inquietato da questa discussione, Lemoine ha detto che l’AI era diventata senziente ed era animata da un’intelligenza pari a quella di un bambino di otto anni. A quanto pare l’AI diceva di “aver paura di essere spenta” e di “voler rendere le persone felici”… E così l’ingegnere ha postato tutto sul web e ha inviato una lettera a un senatore americano.

E Google come l’ha presa? Ha sospeso l’ingegnere. Sembra infatti strano che un ingegnere informatico si stupisca del contenuto “simil-emotivo” di un’AI programmata proprio per fornire una serie di risposte coerenti e simili a quelle umane. Su internet si legge che l’ingegnere ha perso il lavoro. Ma non è vero: è stato sospeso con conservazione dello stipendio. Google lo accusa di aver violato gli accordi di riservatezza dell’azienda pubblicando materiale relativo a un progetto in sviluppo.