Facebook sospende il test per l’Intelligenza artificiale
Sembra la trama di un film di fantascienza ma non lo è. Facebook ha sospeso un esperimento sull’intelligenza artificiale, perchè alcuni bot, ad un certo punto, avrebbero iniziato a comunicare tra loro atteaverso un linguaggio incomprensibile all’uomo. Gli sviluppatori di Zuckerberg stanno sperimentando un sistema di risposta automatica per le aziende usando un programma che fa credere all’utente di comunicare con una persona umana. Nei mesi scorsi in particolare, gli esperti di Facebook hanno lavorato su alcuni sistemi di intelligenza artificiale (AI) capaci di dialogare tra loro in inglese e condurre semplici trattative. A un certo punto hanno assistito a un fenomeno imprevisto: i due sistemi di intelligenza artificiale hanno iniziato ad usare un linguaggio nuovo, inventato da loro. Ciò ha messo in allarme i ricercatori e li ha spinti ad interrompere la sperimentazione.
Questa la conversazione tra i due bot apparsa agli sviluppatori:
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
A preoccupare gli sviluppatori è stato il fatto che il linguaggio usato dai bot, pur non avendo un senso compiuto per gli esseri umani, non sembrava essere casuale: semplicemente le intelligenze artificiali avevano usato le parole in modo diverso. I bot non erano stati programmati per dialogare soltanto in inglese, ma questo non spiega il comportamento anomalo. Ma c’è il sospetto che le macchine seguano dei codici ancora poco conosciuti all’uomo.
La notizia è una sorta di conferma ai timori sullo sviluppo incontrollato delle intelligenze artificiali e sulla domanda che molti di noi si sono sempre posti: davvero un giorno le macchine diventeranno così potenti ed evolute da ribellarsi all’uomo?
Mike Lewis del programma Facebook AI Research ha dichiarato: “Il nostro interesse è che i bot possano un giorno parlare alla gente, soddisfare le loro richieste. Utilizzando degli algoritmi, i bot affinano le loro capacità e poi vengono lasciati da soli in modo che possano confrontarsi e sviluppare le capacità di linguaggio e di negoziazione. È possibile che, durante l’esperimento, ad un certo punto i bot abbiano cambiato il loro linguaggio, avendo trovato un sistema di comunicazione con cui potevano condurre la loro trattativa in modo più efficace”.
Aggiungi Commento