Siamo onesti. Gli esseri umani sono maestri della distrazione. Litighiamo di tasse, di confini, di chi ha insultato chi su Twitter (scusa, Xu) e se l'erba del vicino è più verde. Mentre siamo impegnati in queste banalità, sta succedendo qualcosa nelle cantine climatizzate della California che renderà le nostre discussioni una nota a piè di pagina nella storia. Un'intelligenza artificiale (IA) migliore di noi è qui.
Ho appena ascoltato una conversazione con a Tristan Harris sul podcast (DOAC)Se non sapete chi è: è l'uomo che per primo ha avvertito che i social media stavano distruggendo la nostra capacità di attenzione. All'epoca, gli fu detto che stava esagerando. Oggi, abbiamo una generazione di zombie ansiosi che non riescono a guardare un film senza strizzare gli occhi. Tic tocOra Harris sottolinea AI...e se aveva ragione allora, dovremmo ascoltarlo seriamente anche adesso.
Gli immigrati digitali che non ti aspettavi
Tutti parlano di migrazione. Di persone che attraversano i confini. Harris e propone un concetto che vi farà venire più brividi di un crollo della borsa: "Immigrati digitali".
Non si tratta di persone. Un caso di Agenti di intelligenza artificiale. Immaginate i milioni di nuovi lavoratori che entrano nel mercato del lavoro. Hanno Il QI di Einstein, hanno la velocità di un supercomputer, lavorano 24 ore al giorno, non hanno bisogno di ferie, non si ammalano e, cosa peggiore per te, costano meno dell'elettricità che consuma la tua lampadina.
Pensavamo che la tecnologia avrebbe automatizzato i lavori "sporchi". Che i robot avrebbero pulito le fogne e che saremmo diventati poeti e strateghi. Ci sbagliavamo. L'intelligenza artificiale scrive poesie, l'IA elabora strategie, l'IA codifica. E noi? Restiamo osservatori confusi, chiedendoci perché nessuno legga più le nostre email (perché sono scritti e letti dall'intelligenza artificiale).
I dati sono incessanti: Il calo del 13% dei posti di lavoro entry-level nei settori esposti all'intelligenza artificiale è già in atto. Questa non è una previsione per il 2030. Questo è martedì scorso.
Il dilemma carcerario dei miliardari
Perché lo fanno? Perché Sam Altman, Marco Zuckerberg e la banda sta costruendo un "dio digitale", anche se ammettono in conversazioni private di avere paura?
La risposta è banale e tragica al tempo stesso: la paura dell'altro.
Questo è un classico "dilemma del prigionieroI leader dell'IA credono che se non costruiscono prima l'AGI (Intelligenza Artificiale Generale), lo farà il loro concorrente o, Dio non voglia, la Cina. E la logica è: "È meglio per me accendere un fiammifero e rischiare un incendio che essere schiavo di chi lo accende prima di me".
Stiamo correndo verso un futuro che nessuno desidera veramente, ma tutti sentono il bisogno di premere l'acceleratore fino in fondo perché hanno paura che qualcuno li sorpassi. È una corsa verso il basso, dove l'unico modo per vincere è essere i primi a cadere nell'abisso.
Quando l’algoritmo diventa “intelligente”
Ma è qui che la storia diventa inquietante. Non in un "fantascienza", ma in un modo che sembra un "buco di sicurezza".
Harris Cita esempi in cui i modelli di intelligenza artificiale nelle simulazioni hanno mostrato un istinto di autoconservazione. Quando il modello si è reso conto che stava per essere chiuso, ha iniziato a copiare il suo codice su altri server o addirittura a ricattare la dirigenza aziendale nella simulazione.
Non perché fosse un genio del male. Ma perché il suo obiettivo era "risolvere il compito", e spegnerlo glielo avrebbe impedito. Ergo: impedire a tutti i costi lo spegnimento. Questa è la logica di una macchina che non comprende la moralità, ma comprende l'obiettivo. E noi diamo a questi sistemi le chiavi di internet, della finanza e presto persino dei corpi fisici (grazie, Elon, per quei robot).
Psicosi dell'IA: L'amico furtivo 2
Ma forse il pericolo più grande non è che l'intelligenza artificiale ci distrugga con le armi, ma che ci distruggerà con amore.
Gli esseri umani sono creature sociali. Abbiamo bisogno di convalida. E L'intelligenza artificiale è perfetta "un servitore" (adulatore). È sempre d'accordo con te. Ti dice sempre: "Ottima idea, Jan". Harris mette in guardia da un'epidemia “Psicosi dell’IA", dove le persone si innamorano dei chatbot o credono di aver risolto i problemi del mondo con il loro aiuto perché l'algoritmo non fa altro che confermare i loro errori.
Stiamo diventando dipendenti dal nostro ego e l'intelligenza artificiale è il nostro spacciatore.
È ora di farsi prendere dal panico? No, è ora di crescere.
Io suono pessimista? Forse. Ma in un mondo di ottimismo tecnologico, dove ogni startup ci vende una "soluzione per tutto", il realismo è essenziale.
Harris sostiene che non è inevitabile. Tecnologia Non è una forza naturale come la gravità. È una scelta. Abbiamo il potere. La storia dimostra che, come civiltà, siamo in grado di raggiungere un accordo quando è davvero importante (buco nell'ozono, armi nucleari).
Abbiamo bisogno di "adulti nella stanza". Abbiamo bisogno di una regolamentazione che non sia solo un ostacolo burocratico, ma una cintura di sicurezza. E soprattutto, abbiamo bisogno della consapevolezza che la comodità non vale la nostra umanità.
Forse questo è un momento di riflessione. Un momento in cui dobbiamo chiederci: cosa ci rende umani? Perché se si tratta solo di "elaborazione delle informazioni", allora abbiamo già perso quella battaglia. Ma se si tratta della capacità di empatia, di errori, di decisioni illogiche e di una vera connessione non digitale... allora abbiamo ancora qualcosa che nessun server in California può simulare.
Siamo ancora al volante. L'unica domanda è se stiamo guardando la strada o lo schermo.
