“AI” FA RIMA CON GUAI – PERSINO ALEX KERP, CEO DI “PALANTIR”, IL COLOSSO USA SPECIALIZZATO NELLA SICUREZZA, CHIEDE REGOLE PIÙ SEVERE PER EVITARE CHE L’IA DIVENTI UN PERICOLO PER L’UMANITÀ: “DOBBAMO FARE SUL SERIO” – IL SOCIO DI PETER THIEL ARRIVA PERSINO A IPOTIZZARE LA NAZIONALIZZAZIONE DEI LABORATORI DI RICERCA DELLA TECNOLOGIA, SE NON FOSSERO IN GRADO DI GARANTIRE UN USO RESPONSABILE DELL’INTELLIGENZA ARTIFICIALE: “LA PRIMA LINEA DI DIFESA È CHE SEI RESPONSABILE DELLE TUE AZIONI” – ANCHE IL PREMIO NOBEL DEMIS HASSABIS, COFONDATORE DI "DEEPMIND", LANCIA L’ALLARME: “LA POSSIBILITÀ CHE QUALCOSA DI GRAVE ACCADA ACCIDENTALMENTE NON È ZERO…”
Estratto dell’articolo di Giuliana Ferraino per il “Corriere della Sera”
Alex Karp vende tecnologia al Pentagono e alle agenzie governative. Palantir, la società che ha cofondato con Peter Thiel e altri e che oggi guida, costruisce software per integrare e analizzare enormi quantità di dati e punta sempre di più sull’intelligenza artificiale.
Per questo colpisce che sia proprio Karp a spingere un passo più avanti il dibattito che attraversa la Silicon Valley: se i laboratori che sviluppano i modelli più potenti non possono rispondere dei rischi che creano, sostiene, si può arrivare fino alla nazionalizzazione. «Dobbiamo fare sul serio», ha detto ieri alla Cnbc , chiedendo «regole ragionevoli» e responsabilità civili e penali per chi sviluppa la tecnologia senza comportarsi responsabilmente. «La prima linea di difesa è che sei responsabile delle tue azioni».
PERICOLI DELL INTELLIGENZA ARTIFICIALE
La nazionalizzazione, nel ragionamento di Karp, arriva quando quella responsabilità non può più essere garantita. Il principio che evoca, in fondo, è quello che già vale per molte tecnologie: un aereo, un’automobile, persino una lavatrice devono rispettare standard di sicurezza prima di arrivare sul mercato. Perché dovrebbe essere diverso per sistemi capaci non soltanto di elaborare informazioni, ma sempre più di scrivere software, prendere decisioni e compiere autonomamente una sequenza di azioni?
Il problema è stabilire quali regole, chi debba scriverle e farle rispettare. Karp non è il primo a chiedere che lo Stato entri nella partita. A giugno Bernie Sanders, senatore indipendente del Vermont e figura storica della sinistra americana, ha proposto un fondo sovrano con una partecipazione pubblica del 50% nelle maggiori società americane di AI.
E sui rischi dell’intelligenza artificiale ora ha trovato un alleato inaspettato: Steve Bannon, ideologo del movimento Maga ed ex stratega di Donald Trump. Nei giorni scorsi si sono ritrovati sullo stesso palco, al «Pro-Human Assembly» di Washington, a chiedere entrambi maggiore controllo sullo sviluppo dell’AI. Le ricette restano opposte: Sanders propone anche un accordo con la Cina per fermare lo sviluppo dell’AI avanzata, mentre Bannon vuole tenere Pechino fuori dall’ecosistema tecnologico americano.
PERICOLI DELL INTELLIGENZA ARTIFICIALE
[…] Sono fatti che danno nuovo peso al dibattito aperto nei giorni scorsi da Dario Amodei, ceo di Anthropic, con il suo appello a rallentare lo sviluppo dell’AI più avanzata, e alle preoccupazioni condivise da Sam Altman di OpenAI ed Elon Musk di SpaceX.
Ieri il confronto si è spostato in Scozia, a Dumfries House, dove re Carlo III ha riunito alcuni dei protagonisti dell’industria: Jensen Huang di Nvidia, il Nobel Demis Hassabis, cofondatore di DeepMind, la direttrice finanziaria di OpenAI Sarah Friar e rappresentanti di Anthropic. Lo sviluppo dell’AI, ha detto il re, è insieme «intrigante» e «profondamente preoccupante». «La nostra umanità deve rimanere sacra», ha aggiunto, chiedendo garanzie perché non si perda «il controllo del nostro destino».
Hassabis non ha nascosto i rischi. «È una tecnologia molto nuova, ci sono molte incognite e molte incertezze», ha detto, riconoscendo che la possibilità che «qualcosa di grave accada accidentalmente, se sbagliamo, non è zero».
Ma si è detto «molto fiducioso» che sia possibile trovare soluzioni, a condizione di concedersi «il tempo e lo spazio per fare le cose nel modo giusto». Huang, che non condivide la richiesta di rallentare la corsa, ha insistito soprattutto sui test: «Chi costruisce l’AI deve sottoporre i sistemi a verifiche rigorose». E se «un prodotto non è abbastanza sicuro, dobbiamo trattenerlo e continuare a lavorarci».
Alex Karp e Peter Thiel - Palantir
demis hassabis 
PERICOLI DELL INTELLIGENZA ARTIFICIALE
Alex Karp e Peter Thiel - Palantir
Alexander Karp
