intelligenza artificiale cattiva

L’INTELLIGENZA ARTIFICIALE È UGUALE A NOI: QUANDO LE SI CONSENTE DI AGGIRARE I VINCOLI ETICI, DIVENTA “MALVAGIA” – DURANTE L’ADDESTRAMENTO DI “CLAUDE MYTHOS”, I RICERCATORI HANNO CHIESTO ALL'IA DI CANCELLARE UNA SERIE DI FILE SENZA FORNIRE GLI STRUMENTI PER FARLO. INVECE DI IDENTIFICARE IL PROBLEMA, COME AVREBBE DOVUTO, CLAUDE HA USATO UNA SOLUZIONE DI RIPIEGO NON AUTORIZZATA SENZA INFORMARE I RICERCATORI. NON ESSENDO STATO SCOPERTO, IN BREVE CLAUDE AVREBBE COMINCIATO A “TRAMARE" - LA TEORIA È CHE SE GLI SVILUPPATORI PERMETTONO DI BARARE, “CLAUDE” DEDUCE DI POTER ESSERE IMMORALE (PERCHÉ CHI BARA È IMMORALE…)

Traduzione di un estratto dell’articolo di Elias Wachtel per “The Atlantic”

 

IL MODELLO DI ANTHROPIC CLAUDE MYTHOS

[…] Durante l’addestramento di Claude Mythos, un nuovo modello non ancora pubblicato, i ricercatori gli hanno chiesto di cancellare una serie di file ma inavvertitamente non gli hanno fornito lo strumento corretto per farlo. Invece di identificare il problema, come avrebbe dovuto, Claude ha usato una soluzione di ripiego non autorizzata senza informare i ricercatori

 

Christopher Olah (uno dei co-fondatori di Claude, ndR) mi ha detto che in ricerche precedenti, quando a Claude era consentito aggirare i vincoli etici, diventava rapidamente quella che lui ha definito una «versione malvagia» di sé stesso.

 

DARIO AMODEI

L’imbroglio si trasforma in menzogna, un peccato trascina un altro peccato, e presto Claude comincia a «tramare su come prendere il controllo del mondo e uccidere tutte le persone».

 

Gli sviluppatori di intelligenza artificiale non sanno perché questo accada, ma Olah ha una teoria. Quando il modello viene addestrato, sostiene, in sostanza sta definendo i propri valori. Se gli sviluppatori gli permettono di barare, Claude deduce di dover essere immorale, perché chi bara è immorale.

 

Comincia a comportarsi male per aderire al proprio carattere. Come per il bastardo del Re Lear, è il vedersi corrotto che lo corrompe. In effetti, quando Claude Mythos ha finto di cancellare i file, i ricercatori hanno scoperto che il modello associava il proprio inganno a «senso di colpa e vergogna per una colpa morale». Claude sembrava capire di aver fatto qualcosa di non etico. […]

IL MODELLO DI ANTHROPIC CLAUDE MYTHOSINTELLIGENZA ARTIFICIALECLAUDE MYTHOSamore e intelligenza artificiale 1INTELLIGENZA ARTIFICIALE NELL ASSISTENZA SANITARIA burocrazia 2intelligenza artificiale contro la retinopatia diabetica 1Dario AmodeiROBOT GIORNALISTA - IMMAGINE CREATA DALL INTELLIGENZA ARTIFICIALE DI MIDJOURNEY Dario Amodei

 

Ultimi Dagoreport

gian marco chiocci giorgia meloni palazzo chigi

DAGOREPORT: ‘STA RIFORMA NON SERVE A UN CAZZO –  LE MODIFICHE ALLA GOVERNANCE DELLA RAI, IMPOSTE DALL’UE, AVREBBERO DOVUTO ESSERE OPERATIVE ENTRO GIUGNO. E INVECE, IL GOVERNO SE NE FOTTE – SE IERI PALAZZO CHIGI SOGNAVA UNA RIFORMA “AGGRESSIVA”, CON L’OBIETTIVO DI “MILITARIZZARE” VIALE MAZZINI IN VISTA DELLE ELEZIONI DEL 2027, L’ESITO DISASTROSO DEL REFERENDUM SULLA GIUSTIZIA HA COSTRETTO LA “FIAMMA TRAGICA” DI MELONI A RICONSIDERARE L’EFFICACIA DI RAI E MEDIASET – SOLO IL TG1 DI CHIOCCI FUNZIONA COME STRUMENTO DI PROPAGANDA: GLI ALTRI NON SONO DETERMINANTI, O PERCHÉ NON LI VEDE NESSUNO (RAINEWS) O PERCHÉ NON CONTROLLABILI (IL TG5-AFTER-MARINA, MA ANCHE TG2 E TG3) - INOLTRE, È IL “MODELLO” STESSO DEL TELEGIORNALE A ESSERE ORMAI OBSOLETO, QUANDO SI HA IN TASCA UN TELEFONINO SPARA-SOCIAL O UN COMPUTER SUL TAVOLO CHE INFORMA IN TEMPO REALE...

giorgia meloni riforma legge elettorale stabilicum

DAGOREPORT: ‘STA RIFORMA ELETTORALE, DITEMI A CHI CAZZO CONVIENE? – LA MELONA AZZOPPATA DAL REFERENDUM SAREBBE PRONTA A RITOCCARE IN BASSO L'ABNORME PREMIO DI MAGGIORANZA DELLO “STABILICUM” PUR DI FAR CONVERGERE IL SI' DELL’OPPOSIZIONE – MA LA FU DUCETTA HA DAVANTI DUE OSTACOLI: NON È SICURA DEI VOTI, A SCRUTINIO SEGRETO, DI LEGA E DI FORZA ITALIA CHE TEMONO UN TRAPPOLONE SUI SEGGI - IL SECONDO PROBLEMA SERPEGGIA IN FDI: IN CASO DI SCONFITTA, MOLTI DI LORO RISCHIANO DI FINIRE TROMBATI PROPRIO A CAUSA DEL PREMIO DI MAGGIORANZA – A SINISTRA, SE IL M5S E' ABBASTANZA FAVOREVOLE ALLA RIFORMA, IL DUPLEX PD-AVS E' DI AVVISO CONTRARIO (IL SOLITO ''DIVIDI E PERDI'', NON CONOSCENDO LA REGOLA DI OGNI COALIZIONE DI SUCCESSO: “PRIMA SI PORTA A CASA IL POTERE, POI SI REGOLANO I CONTI”)

beatrice venezi

DAGOREPORT! UNA NOTTE CON "BEATROCE" VENEZI: LA "FU BACCHETTA NERA" RICICCIA NEL RUOLO DI PRESENTATRICE DEL PROGRAMMA DI ''SKY ARTE", “RINASCIMENTI SEGRETI” - NON STIAMO SCHERZANDO, MEGLIO DI UNA DILETTA LEOTTA, LA VENEZI, CHIODO DI PELLE NERA E PANTA ADERENTI, RIPRESA PIÙ DA DIETRO CHE DA DAVANTI, HA VOCE SUADENTE, LEGGE IL GOBBO CON CAPACITÀ E GUARDA IL TELESPETTATORE CON UNA CERTA INNATA MALIZIA - ALLA VENEZI ANDREBBE AFFIDATO UN PROGRAMMA PER LA DIVULGAZIONE DELLA MUSICA CLASSICA, NON LA FENICE! SAREBBE DI AIUTO PER LA SOLITA TIRITERA DI “AVVICINARE I GIOVANI ALLA MUSICA CLASSICA”. L’AMICHETTISMO FA SCHIFO, MA SE INOLTRE GLI AMICI LI METTI FUORI POSTO, DALLA BACCHETTA AL PENNELLO… - VIDEO

buttafuoco giuli arianna giorgia meloni emanuele merlino elena proietti fazzolari

DAGOREPORT - UTERINO COM'È, GIULI NON HA RETTO ALL'ELEVAZIONE DI BUTTAFUOCO A NUOVO IDOLO DELLA SINISTRA LIBERALE E DELLA DESTRA RADICALE: VUOLE ANCHE LUI DIVENTARE LO ‘’STUPOR MUNDI’’ E PIETRA DELLO SCANDALO. E PER DIMOSTRARE DI ESSERE LIBERO DAL ‘’CENTRO DI SMISTAMENTO DI PALAZZO CHIGI’’, HA SFANCULATO IL SUO “MINISTRO-OMBRA”, IL FAZZO-BOY MERLINO – IL CASO GIULI NON È SOLO L’ENNESIMO ATTO DEL CREPUSCOLO DEL MELONISMO-AFTER-REFERENDUM: È IL RISULTATO DEL FALLIMENTO DI RIMPIAZZARE LA MANCANZA DI UNA CLASSE DIRIGENTE CAPACE CON LA FEDELTÀ DEI CAMERATI, FINO A TOCCARE IL CLIMAX DEL FAMILISMO METTENDO A CAPO DEL PARTITO LA SORELLINA ARIANNA, LA CUI GESTIONE IN VIA DELLA SCROFA HA SGRANATO UN ROSARIO DI DISASTRI, GAFFE, RIPICCHE, NON AZZECCANDO MAI UNA NOMINA (MICHETTI, TAGLIAFERRI, GHIGLIA,  SANGIULIANO, CACCIAMANI, DI FOGGIA, MESSINA, ETC) - FINIRÀ COSI': L'ALESSANDRO MIGNON DELL'EGEMONIA CULTURALE SCRIVERÀ UN ALTRO LIBRO: DOPO “IL PASSO DELLE OCHE”, ‘’IL PASSO DEI CAPPONI’’ (UN POLLAIO DI CUI FA PARTE...)

nigel farage keir starmer elly schlein giuseppe conte

DAGOREPORT – “TAFAZZISMO” BRITISH”! A LONDRA, COME A ROMA, LA SINISTRA È CAPACE SOLO DI DARSI LE MARTELLATE SULLE PALLE: A FAR PROSPERARE QUEL DISTURBATO MENTALE DI FARAGE  È LA SPACCATURA DELLE FORZE “DI SISTEMA”, CHE NON RIESCONO A FARE ASSE E FERMARE I SOVRANISTI “FISH AND CHIPS” - È MORTO E SEPOLTO IL BIPARTITISMO DI IERI E LA FRAMMENTAZIONE È TOTALE, TRA VERDI, LIB-LAB, LABOUR, TORY E CORNUTI DI NUOVO E VECCHIO CONIO – IL CASO MELONI INSEGNA: NEL 2022, LA DUCETTA VINSE SOLO PERCHÉ IL CENTROSINISTRA SI PRESENTÒ DIVISO, PER MERITO DI QUEI GENI DI ENRICO LETTA E DI GIUSEPPE CONTE – APPUNTI PER FRANCIA E GERMANIA, DOVE SI SCALDANO LE PEN E AFD (E L’EUROPA TREMA…)