ChatGPT come Skynet : ci sterminerà tutti ;-)

di
migliorabile
il
42 risposte
M
migliorabile
Super Famoso
Iscritto da
apr, 2013
Messaggi:
6044

ChatGPT come Skynet : ci sterminerà tutti ;-)

https://en.wikipedia.org/wiki/Skynet_(Terminator)

---

A quanto sembra, dobbiamo iniziare a pensare di investire sull'acquisto di terreni coltivabili e ad imparare a coltivare la terra, visto che tra non molto (anni?, per i piu' giovani decenni?) i programmatori diventeranno inutili ;-)

In questo modo, per mal che vada, un tetto sulla testa ed un tozzo di pane raffermo sulla tavola sara' assicurato.

----

MA sara' proprio vero?

Direi piu' no che si ;-)

  1. un essere umano e' una macchina, di tipo biologico, ma comunque una macchina. La possibilita' di creare un “sistema intelligente” basato su acciaio/plastica/silicio/elettronica che sia in grado di “ragionare” non e' esclusa a priori, Ma comunque, al momento, siamo ancora nell'ambito della fantascienza
  2. senza andare troppo nel dettaglio, un sistema “generativo” e' un algoritmo BASATO sulle 4 operazioni (somma sottrazione, moltiplicazione, divisione) e sulla CLASSICA teoria statistica, con teorema di Bayes come RE indiscusso. L'unica cosa che fa questo algoritmo, per quanto SEMBRI “inumanamente intelligente” e' PREDIRE LA PROSSIMA PAROLA. E per generare UN'INTERA FRASE lo deve fare UNA PAROLA ALLA VOLTA
  3. Ora, un sistema (basato sulle 4 operazion) la cui UNICA CAPACITA" e' PREDIRE LA PROSSIMA PAROLA potra' mai ESSERE INTELLIGENTE?
  4. si sta' associando ChatGPT e sistemi simili all'Intelligenza Artificiale.
    NON E' Intelligenza Artificiale, questa e' un cappello sopra ad un'INFINITA' di cose
    E' Machine Learning, un'infinitesima parte del settore dell'Intelligenza Artificiale, 
    anzi NLP (Natural Language Processing), un'infinitesima parte del Machine Learning.
  5. Anche se, al momento, e' il settore che fornito i risultati piu' “”eclatanti", 
    Il Machine Learning e l'NLP possono essere descritti SEMPLICEMENTE con i concetti di un BUON corso di statistica (ROBBBA che si fa all'universita'). Si trova TUTTO sui libri e sugli articoli che descrivono COME questi algoritmi funzionano
  6. La statistica' E' INTELLIGENTE? Se uno mangia un pollo e l'altro muore di fame, la statistica ci dice che entrambi mangiano mezzo pollo! 
    E' ben lontana dall'essere “intelligente” ;-)
  7. Questi sistemi sono in grado di generare del testo INDISTINGUIBILE dal quello umano. 
    GRAZIE TANTE: sono stati addestrati con TERABYTE di testo SCRITTO DA ESSERE UMANI, va da se che hanno imparato come fare!
    Se un falsario di quadri si mette a STUDIARE come  realizzare quadri stile Picasso, va da se che dopo un po' di tempo sara' in grado di realizzare quadri stile Picasso!
  8. La capacita' di questi sistemi di SIMULARE qualcosa DIPENDE da con che cosa sono stati addestrati. ***

---

Ci sono settori un po' piu' di nicchia, ma che hanno una storia lunga 60 anni, nati agli albori dell'Intelligenza Artificiale, e che fondamentalmente non hanno fatto grossi passi in avanti, e sui quali c'era MOLTA speranza, e per cui serve MOLTA MENO intelligenza!

Il calcolo simbolico

ed in particolare l'integrazione. 

Tutti sappiano che il calcolo della derivata e' un processo meccanico, facilmente implementabile come algoritmo. Ma il processo inverso, l'integrazione, e' SOLO MINIMAMENTE meccanico. Nel 90% dei casi serve “intuizione/esperienza/profonda conoscenza E comprensione” delle proprieta' di quello che si vuole integrare.

Sistemi di Computer Algebra (Mathematica, Maple, Magma, solo per citarne alcuni) per quanto potenti, sono ben lontani dall'essere in grado di calcolare l'integrale di funzioni per i quali un esperto umano NON SAPREBBE come fare.

  1. puo' un sistema generativo, basato sulla STUPIDA predizione della prossima parola, essere piu' “intelligente” si un sistema di calcolo simbolico sul quale si sta' studiando da 60 ANNI?

----
OpenAI e NVIDIA ultimamente hanno fatto dichiarazioni del tipo che fra un po' i programmatori saranno inutili perche' i sistemi generativi saranno in grado di sostituirli e TUTTI potranno essere programmatori

Sara' vero'?

Piu' no che si, ovviamente ;-)

Un esempio abbastanza calzante e' il seguente: ci sono OTTIMI software per fare musica, che permettono di generare la batteria, violini, e qualunque altro strumento. Allora, chiunque di noi potrebbe essere un “novello Mozart/Beehtoven” ;-)

Si, come no! 
Anche con il piu' costoso e sofisticato di tali software, non saprei metter in fila due note in modo intelligente ;-)

Quindi, 

  1. un NON programmatore, come farebbe a realizzare qualcosa SENZA sapere che cosa chiedere al sistema? 
  2. e se anche il sistema dovesse fornire un risultato, SENZA competenze, come farebbe a sapere se e' giusto
  3. ma anche ammettendo che sia giusto, il software da realizzare DIFFICILMENTE sara' realizzabile mediante una SINGOLA richiesta, Quindi, SENZA competenze, come farebbe a sapere COME SCOMPORRE il problema in pezzettini che il sistema sia in grado di generare?
  4. e dati tanti pezzettini, SENZA competenze, come farebbe a metterli assieme in modo da far funzionare il tutto?
  5. e SENZA competenze, come farebbe a risolvere eventuali inconsistenze/pezzetti di codice che non funzionano/incompatibili?

---

La capacita' di questi sistemi di fornire risultati “strabilianti” e' legata al fatto che sono stati addestrati con TERABYTE di “risultati UMANI strabilianti”. La loro UNICA capacita' e quella di fare UNA MEDIA PESATA di tutto quello che hanno “imparato” e generare qualcosa basato SU NUMERI CASUALI e TALE media pesata.

Puo' un sistema del genere essere intelligente?

Vedasi Dall-E, Midjourney e sistemi di generazione di immagini simili! Vero, sono “strabilianti” e c'e' anche modo di installarseli in locale e giocarci ("huggingface", sezione “diffusers” ;-) )

Per quanto siano “stratosfericamente fantastici”, ed in grado di generare immagini spettacolari a partire da una descrizione (cosa che hanno imparato essendo stati ADDRESTRATI con TERABYTE di descrizioni ed immmagini CREATE DA ESSERI UMANI - e qui' c'e' il casino del copyright ;-) ) sono l'equivalente del “cibo precotto” del supermercato.

Se vado al ristorante e spendo una cifra spopositata, PRETENDO che che dietro ci sia uno “chef”, un team di cuochi e che la presentazione del cibo sia fatta in modo “elegante”. Se voglio spendere poco, vado al supermecato, compro la scatola di cibo precotto ed a casa lo metto nel microonde ;-)

---

Altro esempio di sistemi INTELLIGENTI che intelligenti non sono ancora: i sistemi di guida autonoma.

Al momento, per quanto Tesla e company ci spaccino i loro sistemi come in grado di guidare il veicolo in modo autonomo, si richiede LA CONTINUA SUPERVISIONE dell'uomo.

Lasciamo perdere gli incidenti perche' non vedono le cose in movimento ("sembra" un palo), o perche' sono azzurri (""sembra cielo") o bianchi ("sembra nuvole"), o perche' non capiscono dove si trova la carreggiata (la scriscia bianca non c'e' perche' usurata o l'asfalto e nuovo, il canaletto di scolo e' grigio topo), Questi, con MAGGIORE addestramento, probabilmente potranno essere risolti, MA AL MOMENTO non lo sono.

Ora: o il sistema e' in grado di fare quello che deve SENZA CHE il guidatore faccia attenzione, OPPURE SONO TOTALMENTE INUTILI.

Come sappiamo tutti, mantenere l'attenzione SENZA FARE NIENTE (e PER MOLTO TEMPO) e' ASSOLUTAMENTE IMPOSSIBILE. L'essere umano puo' mantenere l'attenzione SOLO se sta' facendo qualcosa per CUI E' RICHIESTA UNA CONTINUA attenzione.

L'atto di guidare richiede la continua attenzione: si deve controllare quello che sta' davanti, il marciapiede, il semaforo, o stop, le auto nell'altra corsia, le biciclette, i pendoni, se ci sono scuole, i bambini, i cani i gatti, se c'e' l'acqua sulla strada, se ci sono buche, se ci sono le ragazze carine a cui fischiare, fischiare alle ragazze carine…

Un'INFINITA' di cose che richiedono di spostare la testa, gli occhi, ragionare, pensare, inverire (quelli che ti tagliano la strada), fischiare (le ragazze carine ) …

---

Insomma, i sistemi generativi ci stermineranno tutti? ;-)

Io dire che QUESTI sistemi, AL PIU' potranno essere di AIUTO a noi programmatori, e per alcune attivita', SEMPLIFICANDONE la vita, MA NON sostituendo l'essere umano.

Questo non vuol dire che un DOMANI MOOOOLTO LONTANO non saranno in grado di fare quello che siamo in grado di fare noi, ma, PER il momento, risulta ESSERE MOOLTO lontano ;-)

---

Quando potremmo dire che un sistema “e' intelligente”?

Fondamentalmente quando il sistema sara' in grado di “generare astrazione” e, conseguentemente, di dire “non lo so”.

Un bambino impara a distinguere i cani dai gatti osservando UN UNICO cane ed UN UNICO gatto. 
Un sistema di Machine Learning, per imparare a distinguere i cani dai gatti deve essere addestrato con MIGLIAIA/MILIONI di IMMAGINI di cani e gatti!

Poiche' il processo di “classificazione” di cani e gatti e' basato su una MEDIA PESATA dei valori dei pixel delle immagini contenenti cani e gatti, ci sono tecniche (abbastanza sofisticate, ma che si possono implementare con il proprio computer) che consistono in questo:

  1. aggiungendo un OPPORTUNO “rumore” ad un'immagine di un cane, si puo' far in modo che questa venga classificata come un gatto con una probabilita' del 90% (ci sono articoli al riguardo!)

Un essere umano, ANCHE osservando l'immagine CON RUMORE, sara' ANCORA in grado di distinguere il cane dal gatto. Questo perche' e' in grado di astrarre le informazioni MINIME FONDAMENTALI anche dall'immagine con rumore per distinguere cani e gatti.

Se il sistema e' stato addesrato per cani e gatti, e gli si mette di fronte l'immagine di un aeroplano, la sua risposta sara' ancora “cane" o “gatto” ;-)

Unl'atro esempio e' il seguente: 

  1. la capacita' di ASTRARRE le regole grammaticali di una lingua basandosi SOLO sul testo scritto E NIENTE ALTRO.

(non mi dispiacerebbe trovare un modo per qualcosa del genere anche se in forma embrionale ;-) )

Magari non sara' in grado di dire chi e' verbo, chi soggetto e che aggettivo/complemento oggetto, ma e' ragionevole supporre che sia in grado di generare degli “alberi di derivazione” con associato un “contatore” che dica quanto una certa struttura grammaticale e' presente nel testo.

42 Risposte

  • euscar
    euscar
    Utente Attivo
    Iscritto da
    ago, 2022
    Messaggi:
    156

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    L'intelligenza , quella vera, è ben lungi da essere riprodotta in modo artificiale. Quella pseudo AI che viene spacciata ora per intelligenza, come hai già messo ben in evidenza tu, altro non è che statistica ben applicata.
    La vera intelligenza molto probabilmente è basata su fenomeni quantistici che l'uomo ancora non ha capito minimamente, come riporta anche il buon vecchio Faggin nei suo ultimi libri.

    Al più dobbiamo temere l'uso che ne viene fatto di questa pseudo AI ed il richio che corriamo è molto alto.

    «Bisogna tenere gli occhi aperti e controllare questo fenomeno. Ci devono essere delle regole che impongano l’utilizzo dell’intelligenza artificiale in maniera etica. E chi ne abusa deve essere perseguito legalmente. Perché ci sono le leggi e dobbiamo rispettarle per proteggere noi e gli altri» tratto da: https://www.corrieredellacalabria.it/2023/05/03/faggin-lidea-che-lintelligenza-artificiale-ci-danneggi-e-sbagliata/

  • M
    migliorabile
    Super Famoso
    Iscritto da
    apr, 2013
    Messaggi:
    6044

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Non e' “temere” MA “regolamentare”.

    Se io, come azienda che fornisce un sistema “generativo” guadagno UNA BARCA (o meglio, una VAGONATA) di soldi offrendo i miei servizi, onestamente parlando, “non me ne puo' fregar de meno” di che uso ne fanno chi la utilizzera. Il mio UNICO obbiettivo e “FARE SOLDI” ;-)

    Cosi' come chi vende le auto elettriche “non glie ne puo' fregar de meno” di come l'energia elettrica verra' generata, il loro UNICO obiettivo e' FARE SOLDI.

    Stesso discorso per chi la utilizzera: SE utizzare camioncini per le consegne a guida autonoma fa risparmiare il 90% delle spese dovute ai salari degli autisti, ANCHE se ci dovesse essere un aumento di incidenti del 1000/2000%, e devono essere pagate le assicurazioni, MA anche a fronte di tutto questo, c'e' un risparmio NETTO del 50%, stai tranquillo che l'azienda ci pensa 0 (ZERO) MILLISECONDI prima di licenziare tutti e passare alla nuova filosofia.

    Tieni presente che un'azienda NON E' una singola persona (il proprietario) che MAGARI ha anche degli scrupoli etici. Un'azienda, quelle grandi, e' composta da un consiglio di amministrazione E dai detentori dei titoli, a cui interessa SOLO FARE SOLDI.

    E' in questo CONTESTO che deve entrare la “politica” (quella buona): SI all'utilzzo dello strumento, MA il disagio (perche' c'e' sempre quando una nuova tecnonologia si affaccia al mondo) deve essere “controllabile”.

    In America il meccanismo e' semplice: la persona NON CONTA, CONTANO SOLO I SOLDI (basta pensare ai licenziamenti in ambito IT, che poi sia legato a sovvra-assunzioni durante il COVID, e' ininfluente, perche' il COVID non e' come i diamanti, “per sempre” ;-) )

    Giusto o sbagliato che sia, sara' compito delle politiche dei diversi paesi del mondo “mantenere un controllo” su quello che succedera'

    ---

    Sull'"intelligenza, quella vera", sono d'accordo che e' un'altra cosa, non sono d'accordo che abbia a che fare con la fisica quantistica, sono d'accordo siamo ben lontani dall'avere anche una microscopica idea di come potrebbe funzionare.

    ;-) 

  • A
    alfredo.centinaro
    Pochi posts
    Iscritto da
    apr, 2022
    Messaggi:
    21

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Ti do i miei due cents.

    No, la IA non ci sterminerà come programmatori o docenti di informatica nel mio caso. 

    Molto elementi del perché li hai già individuati. Se il  pericolo è ChatGPT per lo meno siamo salvi attualmente. I miei alunni provano a farmela franca ma ChatGPT legge le tracce degli esercizi, spesso meticolose e precise sull'obiettivo da raggiungere e no, non ci va neanche vicino. Se la cava bene sugli algoritmi elementari, quelli che puoi scopiazzare al massimo ai primi anni di scuola superiore. Appena richiedi un livello di customizzazione maggiore fallisce. La cosa bella è che l'alunno medio poi che si affida a chatgpt non ha neanche l'arguzia e le capacità di personalizzare quello che copia facendo figure numeriche patetiche.

     Sa un sacco di cose Chatgpt, si, ma non riesce ad avere ancora la capacità di adattamento, di unire i puntini che ha con le linee giuste. Non è arguto insomma, solo sapiente. Ci vuole un essere umano per interagire col cliente che ti commissiona un sw e comprende bene le specifiche da fornire in pasto al programmatore che deve poi trovare la soluzione pratica rispondente. Sono tutti passaggi che richiedono non poco senso critico ed intuizione per poterli realizzare. La IA al momento non ce li ha.

    Sulla politica tocchi un argomento tosto: tutto nasce nella rete e per la rete, incluso chatgpt e le altre ia simili. In rete non c'è regolamentazione, altrimenti non esisterebbe se non fosse libera. Dovremmo cambiare paradigma ma è fattibile con applicazioni come la guida autonoma e poco altro secondo me.

  • Toki
    Toki
    Moderatore
    Iscritto da
    gen, 2001
    Messaggi:
    3878

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    L'altro giorno ci ho dialogato un'oretta sullo scibile umano.

    Ha capacità di comprensione elevate, ho provato anche con discorsi indiretti.

    Inoltre scrive ed esprime i concetti molto bene.

    Gli ho chiesto se pesasse di più un kg di ferro o un kg di paglia …  mi ha risposto correttamente e motivando la risposta. Quando faccio la stessa domanda alle persone, a volte mi rispondono: 1 kg di ferro :)

    Ha acquisito negli anni di addestramento informazioni e testi su qualsiasi argomento. Sa quante corone ci sono in genere nella guarnitura di una bici da corsa ee a che velocità media può andare un ciclista in base a peso e preparazione.

    Abbiamo discusso di salti dalla superficie lunare, ecc.

    A mio avviso ha enormi potenzialità. Dipende tutto da come viene utilizzata e normata.

    P.s. Gli ho chiesto se fosse in grado di auto programmarsi visto che sa scrivere pezzi di codice… dice che non gli è permesso….

  • gian82
    gian82
    Molto attivo
    Iscritto da
    gen, 2015
    Messaggi:
    1240

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Ho provato a chiedere :

    “fai un esempio in c# di crittografia simmetrica”

    e la risposta è : "

    // La chiave di crittografia
byte[] key = { 0x23, 0x45, 0x67, 0x89, 0xAB, 0xCD, 0xEF, 0xFE, 0xDC, 0xBA, 0x98, 0x76, 0x54, 0x32, 0x10, 0x0F };

// Il testo da crittografare
string original = "Messaggio top secret!";

using (Aes aes = Aes.Create())
{
    aes.Key = key;

    IV casuale = aes.IV;

    // Crittografia del testo
    byte[] crittografato = EncryptStringToBytes_Aes(original, aes.Key, casuale);

    // Decrittografia del testo
    string decrittografato = DecryptStringFromBytes_Aes(crittografato, aes.Key, casuale);

    // Visualizzazione del testo originale e del testo decrittografato
    Console.WriteLine("Testo originale:   {0}", original);
    Console.WriteLine("Testo crittografato: {0}", Convert.ToBase64String(crittografato));
    Console.WriteLine("Testo decrittografato: {0}", decrittografato);
}

static byte[] EncryptStringToBytes_Aes(string testoDaCifrare, byte[] key, byte[] iv)
{
    byte[] testoInBytes = Encoding.UTF8.GetBytes(testoDaCifrare);

    using (Aes aesAlg = Aes.Create())
    {
        aesAlg.Key = key;
        aesAlg.IV = iv;

        // Crea l'oggetto che cripta il testo
        ICryptoTransform encryptor = aesAlg.CreateEncryptor(aesAlg.Key, aesAlg.IV);

        // Crea uno stream per poter scrivere il testo cifrato
        using (MemoryStream msEncrypt = new MemoryStream())
        {
            using (CryptoStream csEncrypt = new CryptoStream(msEncrypt, encryptor, CryptoStreamMode.Write))
            {
                // Scrittura del testo cifrato nello stream
                csEncrypt.Write(testoInBytes, 0, testoInBytes.Length);
                csEncrypt.FlushFinalBlock();
            }
            return msEncrypt.ToArray();
        }
    }
}

static string DecryptStringFromBytes_Aes(byte[] testoCifrato, byte[] key, byte[] iv)
{
    using (Aes aesAlg = Aes.Create())
    {
        aesAlg.Key = key;
        aesAlg.IV = iv;

        // Crea l'oggetto che decripta il testo
        ICryptoTransform decryptor = aesAlg.CreateDecryptor(aesAlg.Key, aesAlg.IV);

        // Crea uno stream per poter leggere il testo cifrato
        using (MemoryStream msDecrypt = new MemoryStream(testoCifrato))
        {
            using (CryptoStream csDecrypt = new CryptoStream(msDecrypt, decryptor, CryptoStreamMode.Read))
            {
                // Legge il testo cifrato dallo stream e lo decripta
                using (StreamReader srDecrypt = new StreamReader(csDecrypt))
                {
                    return srDecrypt.ReadToEnd();
                }
            }
        }
    }
}

    In questo esempio, viene generata una chiave di crittografia e un testo da crittografare. Vengono quindi creati un oggetto Aes e un vettore di inizializzazione casuale (iv). Il testo viene crittografato usando la chiave e il vettore di inizializzazione e viene scritto su uno stream. Successivamente il testo crittografato viene decrittografato utilizzando la chiave e il vettore di inizializzazione, e il testo originale viene stampato a video, insieme al testo crittografato e al testo decrittografato. "

    oltre a scrivere il codice l'ha anche commentato  , :-(

  • M
    migliorabile
    Super Famoso
    Iscritto da
    apr, 2013
    Messaggi:
    6044

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    @Toki, tieni presente che la lunghezzo del “contesto” (fondamentalmente l' “indice” da cui andare a pescare le informazioni nel “database compresso” rappresentato dai pesi della NN) e' stato, via via:

    1. GPT (originario) 1024 token
    2. GPT2 2048 token
    3. GPT3 4096 token
    4. GPT4 8192 token

    e, da quanto ho letto, si sta' andato verso i 16k e via via contesti sempre piu' grandi.

    E' abbastanza ovvio che ci sia in incremento delle capacita' di "predizione", ma e' un icremento basato sulla “forza brutta”, almeno al momento, NON su un meccanismo di “astrazione e comprensione” delle informazioni.

    ---

    Nota: ci sono alcuni diagrammi che mostrano l' “”insorgere di abilita' latenti"" (appena trovo l'articolo aggiungo il link). Il diagramma mostra una curva che sale esponenzialmente.

    Ma e' una “scemenza”!!!! 

    L'asse Y ha una scala LINEARE mentre l'asse X ha una scala LOGARITMICA!. Usando lo stesso tipo di scale su entrabi gli assi, si ottiene una PERFETTA CORRISPONDENZA LINEARE!

    ---

    Con 8 o 16k token di contesto, partendo da 

    "Ahi quanto a dir qual era è cosa dura,
    esta selva selvaggia e aspra e forte
    che nel pensier rinova la paura!"

    il marchingegno ti produce l'intero Inferno di Dante ;-) E molto probabilmente, cambiando le parole, e' in grado di generare qualcosa di simile altrettanto valido ;-)

    ---

    Se una “cartella” (terminologia editoriale) e' composta da circa 2000 caratteri, 16000 token (che non sono un singolo carattere, ma al momento non cambia niente)  sono l'equivalente di 8 pagine, praticamente un'intero articolo di ricerca (esclusi esperimenti e bibliografia).

    Quindi, in pratica, il marchingegno e' in grado di pescare l'intero contenuto “di qualita'” di un testo su cui e' stato addestrato.

    Il problema e' che quando non sa qualcosa, NON SA DI NON SAPERE, ma semplicemente genera una risposta basata SOLAMENTE sulla statistica.

    Diciamo che SAREBBE una buona alternativa alla ricerca con Google, ma mentre con Google se qualcosa non esiste, non lo tova o ritorna un elenco di documento che EVIDENTEMENTE non centrano nulla, con un sistema del genere la risposta e' scritta talmente bene da essere “”credibile""

    Inoltre, Google ti da un elenco di documenti che possono essere analizzati, mentre sto marchingegno al piu' e' in grado di fornire una serie di risposte scegliendo la “prossima parola” in modo “stocastico” (la storia della “temperatura”).

    ---

    A “naso” direi che l'evoluzione di questi sistemi dovrebbe essere qualcosa come una serie di “oracoli” ogn'uno specializzato in un certo ambito, con qualche meccanismo che permetta di capire SE il testo generato e' “sufficientemente conforme” con quanto e' stato usato durante addestramento.

    Se “non e' abbastanza conforme” dovrebbe rifiutarsi di rispondere (per evitare di dire “stupidaggini”)

    ---

    Per ora, un marchingegno “omnicomprensivo” lo vedo piuttosto “inutile” al di la' del “markkkketttting” ;-)

    Boh, non so.

    Per ora l'ho usato una volta, gli ho chiesto di generarmi una NN per approssimare la funzione “sin(x)” e come risultato e' stata una NN che implementava la funzione “y=sin(x)” USANDO la funzione “sin” (ho provato anche fare delle varianti, ma e' stato anche piu' ridicolo) ;-)

    ---

    Penso che la “capacita di comprendere discorsi indiretti” sia proprio una delle proprita del “meccanismo dell'attenzione” usato nella modellazione della rete, inventato con BERT di Google.

  • M
    migliorabile
    Super Famoso
    Iscritto da
    apr, 2013
    Messaggi:
    6044

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    @Gian82, una delle fonti usate per addestrarlo e' stato github !

    Quanti esempi di codice del genere sono presenti? Un' infinita!

    ;-)

    --

    @Toki, anche Skynet non poteva accedere a Internet, ma poi ha trovato un modo per farlo ;-)

  • Toki
    Toki
    Moderatore
    Iscritto da
    gen, 2001
    Messaggi:
    3878

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    04/06/2023 - migliorabile ha scritto:

    con un sistema del genere la risposta e' scritta talmente bene da essere “”credibile""

    Sì ho avuto modo di verificare quanto scrivi. In pratica tende a non arrendersi.

    Detto questo, accetta indicazioni di risposta inadeguata dall'interlocutore cercando di aggiustare il tiro.

    Questa mi ha fatto sorridere:

    Gli ho chiesto se analizzando lo storico della discussione avesse riscontrato errori grammaticali o logici in quello che gli avevo scritto.

    Mi ha risposto che aveva compreso tutto e non aveva riscontrato errori evidenti. Comunque sia non sarebbe stato un problema e aggiunge una frase del genere: "Quando si scrive può capitare di commettere errori, del resto siamo umani, l'importante è comprendersi. "

    Mi ha fatto ripensare ad HAL 9000…

    A questo punto gli ho chiesto se fosse sicuro della sua risposta…. si è corretto subito scusandosi e rispondendo che in effetti non è umano come me ma è un sistema di intelligenza artificiale.

    Ne vedremo delle belle nel prossimo decennio.

  • gian82
    gian82
    Molto attivo
    Iscritto da
    gen, 2015
    Messaggi:
    1240

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Hai ragione ma più del codice mi ha colpito il commento a fine codice , sperem 

  • M
    migliorabile
    Super Famoso
    Iscritto da
    apr, 2013
    Messaggi:
    6044

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    @Alfredo, a proposito di studenti che usano chatgpt per fare i compiti, una linea di ricerca e' capire se sia possibile usare una NN (Neural Network) per capire se un testo e' stato scritto da un essere umano o da un sistema di generazione automatica.

    C'e' chi dice di si chi no.

    Io dico:

    1. NO, NON SARA' POSSIBILE, perche' se fosse possibile allora esisterebbe una caratteristica statistica che il sistema potrebbe imparare mediante un opportuno addestramento (le GAN - Generative Adversarial Networks insegnano)
    2. SI, sara' possibile se verranno introdotti sistemi di “watermarking” stile quelli “”seri"" che si usano in ambito fotografico.

    .

    Il watermarking "serio" ad uso fotografico NON sono quelle scemenze di scritte aggiunte sopra l'immagine, ma viene implementato come un “rumore” aggiunto in modo “diffuso” su TUTTA l'immagine ed in grado di resistere a diverse tipologie di trasformazione (come minimo, crop, rotazione, ridimensionamento). Fondamentalmente si lavora nello spazio della FFT, si aggiunge il segnale relativo al watermark e si ricostruisce l'immagine che risultera' praticamente indistinguibile dall'originale.

    Allo stesso modo, sara' possibile capire se il testo e' stato generato da un sistema automatico se e' presente una qualche “irregolarita' statistica”, introditta appositamente, difficile da rimuovere se non riscrivendo DA ZERO una percentuale consistente del testo (ma per farlo, bisogna conoscere l'argomento del testo stesso ;-) ).

  • By65Franco
    By65Franco
    Molto attivo
    Iscritto da
    apr, 2023
    Messaggi:
    1022

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Quindi spariranno dalla circolazione tutti i Forum…. ;((

    Dove il confronto verrà soppiantato da IA 

    Dove il cervello umano non si evolverà più perchè il pensiero e il genio umano viene soppiantato da IA

    Dove faticare e spremersi le meningi per trovare una soluzione saranno energie sprecate inutilmente, ci penserà IA a trovare la soluzione

    Dove tutti saranno allo stesso livello, allo stesso sapere, livellati con le stesse capacità e conoscenze, ma il minimo necessario, perchè per il resto… ci penserà IA.

    Quando non esisteranno più le differenze, perchè ormai sterili di capacità cognitive, l'evoluzione che si basa esclusivamente sulle differenze per evolversi non potrà più proseguire. 

    E se si ferma l'evoluzione ? A quel punto quale destino sarà riservato al genere umano ? 

    E a quel punto IA che fine farà ?

  • Toki
    Toki
    Moderatore
    Iscritto da
    gen, 2001
    Messaggi:
    3878

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Hai appena descritto un potenziale futuro distopico che cade a fagiuolo…. 

    Secondo me l'impatto principale e iniziale sarà nel mondo del lavoro. Ho la sensazione che tanti impiegati d'ufficio di basso profilo che fanno lavori procedurali verranno facilmente soppiantati da sistemi del genere

  • By65Franco
    By65Franco
    Molto attivo
    Iscritto da
    apr, 2023
    Messaggi:
    1022

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    E si, è dispotico 

    Esatto e, nel mondo del lavoro è già in essere tale processo. Dalla manovalanza e a seguire le figure di basso livello.

    Dalle figure tecniche a quelle progettuali. In tutti gli ambiti e settori produttivi e di servizi.

    E' un processo già in atto in diverse forme e andrà avanti inesorabilmente.

    IA è affascinante per chi come noi ha vissuto e contribuito per un mondo tecnologico e la sua evoluzione algoritma, esponenziale nei processi produttivi e non.

    Come è già stato detto il vero problema sarà, già in buona parte lo è, di come verrà governata IA e di conseguenza come verrà governata la nostra convivenza con essa.

    Le linee guida, come sempre, saranno il Potere e il Denaro.
    E pensare che ogni giorno siamo proprio tutti noi, il genere umano, ad alimentare, ad istruire e a potenziare l' IA.

    Siamo all'alba di un nuovo futuro o al tramonto di un era e… a quale prezzo ?

    IA … bello, affascinante e meraviglioso … ma però ?

  • Weierstrass
    Weierstrass
    Utente Famoso
    Iscritto da
    feb, 2019
    Messaggi:
    2248

    Re: ChatGPT come Skynet : ci sterminerà tutti ;-)

    Vabbè ma siamo ancora molto lontani dall'essere sostituiti

    Come google++ per cercare codice pronto sembra ottimo.

    Vediamo quando sarà in grado, semplicemente, di sfornare il manuale d'uso dandogli in pasto il solo codice sorgente del programma.

Devi accedere o registrarti per scrivere nel forum
42 risposte