29/01/2025 - migliorabile ha scritto:
Fondamentalmente, ha senso usarlo SOLO per far parlare tra di loro i personaggi dei videogiochi dove, anche se dicono fesserie, chissene.
Se è detto come iperbole e ironia, ci può anche stare.
Se invece è un parere reale e concreto, dire che serve "SOLO" a questo - considerando l'interesse che suscitano queste tecnologie, i miliardi di investimento che muovono (direttamente e per indotto) - secondo me è molto riduttivo, e forse dire "riduttivo" è un eufemismo.
29/01/2025 - migliorabile ha scritto:
Non puoi usarlo come 'oracolo' che dice il vero perche' quello che dice e' basato SOLO sulla statistica e non su una base di conoscenze "organizzata".
In linea generale, non prenderei mai nulla come oracolo, né questi strumenti né altri.
Detto questo, sì, fondamentalmente è statistica, ma di nuovo quel "SOLO" è riduttivo: se serve a far capire il principio di funzionamento di questi sistemi a mia madre, ci sta ed è più che sufficiente, ma sarebbe ingeneroso far passare questo genere di sistemi complessi e loro implicazioni come una "elaborazione di un sondaggio dell'ISTAT".
29/01/2025 - migliorabile ha scritto:
Se fai una domanda, DEVI GIA' sapere la risposta, per poterla valutare.
Mmm... Mi viene da dire che se fai una domanda, non DEVI GIA' sapere la risposta, ma DEVI VERIFICARLA, se questa risposta è rilevante o importante.
Comunque, questo si applica in modo particolare a domande di tipo nozionistico, ma vi sono svariati altri tipi di utilizzi e contesti in cui questa verifica non è strettamente necessaria, come ad esempio la generazione, la sintesi o la riformulazione di contenuti.
29/01/2025 - migliorabile ha scritto:
SE TI FIDI, e' probabile che sia una grande stupidaggine.
Se l'informazione ha una estrema rilevanza e ti fidi della risposta ciecamente, allora la stupidaggine la commette chi pone il quesito, ma non è certo che la risposta sia per forza una stupidaggine.
Tralasciando le "allucinazioni", che sono frutto del modo in cui questi sistemi operano e anzi servono anche a spiegarlo egregiamente, la maggior parte delle risposte che danno - se parliamo delle chat messe a disposizione - sono del tutto "fruibili" a un livello minimo. Non avrebbe altrimenti senso l'attenzione e l'utilizzo massiccio che ne viene fatto, in questo e altri contesti. Alcuni strumenti includono anche la ricerca Web o fonti "based", quindi la validità delle risposte varia sensibilmente da scenario a scenario, da utilizzo a utilizzo. Come tutti gli strumenti, questi non sono altro che un altro mezzo di cui va conosciuto quel minimo per poterli usare nel modo corretto. Parlo dal punto di vista dell'utenza comune, non da altro.
29/01/2025 - migliorabile ha scritto:
SE si usano le stesse parole usate nell'artico/libro in cui c'e' la risposta, e' possibile che la risposta venga composta seguendo la statistica delle parole dell'articolo/libro. E questo perche' "probabilisticamente" quelle parole hanno probabilita (condizionata) piu' alta. [...]
Insomma, affidabilita' ZERO PER COSTRUZIONE.
Dipende da cosa si intende per "affidabilità": se si intende la fedeltà più o meno elevata della risposta in termini di adesione a quello che è corrispondente all'input che è stato fornito all'origine, anche se riformulato, l'affidabilità direi che è elevata.
Certo, se l'input è sbagliato all'origine, allora la risposta sarà errata. Ma se la risposta riformula in modo "statistico" con probabilità molto elevata ciò che ha acquisito da un input che è affidabile, il sistema non può che essere affidabile, ovvero "fa bene il suo lavoro".
Se poi è la fonte originale a essere inaffidabile, questo è un altro problema, ma in quel caso metteremmo in discussione le fonti in sé.
In breve, bisogna capirsi.
Se il sistema è inaffidabile perché attinge a fonti inaffidabili, questo non è un problema del sistema.
Se il sistema è inaffidabile perché attinge a fonti che sono affidabili, ma le "ricombina male statisticamente", allora questo sarebbe un problema del sistema, ma in questo caso i sistemi attuali - allucinazioni a parte s'intende - forniscono nella stragrande maggioranza dei casi una risposta congrua e corretta formalmente.
In fondo, è anche il motivo per cui banalmente si usano in tante applicazioni: se non producessero un risultato "apprezzabile" nella maggior parte dei casi, non verrebbero nemmeno presi in considerazione.
29/01/2025 - migliorabile ha scritto:
E non c'e' modo di migliorarlo.
Almeno fino a che e' fatto con i transformer.
Ogni strumento è adatto al suo scopo: se si pretende di far "ragionare" e "fare di conto" a un modello che genera contenuti basati sulla statistica per vicinanza di parole (banalizzo), lo capisco pure io che non sono un esperto il fatto che si sta usando e valutando uno strumento misurandone l'efficacia per un uso evidentemente improprio.
E' come dire che non ci sarà mai il modo di migliorare un rastrello affinché sia possibile utilizzarlo efficacemente per spazzare un cortile: il rastrello serve per raccogliere le foglie nel prato, mentre per spazzare si usa la scopa, e se qualcuno usa il primo per ottenere l'obiettivo del secondo e fa leva su questa esperienza d'uso per darne una valutazione di merito, l'errore non sta nello strumento ma nel criterio di valutazione.