Seguono i passaggi per installare e configurare una intelligenza artificiale su PC nonchè verifiche effettuate offline dopo aver fornito testi all’AI per istruirla.
1) Download ed installazione di GPT4ALL. Sul sito nomic.ai [1]
Sono disponibili file per Windows, Mac e Linux Ubuntu.
Da verifiche sullo stesso PC (test effettuato su laptop con cpu Intel i5, scheda nvidia e 32 giga di ram), Linux Ubuntu gestisce più velocemente l’AI (con windows 11 ho riscontrato saturazione della cpu, probabilmente per il peso dei software di firewall e antivirus attivi contemporaneamente).
In caso decidiate di installare il file run per ubuntu, allora sul file sarà necessario cliccare col tasto destro del mouse e, nelle proprietà, sezione permessi, mettere il flag in corrispondenza di “Permetti di eseguire il file come un programma”.
2) Una volta installato, è necessario effettuare il download di una intelligenza artificiale tra quelle proposte dal software. Cliccare su Modelli nel menu a sinistra e poi in alto a destra su Aggiungi Modello. Ho optato per Mistral OpenOrca.
3) Successivamente bisogna fornire testi utili all’AI per elaborare risposte.
Clicchiamo quindi sul menu a sinistra, su Localdocs.
Consiglio di preparare prima delle cartelle con all’interno file txt e pdf. Io ho creato cartelle quali ad esempio Informatica, Storia, Economia. All’interno ho inserito sia delle mie pubblicazioni sia vari pdf che avevo letto in questi anni (saggi, manuali e articoli). Separando gli argomenti, vedremo poi come poter indicare alla AI se attingere informazioni da tutti i file o solo da alcune categorie.
Di seguito, assegno un nome ad un insieme di argomenti ed il percorso della cartella (contenente ricette e libri di cucina). In base alla quantità di testi e quindi di bytes, i tempi di lettura per acquisizione informazioni saranno più o meno lunghi (anche più di un’ora) ma ciò permetterà poi, all’intelligenza artificiale, di attingere in modo mirato ai testi in fase di risposta alle vostre domande.
Il risultato apparirà simile a questo:
4) A questo punto clicchiamo su Chat e selezioniamo gli insiemi di testi dai quali leggere le informazioni. Dalla sezione chat, sulla destra clicchiamo su localdocs e poi selezioniamo le categorie (potreste averne una sola se avete messo tutti i testi in un unico folder).
Fatto ciò, poniamo delle domande dopo aver cliccato su Carica (nell’immagine Carica Mistral OpenOrca, ossia carico l’AI che avevo scaricato).
Pongo la domanda e l’AI inizia a cercare nei testi forniti la risposta.
Il risultato:
A parte un piccolo errore (Atlantic anzichè Atlantico), la risposta è coerente. Notare che l’AI fornisce anche la fonte dalla quale ha estrapolato l’informazione (nell’immagine sopra la fonte è uno speciale su Napoleone).
L’AI selezionata legge e comprende testi in diverse lingue oltre a rispondere nella lingua utilizzata per porre la domanda. Nei test ho provato a effettuare domande in italiano e poi in inglese.
I tempi di risposta, col pc utilizzato, erano di 1 o 2 minuti. Tutte le domande sono state effettuate con pc distaccato dalla rete internet, le risposte sono state fornite esclusivamente grazie al know how fornito tramite txt e pdf.
Fonti:
[1]
https://github.com/nomic-ai/gpt4all [come da accesso del 1nov2024]
https://www.nomic.ai/gpt4all [come da accesso del 1nov2024]
Per chi fosse interessato ad approfondire tematiche correlate all’intelligenza artificiale, potrebbero interessare:
(Tutti i miei ebook sono acquistabili in formato pdf sul sito di Blueditore oppure in altri formati su Amazon, Mondadori, Feltrinelli ed altre librerie online).
Ebook Cyberfuture di Andrea Gandini
Ebook Il buio oltre il web di Andrea Gandini
Ebook Programmatore in 3 giorni di Andrea Gandini
Tutti i miei ebook sono acquistabili in formato pdf sul sito di Blueditore oppure in altri formati su Amazon, Mondadori, Feltrinelli ed altre librerie online.
Buona lettura.