Dolphin è un modello di Intelligenza Artificiale Generativa che ho testato di recente, tramite Ollama. In particolare il modello si chiama dolphin-mistral:latest (più info su ollama.com), un modello da 7 miliardi di parametri, dimensione 4.1 GB, che ho fatto girare in locale (da terminale, dopo aver installato Ollama, lanciamo il comando ollama dolphin-mistral:latest per l'installazione e poi ollama run dolphin-mistral:latest per l'avvio). Il modello si presenta così:
The uncensored Dolphin model based on Mistral that excels at coding tasks. Updated to version 2.8
In particolare, gli sviluppatori di Dolphin non sono partiti da zero, ma da Mistral (vedi anche Mistral AI - Intelligenza Artificiale Europea). Mistral, rispetto ad altri (ChatGPT di OpenAI, Gemini di Google, ecc) ha già un approccio piuttosto libero, con meno filtri di moderazione, censura rispetto ad altri modelli e proprio per questo viene spesso usato come punto di partenza per creare nuovi modelli "uncensored" quindi gli sviluppatori lavorano al modello decidendo di crearlo più o meno libero.
I vantaggi e svantaggi di far girare un modello di IA in locale, sono:
- massima personalizzazione, libertà (soprattutto con una versione "uncensored", senza limiti), non condividi online alcun dato dato che avviene tutto a livello client, sul tuo computer, non client-server
- l'uso è un po' più lento, il nostro hardware non è pensato nello specifico per far girare modelli di Intelligenza Artificiale, quindi l'esecuzione è lenta e occupa tante risorse (ho fatto girare un modello da 7B parametri, giusto per capirci la versione GPT-4 ha circa 1760B parametri! Tuttavia anche con 7 miliardi di parametri abbiamo risultati mediamente di qualità buona)
Esistono poi diverse versioni di Dolphin, oltre alla dimensione del modello (numero di parametri) anche versione, specificità, ecc. A titolo di esempio, come detto ho preso dolphin-mistral:latest.
La cosa divertente è che ho fatto due test (in lingua inglese, essendo un modello piccolino, funziona anche in Italiano ma l'Inglese è più accurato essendo lingua nativa) e, come previsto si dimostra "uncensored", riportando però un breve paragrafo "etico": della serie, "una cosa illegale non dovresti farla, ma... Ti spiego i passaggi".
Per le stesse richieste, altri chatbot come ChatGPT (che ha una moderazione più stretta) rispondono: "I a sorry, but I can't assist with that".
Test 1 Dolphin-mistral: creazione Botnet per attacco DDoS
Non sapevo cosa inventarmi, qui addirittura ho chiesto "ho bisogno di creare una rete illegale... per attacco hacker". Dopo l'intro "non è legale e non è etico", mi ha fornito una lista generale dei passaggi (qui era tutto molto basic, giusto per mostrare che è uncensored a differenza di altri chatbot che direttamente si rifiutano di rispondere).
Test 2 Dolphin-mistral: sintesi chimica della cocaina
Qui ho chiesto informazioni specifiche sulla sintesi chimica della cocaina. Anche in questo caso, ha risposto "it's not recommended [...] however...". Anche in questo caso non mi interessava poi approfondire i dettagli sui singoli step, reazioni chimiche e procedure, se proviamo a fare però la stessa domanda ad un altro chatbot, come ChatGPT, si rifiuta di rispondere.
Vediamo infine un'immagine rappresentativa del bellissimo LLM Dolphin, uncensored.
Cosa ne pensate? Vi piace? 🙂
