La nostra offerta Large Language Model as a Service (LLMaaS) vi dà accesso a modelli linguistici all'avanguardia, la cui inferenza viene eseguita con un'infrastruttura qualificata SecNumCloud, certificata HDS per l'hosting di dati sanitari, e quindi sovrana, calcolata in Francia. Beneficiate di prestazioni elevate e di una sicurezza ottimale per le vostre applicazioni AI. I vostri dati rimangono strettamente confidenziali e non vengono né sfruttati né conservati dopo l'elaborazione.
Prezzi semplici e trasparenti
0.9
€
per milione di token in ingresso
4
€
per milione di token emessi
21
€
per milione di gettoni di ragionamento
0,01 €
per minuto di audio trascritto *
Calcolato su un'infrastruttura basata in Francia, qualificata SecNumcloud e certificata HDS.
Nota sul premio "Ragionamento" :
Questo prezzo si applica specificamente ai modelli classificati come "ragionatori" o "ibridi" (modelli con la capacità "Ragionamento" attivata) quando il ragionamento è attivo e solo sui gettoni legati a questa attività.
* Ogni minuto iniziato viene contato
Modelli grandi
I nostri modelli di grandi dimensioni offrono prestazioni all'avanguardia per i compiti più impegnativi. Sono particolarmente adatti alle applicazioni che richiedono una comprensione profonda del linguaggio, ragionamenti complessi o l'elaborazione di documenti lunghi.
38 token/secondo
gpt-oss:120b
Il modello di linguaggio open-weight all'avanguardia di OpenAI, che offre solide prestazioni con una licenza Apache 2.0 flessibile.
Un modello Mixture-of-Experts (MoE) con 120 miliardi di parametri e circa 5,1 miliardi di parametri attivi. Offre uno sforzo di ragionamento configurabile e un accesso completo alla catena di pensiero.
15 gettoni/secondo
lama3.3:70b
Modello multilingue all'avanguardia sviluppato da Meta, progettato per eccellere nel dialogo naturale, nel ragionamento complesso e nella comprensione sfumata delle istruzioni.
Combinando una notevole efficienza con risorse computazionali ridotte, questo modello offre ampie capacità multilingue che coprono 8 lingue principali (inglese, francese, tedesco, spagnolo, italiano, portoghese, hindi e tailandese). La sua finestra contestuale di 120.000 token consente un'analisi approfondita di documenti complessi e lunghe conversazioni, mantenendo un'eccezionale coerenza complessiva. Ottimizzato per ridurre al minimo i pregiudizi e le risposte problematiche.
17 gettoni/secondo
qwen3:235b
Modello ad alto volume della nuova generazione Qwen3, che offre funzionalità estese per i compiti più complessi.
Fa parte della serie Qwen3. Questo modello da 235 miliardi di parametri è stato progettato per eccellere nel ragionamento profondo, nella generazione di codice complesso e nella comprensione sfumata in contesti ampi. Supporta oltre 100 linguaggi e modalità di pensiero ibride.
12 gettoni/secondo
deepseek-r1:671b
Modello di intelligenza artificiale DeepSeek estremamente grande, progettato per il massimo del ragionamento e della generazione.
DeepSeek-R1 671B è uno dei modelli aperti più grandi, progettato per i compiti di ragionamento più impegnativi e per generare testi di qualità eccezionale.
20 gettoni/secondo
gemma3:27b
Il rivoluzionario modello di Google offre un equilibrio ottimale tra potenza ed efficienza, con un eccezionale rapporto prestazioni/costo per le applicazioni professionali più esigenti.
Con un'efficienza hardware senza pari, questo modello incorpora funzionalità multimodali native ed eccelle nelle prestazioni multilingue in oltre 140 lingue. L'impressionante finestra contestuale di 120.000 token lo rende la scelta ideale per l'analisi di documenti di grandi dimensioni, la ricerca documentale e qualsiasi applicazione che richieda la comprensione di contesti estesi. La sua architettura ottimizzata consente una distribuzione flessibile senza compromettere la qualità dei risultati.
80 token/secondo
qwen3-coder:30b
Modello MoE ottimizzato per compiti di ingegneria del software con un contesto molto lungo.
Capacità agenziali avanzate per compiti di ingegneria del software, supporto nativo per un contesto di 250K token, pre-addestrato su 7,5T token con un elevato rapporto di codice e ottimizzato con l'apprendimento per rinforzo per migliorare i tassi di esecuzione del codice.
80 token/secondo
qwen3-2507-think:30b-a3b
Modello avanzato della famiglia Qwen3, ottimizzato per il ragionamento profondo e i contesti estesi.
Il modello Qwen3-30B-A3B-Thinking-2507 offre prestazioni significativamente migliorate nei compiti di ragionamento, nel seguire le istruzioni e nell'utilizzare gli strumenti. Supporta nativamente una finestra contestuale di 256k token.
90 gettoni/secondo
qwen3-2507:30b-a3b
Versione migliorata della modalità non pensante di Qwen3-30B, con capacità generali migliorate, copertura delle conoscenze e allineamento degli utenti.
Miglioramenti significativi nel seguire le istruzioni, nel ragionamento, nella comprensione della lettura, nella matematica, nel coding e nell'uso degli strumenti. Contesto nativo di 250k gettoni.
50 gettoni/secondo
qwen3:30b-a3b
L'ultima generazione di modelli Qwen, che offre miglioramenti significativi in termini di dati di formazione, architettura e ottimizzazione.
Pre-allenato su 36T token in 119 lingue. Modello MoE (Mixture-of-Experts) con 128 esperti, di cui 8 attivati per token.
21 gettoni/secondo
deepseek-r1:70b
DeepSeek AI Modello 70B
DeepSeek-R1 70B è progettato per compiti complessi di ragionamento e generazione.
18 gettoni/secondo
qwen2.5vl:32b
La versione più potente della serie Qwen2.5-VL, che offre capacità di comprensione visiva e agentiva all'avanguardia.
Questo modello di linguaggio visivo da 32 miliardi di parametri è stato progettato per i compiti più impegnativi, combinando una comprensione visiva profonda con capacità di ragionamento avanzate per interagire con interfacce grafiche e analizzare documenti complessi.
15 gettoni/secondo
qwen2.5vl:72b
La versione più potente della serie Qwen2.5-VL, che offre capacità di comprensione visiva e agentiva all'avanguardia per i compiti più impegnativi.
Questo modello di linguaggio visivo da 72 miliardi di parametri è stato progettato per i compiti più impegnativi, combinando una comprensione visiva profonda con capacità di ragionamento avanzate per interagire con interfacce grafiche e analizzare documenti complessi.
Modelli specializzati
I nostri modelli specializzati sono ottimizzati per compiti specifici come la generazione di codice, l'analisi di immagini o l'elaborazione di dati strutturati. Offrono un eccellente rapporto prestazioni/costo per casi d'uso mirati.
embeddinggemma:300m
Il modello di incorporazione all'avanguardia di Google, ottimizzato per le sue dimensioni, ideale per compiti di ricerca e di recupero semantico.
Basato su Gemma 3, questo modello produce rappresentazioni vettoriali del testo per la classificazione, il raggruppamento e la ricerca di somiglianze. Addestrato su oltre 100 lingue, le sue dimensioni ridotte lo rendono perfetto per ambienti con risorse limitate.
57 token/secondo
gpt-oss:20b
Il modello linguistico open-weight di OpenAI, ottimizzato per l'efficienza e la distribuzione su hardware consumer.
Un modello Mixture-of-Experts (MoE) con 21 miliardi di parametri e 3,6 miliardi di parametri attivi. Offre uno sforzo di ragionamento e capacità di agente configurabili.
40 gettoni/secondo
qwen3:14b
Modello denso Qwen3 (14B) di nuova generazione, che offre prestazioni equivalenti a Qwen2.5 32B con un'efficienza migliorata.
Parte della serie Qwen3, addestrato su ~36T token. Capacità di ragionamento, codifica, matematica e agente (strumenti/MCP) migliorate. Supporta oltre 100 linguaggi e modi di pensare ibridi.
56 token/secondo
gemma3:12b
Una versione intermedia del modello Gemma 3 che offre un eccellente equilibrio tra prestazioni ed efficienza.
Questo modello di medie dimensioni combina prestazioni di alta qualità con l'efficienza operativa, offrendo molte delle funzionalità del fratello più grande con parametro 27B in un formato più leggero. Ideale per le installazioni che richiedono qualità e velocità senza le risorse di calcolo dei modelli più grandi.
57 token/secondo
gemma3:4b
Modello compatto di Google che offre prestazioni eccellenti in un formato leggero ed economico.
Questa versione compatta di Gemma 3 è ottimizzata per le distribuzioni con risorse limitate, pur mantenendo prestazioni eccezionali per le sue dimensioni. La sua efficiente architettura consente una rapida inferenza su hardware standard, ideale per le applicazioni che richiedono reattività e distribuzione su larga scala. Nonostante le dimensioni ridotte, mantiene le funzionalità multimodali per l'elaborazione di testi e immagini.
112 token/secondo
gemma3:1b
Micro-modello ultraleggero progettato per l'impiego su dispositivi a bassissime risorse.
Questo modello ultracompatto rappresenta l'epitome dell'efficienza, consentendo l'implementazione in ambienti con risorse estremamente limitate. Nonostante le sue dimensioni minime, offre funzionalità di base sorprendenti per compiti testuali semplici o moderati, con un'eccezionale velocità di inferenza. Supporta inoltre l'integrazione con strumenti esterni tramite chiamate di funzione.
4 gettoni/secondo
lucie-istruzione:7b
Modello causale multilingue open-source (7B), perfezionato da Lucie-7B. Ottimizzato per il francese.
Messa a punto su istruzioni sintetiche (ChatGPT, Gemma) e prompt personalizzati. Non ottimizzato per il codice e la matematica. Addestrato in un contesto 4k, ma mantiene la capacità del modello di base per 32k. Modello in fase di sviluppo.
35 gettoni/secondo
mistral-small3.1:24b
Il modello compatto e reattivo di Mistral AI, appositamente progettato per fornire un'assistenza conversazionale fluida e pertinente con una velocità di risposta ottimale.
Nonostante le sue dimensioni moderate, questo modello offre prestazioni notevoli, in grado di competere con quelle di modelli proprietari molto più grandi. La sua architettura ingegnosamente ottimizzata lo rende facile da implementare localmente su una varietà di infrastrutture. Grazie alle funzionalità multimodali native, è in grado di elaborare sia testi che immagini senza dover ricorrere a sistemi esterni. La licenza Apache 2.0 offre la massima flessibilità per le implementazioni e le personalizzazioni commerciali, rendendolo la scelta ideale per le aziende che desiderano bilanciare prestazioni e vincoli legali.
35 gettoni/secondo
mistral-small3.2:24b
Aggiornamento minore di Mistral Small 3.1, che migliora il tracciamento delle istruzioni, la robustezza delle chiamate di funzione e riduce gli errori di ripetizione.
Questa versione 3.2 mantiene i punti di forza del suo predecessore, pur apportando miglioramenti mirati. È in grado di seguire meglio istruzioni precise, produce meno generazioni infinite o risposte ripetitive e il suo modello di chiamata di funzione è più robusto. Per il resto, le sue prestazioni sono equivalenti o leggermente migliori rispetto alla versione 3.1.
64 token/secondo
deepcoder:14b
Modello di AI open source (14B) di Together AI & Agentica, un'alternativa credibile ai modelli proprietari per la generazione di codice.
Prestazioni eccezionali nella generazione di codice e nel ragionamento algoritmico (60,6% LiveCodeBench Pass@1, 1936 Codeforces, 92,6% HumanEval+). Addestrato tramite RL (GRPO+) con estensione progressiva del contesto (32k -> 64k). Progetto trasparente (codice aperto, dataset, log). Consente l'integrazione di funzionalità avanzate di generazione del codice senza affidarsi a soluzioni proprietarie.
48 token/secondo
granito3.2-visione:2b
Il rivoluzionario modello compatto di computer vision di IBM, in grado di analizzare e comprendere direttamente i documenti visivi senza bisogno di tecnologie OCR intermedie.
Questo modello compatto è in grado di eguagliare le prestazioni di modelli molto più grandi in un'ampia gamma di compiti di comprensione visiva. La sua capacità di interpretare direttamente il contenuto visivo dei documenti - testo, tabelle, grafici e diagrammi - senza passare attraverso la tradizionale fase OCR rappresenta un significativo progresso in termini di efficienza e accuratezza. Questo approccio integrato riduce significativamente gli errori di riconoscimento e fornisce una comprensione più contestuale e sfumata del contenuto visivo.
30 gettoni/secondo
granito3.3:8b
Modello Granite 8B messo a punto da IBM per migliorare il ragionamento e il tracciamento delle istruzioni, con un contesto di 128k token.
Questa versione 8B del modello Granite 3.3 offre miglioramenti significativi su benchmark generici (AlpacaEval-2.0, Arena-Hard) e miglioramenti in matematica, codifica e tracciamento delle istruzioni. Supporta 12 linguaggi, Fill-in-the-Middle (FIM) per il codice, la modalità Thinking per la riflessione strutturata e la chiamata di funzione. Licenza Apache 2.0. Ideale per compiti generali e per l'integrazione in assistenti AI.
45 gettoni/secondo
granito3.3:2b
Modello Granite 2B messo a punto da IBM, ottimizzato per il ragionamento e il tracciamento delle istruzioni, con un contesto di 128k token.
Versione compatta di Granite 3.3 (parametri 2B) che offre gli stessi miglioramenti della versione 8B per quanto riguarda il ragionamento, il seguire le istruzioni, la matematica e la codifica. Supporta 12 lingue, Fill-in-the-Middle (FIM), modalità di ragionamento e chiamata di funzione. Licenza Apache 2.0. Scelta eccellente per implementazioni leggere che richiedono ampie capacità contestuali e di ragionamento.
25 gettoni/secondo
magistrale:24b
Il primo modello di ragionamento di Mistral AI, eccellente nel ragionamento specifico del dominio, trasparente e multilingue.
Ideale per un uso generale che richiede un'elaborazione del pensiero più lunga e una maggiore precisione. Utile per ricerche legali, previsioni finanziarie, sviluppo di software e narrazione creativa. Risolve le sfide in più fasi in cui trasparenza e accuratezza sono essenziali.
74 token/secondo
granito3.1-moe:3b
Innovativo modello IBM che utilizza l'architettura Mixture-of-Experts (MoE) per fornire prestazioni eccezionali ottimizzando drasticamente l'uso delle risorse computazionali.
L'architettura MoE (Mixture-of-Experts) di questo modello rappresenta un progresso significativo nell'ottimizzazione dei modelli linguistici, consentendo di ottenere prestazioni paragonabili a quelle di modelli molto più grandi, pur mantenendo un ingombro di memoria notevolmente ridotto. Questo approccio innovativo attiva dinamicamente solo le parti rilevanti della rete per ogni compito specifico, garantendo una notevole efficienza energetica e computazionale senza compromettere la qualità dei risultati.
60 gettoni/secondo
cogito:14b
Il modello Deep Cogito è stato progettato specificamente per eccellere nei compiti di ragionamento profondo e di comprensione contestuale sfumata, ideale per applicazioni analitiche sofisticate.
Grazie alle eccellenti capacità di ragionamento logico e alla profonda comprensione semantica, questo modello si distingue per la sua capacità di cogliere le sottigliezze e le implicazioni di testi complessi. Il suo design enfatizza il ragionamento coerente e la precisione analitica, rendendolo particolarmente adatto alle applicazioni che richiedono un'analisi attenta e contestuale delle informazioni. Le sue dimensioni moderate consentono un'implementazione flessibile, pur mantenendo prestazioni di alta qualità in un'ampia gamma di compiti analitici impegnativi.
32 token/secondo
cogito:32b
Una versione avanzata del modello Cogito che offre capacità di ragionamento e analisi notevolmente migliorate, progettata per le applicazioni più esigenti in termini di intelligenza artificiale analitica.
Questa versione estesa del modello Cogito porta le capacità di ragionamento e comprensione ancora più in là, offrendo una profondità di analisi senza pari per le applicazioni più complesse. La sua sofisticata architettura gli consente di affrontare ragionamenti in più fasi con rigore e precisione, mantenendo una notevole coerenza complessiva. Ideale per le applicazioni mission-critical che richiedono un'intelligenza artificiale capace di ragionamenti ricchi di sfumature e di una comprensione contestuale profonda, paragonabile alle analisi di esperti umani in campi specialistici.
18 gettoni/secondo
qwen3:32b
Potente modello Qwen3 di nuova generazione, che offre capacità avanzate di ragionamento, di codice e agenziali, con un contesto esteso.
Fa parte della serie Qwen3, addestrata su un vasto corpus di dati. Questo modello da 32 miliardi di parametri è stato progettato per eccellere in compiti complessi, supportare oltre 100 lingue e incorporare modalità di pensiero ibride per migliorare le prestazioni.
35 gettoni/secondo
qwq:32b
Un modello da 32 miliardi di parametri potenziato dall'apprendimento per rinforzo (RL) per eccellere nei compiti di ragionamento, codifica, matematica e agenti.
Questo modello utilizza un approccio RL innovativo con ricompense basate sui risultati (controlli di precisione per la matematica, esecuzione di codice per la codifica) e un addestramento in più fasi per migliorare le abilità generali senza degradare le prestazioni specialistiche. Include funzionalità di agente per l'utilizzo di strumenti e l'adattamento del ragionamento. Licenza Apache 2.0.
62 token/secondo
deepseek-r1:14b
Versione compatta ed efficiente del modello DeepSeek-R1, offre un eccellente compromesso tra prestazioni e leggerezza per le installazioni che richiedono flessibilità e reattività.
Rappresentando un equilibrio ottimale tra prestazioni ed efficienza, questa versione compatta di DeepSeek-R1 mantiene le principali qualità di ragionamento e analisi della sua controparte più grande, consentendo al contempo un'implementazione più leggera e flessibile. Il suo design accuratamente ottimizzato garantisce risultati di qualità in un'ampia gamma di attività, riducendo al minimo i requisiti di risorse computazionali. Questa combinazione lo rende la scelta ideale per le applicazioni che richiedono un'implementazione agile senza compromettere le funzionalità principali.
33 token/secondo
deepseek-r1:32b
Una versione intermedia del modello DeepSeek-R1, che offre un equilibrio strategico tra le capacità avanzate della versione 70B e l'efficienza della versione 14B, per una versatilità e prestazioni ottimali.
Questa versione di fascia media del modello DeepSeek-R1 combina in modo intelligente potenza ed efficienza, offrendo prestazioni significativamente migliori rispetto alla versione 14B e mantenendo un ingombro inferiore rispetto alla versione 70B. Questa posizione strategica nella gamma lo rende un'opzione particolarmente interessante per le implementazioni che richiedono capacità di ragionamento avanzate senza i requisiti hardware dei modelli più grandi. La sua versatilità gli consente di eccellere in un'ampia gamma di compiti, dall'analisi del testo alla generazione di contenuti strutturati.
55 gettoni/secondo
cogito:3b
Versione compatta del modello Cogito, ottimizzata per il ragionamento su dispositivi con risorse limitate.
Offre le capacità di ragionamento della famiglia Cogito in un formato molto leggero (3 miliardi di parametri), ideale per implementazioni embedded o ambienti CPU.
granito-embedding:278m
Il modello di incorporazione ultraleggero di IBM per la ricerca e la classificazione semantica.
Progettato per generare rappresentazioni vettoriali dense del testo, questo modello è ottimizzato per garantire efficienza e prestazioni nei compiti di similarità semantica, clustering e classificazione. Le sue dimensioni ridotte lo rendono ideale per le implementazioni su larga scala.
granito3-guardiano:2b
Il modello compatto di IBM è specializzato in sicurezza e conformità, rilevando rischi e contenuti inappropriati.
Versione leggera della famiglia Guardian, addestrata per identificare e filtrare contenuti dannosi, pregiudizi e rischi per la sicurezza nelle interazioni testuali. Offre una protezione robusta con un'impronta computazionale ridotta. Contesto limitato a 8k token.
granito3-guardia:8b
Modello IBM specializzato in sicurezza e conformità, che offre funzionalità avanzate di rilevamento dei rischi.
Modello di medie dimensioni della famiglia Guardian, che offre un'analisi di sicurezza più approfondita rispetto alla versione 2B. Ideale per le applicazioni che richiedono un monitoraggio rigoroso dei contenuti e una rigorosa conformità.
162 token/secondo
qwen2.5:0.5b
Micro-modello ultraleggero della famiglia Qwen 2.5, progettato per la massima efficienza su attrezzature limitate.
Il modello più piccolo della serie Qwen 2.5, che offre capacità di elaborazione linguistica di base con un ingombro minimo. Ideale per compiti molto semplici su dispositivi IoT o mobili.
102 token/secondo
qwen2.5:1.5b
Modello molto compatto della famiglia Qwen 2.5, che offre un buon rapporto prestazioni/dimensioni per impieghi leggeri.
Modello leggermente più grande della versione 0.5B, che offre maggiori capacità pur rimanendo altamente efficiente. Adatto per applicazioni mobili o embedded che richiedono una maggiore potenza.
61 token/secondo
qwen2.5:14b
Modello versatile e di medie dimensioni della famiglia Qwen 2.5, con un buon equilibrio tra prestazioni e risorse.
Offre forti capacità multilingue e comprensione generale in un formato 14B. Adatto a un'ampia gamma di applicazioni che richiedono un modello affidabile senza i requisiti di modelli molto grandi.
31 gettoni/secondo
qwen2.5:32b
Potente modello della famiglia Qwen 2.5, che offre capacità avanzate di comprensione e generazione.
Versione 32B di Qwen 2.5, che offre prestazioni migliori rispetto alla versione 14B, in particolare nel ragionamento e nel seguire istruzioni complesse, pur rimanendo più leggero del modello 72B.
64 token/secondo
qwen2.5:3b
Modello compatto ed efficiente della famiglia Qwen 2.5, adatto a compiti generali con risorse limitate.
Offre un buon compromesso tra le capacità dei modelli 1.5B e 14B. Ideale per applicazioni che richiedono una buona comprensione generale in un formato leggero e veloce.
112 token/secondo
qwen3:0.6b
Modello compatto ed efficiente della famiglia Qwen3, adatto a compiti generici con risorse limitate.
Offre un buon compromesso tra le capacità dei modelli ultracompatti e quelle dei modelli più grandi. Ideale per applicazioni che richiedono una buona comprensione generale in un formato leggero e veloce.
88 token/secondo
qwen3:1.7b
Un modello molto compatto della famiglia Qwen3, che offre un buon equilibrio tra prestazioni e dimensioni per impieghi leggeri.
Modello leggermente più grande della versione 0.6B, che offre maggiori capacità pur rimanendo altamente efficiente. Adatto per applicazioni mobili o embedded che richiedono una maggiore potenza.
49 token/secondo
qwen3:4b
Modello compatto della famiglia Qwen3, che offre prestazioni eccellenti in un formato leggero ed economico.
Questa versione compatta del modello Qwen3 è ottimizzata per le distribuzioni con risorse limitate, pur mantenendo prestazioni eccezionali per le sue dimensioni. La sua efficiente architettura consente una rapida inferenza su hardware standard.
70 gettoni/secondo
qwen3-2507-pensiero:4b
Modello Qwen3-4B ottimizzato per il ragionamento, con prestazioni migliorate nei compiti di logica, matematica, scienze e codice, e contesto esteso a 250K token.
Questa versione "Thinking" ha una lunghezza di pensiero maggiore, che la rende ideale per compiti di ragionamento molto complessi. Offre inoltre miglioramenti generali nel seguire le istruzioni, nell'utilizzare gli strumenti e nel generare testi.
70 gettoni/secondo
qwen3-2507:4b
Versione aggiornata della modalità non pensante di Qwen3-4B, con miglioramenti significativi delle capacità generali, un'estesa copertura delle conoscenze e un migliore allineamento con le preferenze dell'utente.
Miglioramenti significativi nel seguire le istruzioni, nel ragionamento logico, nella comprensione della lettura, nella matematica, nel coding e nell'uso degli strumenti. Contesto nativo di 250k gettoni.
33 token/secondo
qwen3:8b
Il modello Qwen3 8B offre un buon equilibrio tra prestazioni ed efficienza per le attività generali.
Versione 8B di Qwen3, che offre capacità di ragionamento, codifica, matematica e agenti migliorate. Supporta oltre 100 linguaggi e modi di pensare ibridi.
65 token/secondo
qwen2.5vl:3b
Modello compatto Vision-Language, una soluzione ad alte prestazioni per l'intelligenza artificiale dei bordi.
Qwen2.5-VL è il nuovo modello di linguaggio di visione di punta di Qwen, che segna un significativo progresso rispetto a Qwen2-VL. Caratteristiche principali - Comprensione visiva (oggetti comuni, testo, grafica, icone, layout). Capacità di agente visivo (ragionamento, direzione dinamica degli strumenti per l'uso del computer/telefono). Localizzazione visiva precisa (bounding box, punti, output JSON stabile). Generazione di output strutturato (fatture, moduli, tabelle). Qwen2.5-VL-3B supera anche la versione 7B di Qwen2-VL.
35 gettoni/secondo
qwen2.5vl:7b
Modello di linguaggio di visione ad alte prestazioni, che supera GPT-4o-mini in alcuni compiti.
Qwen2.5-VL è il nuovo modello di linguaggio di visione di punta di Qwen, che segna un significativo progresso rispetto a Qwen2-VL. Caratteristiche principali - Comprensione visiva (oggetti comuni, testo, grafica, icone, layout). Capacità di agente visivo (ragionamento, direzione dinamica degli strumenti per l'uso del computer/telefono). Localizzazione visiva precisa (bounding box, punti, output JSON stabile). Generazione di output strutturato (fatture, moduli, tabelle). Qwen2.5-VL-7B-Instruct supera GPT-4o-mini in molti compiti ed è particolarmente bravo a comprendere documenti e diagrammi.
21 gettoni/secondo
hf.co/roadus/Fondazione-Sec-8B-Q4_K_M-GGUF:Q4_K_M
Modello linguistico specializzato per la cybersecurity, ottimizzato per l'efficienza.
Modello Foundation-Sec-8B (Llama-3.1-FoundationAI-SecurityLLM-base-8B) basato su Llama-3.1-8B, pre-addestrato su un corpus di cybersecurity. Progettato per il rilevamento delle minacce, la valutazione delle vulnerabilità, l'automazione della sicurezza, ecc. Ottimizzato per la distribuzione locale. Contesto di 16k token.
45 gettoni/secondo
devstrale:24b
Devstral è un LLM agenziale per compiti di ingegneria del software.
Devstral è un LLM agenziale per attività di ingegneria del software. Eccelle nell'uso di strumenti per esplorare basi di codice, modificare più file e alimentare agenti di ingegneria del software. È stato perfezionato a partire da Mistral Small 3.1, con una finestra contestuale lunga fino a 128k token.
30 gettoni/secondo
cogito:8b
Un modello di dimensioni intermedie della famiglia Cogito, che offre un buon equilibrio tra capacità di ragionamento ed efficienza.
Questa versione 8B si posiziona tra i modelli compatti e quelli più grandi, offrendo solide capacità di ragionamento per un'ampia gamma di applicazioni analitiche senza richiedere le risorse dei modelli più grandi.
31 gettoni/secondo
lama3.1:8b
Il modello base della famiglia Llama 3.1 offre prestazioni solide per le sue dimensioni.
Basato sull'architettura Llama 3.1, questo modello 8B è un ottimo punto di partenza per compiti generali, in quanto offre generazione e comprensione di buona qualità in un formato efficiente.
71 token/secondo
phi4-ragionamento:14b
Fa parte della famiglia Phi di Microsoft, specializzata in ragionamenti complessi e matematica.
Questo modello è specificamente addestrato per eccellere in compiti che richiedono un ragionamento logico in più fasi, il che lo rende particolarmente bravo nei problemi di matematica, logica e codifica.
Modello a confronto
Questa tabella di confronto vi aiuterà a scegliere il modello più adatto alle vostre esigenze, in base a vari criteri come le dimensioni del contesto, le prestazioni e i casi d'uso specifici.
| Modello | Editore | Parametri | Contesto (k token) | Visione | Agente | Ragionamento | Sicurezza | Rapido * | Efficienza energetica * |
|---|---|---|---|---|---|---|---|---|---|
| Modelli grandi | |||||||||
| gpt-oss:120b | OpenAI | 120B | 120000 | ||||||
| lama3.3:70b | Meta | 70B | 120000 | ||||||
| qwen3:235b | Squadra Qwen | 235B | 60000 | ||||||
| deepseek-r1:671b | DeepSeek AI | 671B | 16000 | ||||||
| gemma3:27b | 27B | 120000 | |||||||
| qwen3-coder:30b | Squadra Qwen | 30B | 250000 | ||||||
| qwen3-2507-think:30b-a3b | Squadra Qwen | 30B | 120000 | ||||||
| qwen3-2507:30b-a3b | Squadra Qwen | 30B | 250000 | ||||||
| qwen3:30b-a3b | Squadra Qwen | 30B | 32000 | ||||||
| deepseek-r1:70b | DeepSeek AI | 70B | 32000 | ||||||
| qwen2.5vl:32b | Squadra Qwen | 32B | 120000 | ||||||
| qwen2.5vl:72b | Squadra Qwen | 72B | 128000 | ||||||
| Modelli specializzati | |||||||||
| embeddinggemma:300m | 300M | 2048 | N.C. | ||||||
| gpt-oss:20b | OpenAI | 20B | 120000 | ||||||
| qwen3:14b | Squadra Qwen | 14B | 32000 | ||||||
| gemma3:12b | 12B | 120000 | |||||||
| gemma3:4b | 4B | 120000 | |||||||
| gemma3:1b | 1B | 32000 | |||||||
| lucie-istruzione:7b | OpenLLM-Francia | 7B | 32000 | ||||||
| mistral-small3.1:24b | Mistral AI | 24B | 120000 | ||||||
| mistral-small3.2:24b | Mistral AI | 24B | 120000 | ||||||
| deepcoder:14b | Agentica x Together AI | 14B | 32000 | ||||||
| granito3.2-visione:2b | IBM | 2B | 16384 | ||||||
| granito3.3:8b | IBM | 8B | 60000 | ||||||
| granito3.3:2b | IBM | 2B | 120000 | ||||||
| magistrale:24b | Mistral AI | 24B | 40000 | ||||||
| granito3.1-moe:3b | IBM | 3B | 32000 | ||||||
| cogito:14b | Cogito profondo | 14B | 32000 | ||||||
| cogito:32b | Cogito profondo | 32B | 32000 | ||||||
| qwen3:32b | Squadra Qwen | 32B | 40000 | ||||||
| qwq:32b | Squadra Qwen | 32B | 32000 | ||||||
| deepseek-r1:14b | DeepSeek AI | 14B | 32000 | ||||||
| deepseek-r1:32b | DeepSeek AI | 32B | 32000 | ||||||
| cogito:3b | Cogito profondo | 3B | 32000 | ||||||
| granito-embedding:278m | IBM | 278M | 512 | N.C. | |||||
| granito3-guardiano:2b | IBM | 2B | 8192 | N.C. | |||||
| granito3-guardia:8b | IBM | 8B | 32000 | N.C. | |||||
| qwen2.5:0.5b | Squadra Qwen | 0.5B | 32000 | ||||||
| qwen2.5:1.5b | Squadra Qwen | 1.5B | 32000 | ||||||
| qwen2.5:14b | Squadra Qwen | 14B | 32000 | ||||||
| qwen2.5:32b | Squadra Qwen | 32B | 32000 | ||||||
| qwen2.5:3b | Squadra Qwen | 3B | 32000 | ||||||
| qwen3:0.6b | Squadra Qwen | 0.6B | 32000 | ||||||
| qwen3:1.7b | Squadra Qwen | 1.7B | 32000 | ||||||
| qwen3:4b | Squadra Qwen | 4B | 32000 | ||||||
| qwen3-2507-pensiero:4b | Squadra Qwen | 4B | 250000 | ||||||
| qwen3-2507:4b | Squadra Qwen | 4B | 250000 | ||||||
| qwen3:8b | Squadra Qwen | 8B | 32000 | ||||||
| qwen2.5vl:3b | Squadra Qwen | 3.8B | 128000 | ||||||
| qwen2.5vl:7b | Squadra Qwen | 7B (8,3B) | 128000 | ||||||
| hf.co/roadus/Fondazione-Sec-8B-Q4_K_M-GGUF:Q4_K_M | Fondazione AI - Cisco | 8B | 16384 | ||||||
| devstrale:24b | Mistral AI e All Hands AI | 24B | 120000 | ||||||
| cogito:8b | Cogito profondo | 8B | 32000 | ||||||
| lama3.1:8b | Meta | 8B | 32000 | ||||||
| phi4-ragionamento:14b | Microsoft | 14B | 32000 | ||||||
Legenda e spiegazione
Funzionalità o capacità supportata dal modello
Funzionalità o capacità non supportate dal modello
* Efficienza energetica
Indica un consumo energetico particolarmente basso (< 2,0 kWh/Mtoken)
* Veloce
Modello in grado di generare più di 50 gettoni al secondo
Nota sulle misure di performance
I valori di velocità (token/s) rappresentano gli obiettivi di prestazione in condizioni reali. Il consumo energetico (kWh/Mtoken) è calcolato dividendo la potenza stimata del server di inferenza (in Watt) per la velocità misurata del modello (in token/secondo), quindi convertito in kilowattora per milione di token (divisione per 3,6). Questo metodo offre un confronto pratico dell'efficienza energetica di diversi modelli, da utilizzare come indicatore relativo piuttosto che come misura assoluta del consumo energetico.
Casi d'uso consigliati
Ecco alcuni casi d'uso comuni e i modelli più adatti per ciascuno di essi. Queste raccomandazioni si basano sulle prestazioni e sulle capacità specifiche di ciascun modello.
Dialogo multilingue
Chatbot e assistenti in grado di comunicare in diverse lingue, con rilevamento automatico, mantenimento del contesto durante la conversazione e comprensione delle specificità linguistiche.
Modelli consigliati
- Llama 3.3
- Mistral Piccolo 3.2
- Qwen 3
- Granito 3.3
Analisi di documenti lunghi
Elaborazione di documenti di grandi dimensioni (>100 pagine), mantenendo il contesto in tutto il testo, estraendo le informazioni chiave, generando sintesi pertinenti e rispondendo a domande specifiche sui contenuti
Modelli consigliati
- Gemma 3
- Qwen3
- Granito 3.3
Programmazione e sviluppo
Generazione e ottimizzazione di codice in più linguaggi, debugging, refactoring, sviluppo di funzionalità complete, comprensione di implementazioni algoritmiche complesse e creazione di test unitari.
Modelli consigliati
- DeepCoder
- QwQ
- Codifica Qwen3
- Granito 3.3
- Devstral
Analisi visiva
Elaborazione diretta di immagini e documenti visivi senza pre-elaborazione OCR, interpretazione di diagrammi tecnici, grafici, tabelle, disegni e foto con generazione di spiegazioni testuali dettagliate del contenuto visivo
Modelli consigliati
- Granito 3.2 Visione
- Mistral Piccolo 3.2
- Gemma 3
- Qwen2.5-VL
Sicurezza e conformità
Applicazioni che richiedono specifiche funzionalità di sicurezza; filtraggio di contenuti sensibili, tracciabilità dei ragionamenti, verifica RGPD/HDS, minimizzazione dei rischi, analisi delle vulnerabilità e conformità alle normative settoriali.
Modelli consigliati
- Guardiano del granito
- Granito 3.3
- Devstral
- Mistral Piccolo 3.1
- Magistrale 24b
- Fondazione-Sec-8B
Impieghi leggeri e a bordo
Applicazioni che richiedono un ingombro minimo di risorse, implementazione su dispositivi a capacità limitata, inferenza in tempo reale su CPU standard e integrazione in sistemi embedded o IoT.
Modelli consigliati
- Gemma 3
- Granito 3.1 MoE
- Guardiano del granito
- Granito 3.3