Siamo arrivati a un punto in cui gli strumenti AI basati su cloud possono scrivere intere codebase partendo da un singolo prompt. Strumenti come Bolt o Lovable permettono di creare prototipi velocemente, ma ti legano ad abbonamenti mensili e limiti di crediti. Man mano che il progetto cresce, i costi di utilizzo dell’IA aumentano, portando molti sviluppatori a porsi una domanda logica: è possibile eseguire assistenti AI per il coding completamente in locale, sul proprio hardware, e costruire app gratis?
La risposta breve è sì. Grazie ai modelli open-source e ai motori di esecuzione locale leggeri, puoi far girare un intero stack di sviluppo AI sul tuo laptop. Puoi lavorare senza una connessione internet attiva, evitare i canoni mensili e mantenere il tuo codice sorgente totalmente privato sul tuo hard disk.
Tuttavia, usare uno stack AI locale non è un semplice sostituto “chiavi in mano” dei servizi in cloud. Ci sono dei compromessi in termini di velocità, requisiti hardware e intelligenza del modello. Se vuoi creare app localmente senza spendere un centesimo, devi capire come funziona il self-hosting, i limiti dei modelli e i vincoli degli strumenti che incontrerai.
Lo stack AI locale per il coding: cosa ti serve
Per sviluppare software localmente senza dipendere dalle API in cloud, devi combinare tre livelli distinti: il modello, il motore di esecuzione e l’integrazione con l’IDE.
1. I modelli
Non puoi far girare un modello enorme come GPT-4o o Claude 3.5 Sonnet su hardware consumer standard. Per questo, la community open-source punta su modelli più piccoli e specializzati, ottimizzati per lo sviluppo software.
- Qwen 2.5 Coder (7B & 14B): Creato da Alibaba, Qwen è uno dei modelli di coding open-source più efficienti disponibili. Le varianti da 7B e 14B parametri offrono un ottimo supporto multi-linguaggio e un ragionamento logico in dimensioni compatte.
- DeepSeek-Coder (6.7B & 33B): I modelli DeepSeek sono molto apprezzati per le loro capacità di generazione di codice. Il modello da 6.7B è veloce su laptop di fascia media, mentre quello da 33B offre un ragionamento architetturale più profondo, se hai l’hardware per supportarlo.
- Llama 3.1 / 3.2 (8B): Il modello generalista di Meta è comunque molto capace nello scrivere codice, anche se è meno specializzato rispetto a Qwen Coder o DeepSeek-Coder.
2. I runner locali
Per eseguire questi modelli, ti serve un runner in grado di caricare i pesi nella memoria di sistema ed esporre un’API per i tuoi strumenti di sviluppo.
- Ollama: Ollama è lo strumento standard per l’esecuzione AI locale. Gira in background su Mac, Windows e Linux, permettendoti di scaricare ed eseguire modelli con semplici comandi da terminale.
- LM Studio: Se preferisci un’interfaccia visiva, LM Studio ti permette di cercare su Hugging Face, scaricare modelli quantizzati e avviare server API locali che imitano lo schema di OpenAI.
3. Integrazione IDE
Una volta che il modello è attivo, ti serve un modo per accedervi all’interno del tuo ambiente di programmazione.
- Continue.dev: È un’estensione open-source per VS Code e gli IDE di JetBrains. Ti permette di collegarti alla tua istanza locale di Ollama per l’autocompletamento, le chat e le modifiche inline.
- Llama.coder: Un’estensione leggera creata appositamente per essere un’alternativa open-source a GitHub Copilot, utilizzando Ollama per l’autocompletamento locale.
- Cursor: Anche se Cursor è principalmente un editor cloud-first, puoi configurarlo per puntare alla tua API locale di Ollama per la chat e la generazione di codice, anche se perderai alcune delle sue funzioni native di indicizzazione della codebase.
L’hardware è il vero collo di bottiglia
Far girare i modelli localmente sembra l’ideale, finché non guardi i requisiti hardware. Quando usi strumenti in cloud, i centri dati giganti gestiscono il calcolo pesante. Quando fai self-hosting, il processore, la RAM e la scheda video del tuo computer devono fare tutto il lavoro.
Memoria Unificata e requisiti VRAM
I modelli AI richiedono memorie veloci. La RAM standard è spesso troppo lenta, il che significa che ti serve una scheda video dedicata con molta VRAM (come una Nvidia RTX) o un Mac con Apple Silicon e memoria unificata (chip serie M).
- Per modelli da 7B o 8B parametri: Servono almeno 16GB di RAM. Se provi a farli girare su un laptop da 8GB, il sistema userà lo swap sul disco, causando blocchi o crash del modello.
- Per modelli da 14B o 32B parametri: Servono almeno 32GB di RAM. Questi modelli più grandi comprendono meglio la logica complessa, ma su laptop standard saranno lentissimi.
- Per modelli da 70B parametri: Servono 64GB di RAM o più. Questi modelli si avvicinano alla qualità di ragionamento dei vecchi modelli cloud, ma richiedono hardware da workstation professionale per funzionare.
Il limite della velocità: Token al secondo
Nella generazione AI, la velocità si misura in token al secondo (t/s). Per programmare comodamente, ti serve un modello che generi almeno 20-30 token al secondo - abbastanza velocemente da stare al passo con la tua lettura.
Se fai girare un modello 14B su un MacBook Air base, potresti ottenere 5-10 token al secondo. Vedere il codice generarsi carattere per carattere è frustrante e interrompe il flusso di lavoro. Risparmi sugli abbonamenti, ma paghi con il tuo tempo.
Limiti di intelligenza: dove i modelli locali falliscono
Anche se avessi una workstation di fascia alta che fa girare i modelli locali a velocità elevate, incontreresti comunque dei limiti di intelligenza.
Vincoli della finestra di contesto
La finestra di contesto di un modello determina quanta parte della tua codebase può ricordare contemporaneamente. Mentre i modelli cloud possono analizzare centinaia di migliaia di token, i runner locali sono limitati dalla memoria di sistema. Se provi a dare in pasto l’intero repository a Ollama, l’uso della RAM schizzerà e i tempi di risposta rallenteranno drasticamente.
I modelli locali sono ottimi per:
- Scrivere singole funzioni o classi.
- Completare linee di codice mentre scrivi.
- Spiegare come funzionano specifici snippet di codice.
- Rifattorizzare script isolati.
Tuttavia, fanno fatica con l’architettura globale. Se chiedi a un modello locale da 7B di aggiungere un campo al database e aggiornare tutti i form, le query e le API in dieci file diversi, probabilmente perderà il filo delle modifiche, duplicherà funzioni helper o introdurrà bug perché non riesce a tenere a mente l’intera struttura del progetto.
Zero-Shot vs Debugging Iterativo
Modelli cloud come Claude 3.5 Sonnet possono scrivere algoritmi complessi correttamente al primo tentativo. I modelli locali spesso richiedono tre o quattro cicli di feedback per azzeccare la sintassi. Passerai molto tempo a risolvere errori di compilazione e importazioni rotte che i modelli cloud avrebbero evitato.
La sfida del sandbox e dell’ecosistema
Creare un’app non significa solo scrivere codice. Ti servono anche un database, l’autenticazione, l’archiviazione dei file e l’hosting.
Quando usi AI builder in cloud come Replit o Bolt, questi gestiscono l’ambiente di anteprima sandboxed e la pipeline di deployment. Se la tua app ha bisogno di un database, ne avviano automaticamente un’istanza gestita.
Con uno stack open-source locale, devi configurare tutto manualmente. Devi:
- Installare e gestire container Docker per i database locali (come PostgreSQL).
- Configurare framework di sicurezza locali, tabelle utenti e crittografia delle password.
- Gestire i moduli node locali, i pacchetti di sistema e i bundler.
- Risolvere i problemi di deployment quando sposti l’app da localhost a un server pubblico.
Questo processo di configurazione richiede vere competenze di sviluppo web. Se non sai come scrivere le connessioni al database o configurare i reverse proxy, rimarrai bloccato molto prima che la tua applicazione sia pronta per gli utenti.
L’alternativa pragmatica: No-Code strutturato per app business
Se il tuo obiettivo è capire come funzionano i modelli o creare piccoli script, uno stack open-source locale è un’ottima scelta. Ma se devi costruire software operativo - come portali clienti, strumenti interni o database aziendali - gestire modelli locali e fare debug di codice raw è estremamente inefficiente.
Invece di scrivere codice personalizzato da zero e ospitarlo autonomamente, puoi costruire partendo da una base visiva. Usare Softr ti permette di evitare completamente i costi e l’impegno di hosting e manutenzione.
Softr ti permette di creare app direttamente sui suoi database nativi ad alte prestazioni, Softr Databases, offrendo anche integrazioni con oltre 17 fonti dati esterne se i tuoi dati sono già altrove. La piattaforma fornisce funzionalità standard per il software business già pronte: autenticazione sicura degli utenti, permessi granulari e layout responsive senza scrivere codice. La piattaforma gestisce infrastruttura, sicurezza e hosting, così non devi preoccuparti dei conflitti di dipendenze locali.
Puoi comunque usare l’AI per accelerare lo sviluppo. L’AI Co-Builder di Softr ti aiuta a generare database, layout e pagine all’interno dell’editor visivo. Se ti serve un componente completamente personalizzato, puoi usare il blocco Vibe Coding per generarlo tramite AI, mantenendo il codice isolato in modo che non comprometta il database principale o le regole di sicurezza.
Inoltre, Softr supporta lo standard Model Context Protocol (MCP). Questo significa che puoi collegare assistenti AI esterni - inclusi modelli locali che girano via Cursor o altri strumenti - direttamente al tuo database Softr. Ottieni la flessibilità di usare i tuoi strumenti AI preferiti (locali o cloud) mantenendo un’infrastruttura applicativa stabile e a manutenzione zero.
Il verdetto: si possono creare app gratis?
È assolutamente possibile creare applicazioni gratuitamente usando assistenti AI open-source, ma la parola “gratis” è fuorviante.
Anche se non pagherai abbonamenti, pagherai in altri modi:
- Hardware: Ti serve un computer ad alte prestazioni per far girare modelli di coding capaci in locale.
- Velocità: Passerai più tempo ad aspettare che i modelli generino risposte e a correggere errori di sintassi.
- Manutenzione: Devi configurare e gestire manualmente database, sicurezza e hosting.
Se ti piace gestire gli ambienti di sviluppo e lavorare direttamente sul codice, l’AI locale è un modo altamente personalizzabile per controllare la tua pipeline di sviluppo. Ma se devi distribuire strumenti sicuri e funzionali per la tua azienda o per i clienti, costruire su una piattaforma no-code strutturata come Softr ti farà risparmiare ore di ingegneria e manutenzione non necessarie.