In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub in crowdfunding che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Qual è il costo di RAMDeck?
- Il costo di RAMDeck è di 109 dollari per l'offerta early-bird.
- Quando termina la campagna di crowdfunding?
- La campagna di crowdfunding per RAMDeck termina l'8 novembre 2026.
RAMDeck: il nuovo hub per potenziare l’intelligenza artificiale domestica
RAMDeck è un piccolo hub a basso consumo attualmente in crowdfunding su Indiegogo, con un’offerta early-bird a 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo mira a aggregare la memoria RAM presente in PC Windows, Mac, Linux e telefoni Android di una rete domestica, consentendo di eseguire modelli di intelligenza artificiale troppo grandi per un singolo dispositivo.
Contesto di sviluppo e funzionalità
Il progetto RAMDeck nasce in un periodo di forte aumento dei prezzi della memoria DDR5, che ha visto i costi salire a circa cinque volte rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non fonde la memoria a livello hardware; piuttosto, i pesi di un modello vengono suddivisi tra le macchine, ognuna delle quali mantiene la propria porzione in memoria locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.
Infrastruttura software e orchestrazione
L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp: un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene attraverso il protocollo standard di llama.cpp. L’elemento distintivo di TradeMAV, la società dietro RAMDeck, è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti e una dashboard con un’API compatibile con OpenAI.
Specifiche e alternative
Attualmente, le specifiche hardware del hub non sono pubblicate, il che include dettagli su processore, memoria, porte e consumo. Tuttavia, la documentazione indica che chi è a suo agio con script da terminale può seguire una soluzione DIY gratuita. Esistono già alternative software operative per pooling e orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.
Prestazioni e benchmark
TradeMAV avverte che il pooling della memoria sacrifica velocità per capacità, raccomandando l’acquisto di GPU con più VRAM per chi cerca prestazioni elevate. Nei benchmark pubblicati, le demo più veloci utilizzano una mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token. Ad esempio, sono stati registrati 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060.
I modelli densi, tuttavia, mostrano prestazioni più modeste: un 27B denso ha reso 1,92 token/s su quattro dispositivi, mentre gpt-oss-120b ha segnato 1,37 token/s su un cluster di sei macchine. Un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati, pur evitando crash per esaurimento di memoria, rimangono significativamente più lenti rispetto a configurazioni con GPU di elevata VRAM.
Conclusioni e opportunità di crowdfunding
In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub punta a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e i benchmark pubblicati evidenziano limiti di prestazioni per modelli densi. Gli utenti interessati possono provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari per l’hub in preorder comportano i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.
