Cloud Compute

Niente gergo, niente formule

Mandi il tuo lavoro (un training, un batch di chiamate di inference, un database) al data centre di un provider. Il suo palazzo, la sua bolletta elettrica, il suo raffreddamento, i suoi dischi sostituiti alle tre di notte. Tu ricevi macchine virtuali, spesso con GPU o TPU attaccate, e un pannello che le scala. L'elasticità è tutto il punto: fai girare una macchina per un'ora, o mille per un weekend, poi le restituisci. I prezzi hanno due gusti: capacità riservata che ti impegni a comprare per uno sconto, e capacità on demand fatturata al secondo a premio. Due cose viaggiano con ogni lavoro: i tuoi dati vanno nel suo palazzo, e la latenza è un viaggio di andata e ritorno fino a quel palazzo. Dove si rompe: un job di training dimenticato può bruciare migliaia in una notte, spostare tutto su un altro provider è un lavoro vero, e se i tuoi dati non possono lasciare la tua sede, il cloud compute semplicemente non è un'opzione.