La base è l'Equazione del razzo di Ciolkovskij, con la quale puoi calcolare il delta-V (l'incremento di velocità) del tuo veicolo.
http://it.wikipedia.org/wiki/Equazione_del_razzo_di_Ciolkovskij
Tutto sta a capire se il delta-V del tuo razzo, con il carico utile che decidi di lanciare, è sufficiente a raggiungere l'orbita. La velocità orbitale (in LEO) sarebbe di circa 7,4 km/s, ma visto che durante il lancio c'è la frenatura dovuta all'atmosfera e mille altri problemi, in realtà bisogna raggiungere almeno i 9,5 km/s.
Naturalmente il calcolo diventa complicato se hai un vettore multistadio, e ancora più complicato se usi più stadi che funzionano in contemporanea (tipo un razzo centrale con dei boosters); in teoria devi anche tenere conto del sito di lancio e dell'inclinazione della tua orbita: più lanci "dritto" (orbita a bassa inclinazione) e più il tuo sito di lancio è vicino all'equatore, maggiore sarà il vantaggio e quindi il carico utile.