Šmarno goro in Grmado sestavljajo usedline, ki so nastale v globokem morju.
Usedline, ki so jih prinašale reke in vetrovi so se strjevale v sklade apnencev,
dolomitov in glinastih skrilavcev. V nadaljnjih gubanjih zemeljske skorje so se
ti skladi dvignili iz vode, morje se je umaknilo, v toplem podnebju pa so površinske
in tekoče vode razjedale in oblikovale površje.
Geološka podlaga spodnjega dela Šmarne gore in Grmade so karbonski glinasti skrilavci,
v sredini permski peščenjaki in peščeni skrilavci. V zgornjem delu je podlaga triadni dolomit,
ponekod tudi apnenec. Z geološko podlago je pogojena tudi strmina. Zahodna in južna stran sta
dolomitni s tipičnimi piramidastimi roglji. Z zgornjih predelov se usipa dolomitni grušč in se
valijo tudi večje skale. Grušč sega tako globoko navzdol, da prekriva spodaj ležeče permske in
ponekod celo karbonske kamnine. Ob vznožju so diluvialne plasti, prod in ponekod konglomerat, v
ravnini okoli gore pa naplavine, pesek, mivka in ilovica.