玉山公园以山为名，因山而峻秀，范围内含括全台三分之一的名山。有傲视东北亚的玉山，中央山脉之最的秀姑峦山，十峻之尊的玉山东峰，南台首岳的关山及东台第一霸的新康山等。这些山高低有别，形容互异，却又各擅胜场，全是登山者之最爱。

玉山山块因欧亚、菲律宾板块相挤撞而高隆，主棱脉略呈十字形，南北长而东西短，十字之交点即为玉山主峰，海拔3952米。从西南向眺，玉山尖峭峥嵘；由东北向观，则雍容华贵；帝王之相，名实相符，不失第一风范。

衬显主峰者为东、南、西、北诸峰。东峰高3869米，北壁陡立千仞，望之俨然，因而被尊为十峻之首。南峰山顶尖锐，为黑色页岩所构成，远望嵯峨突兀，狰狞可怖，险峻可比美东峰。西山林木森森，虽列为百岳，但宜亲易近；当夕日西斜，云环雾绕之时，颇能让人遗世忘忧。北峰棱长而缓，山顶双头并立，望如驼峰。

延绵玉山山块东边的是中央山脉，包含登山界惯称的南二段及南一段的北端。北起马博拉斯山，南迄关山，群峰迤逦数十公里，瑰丽壮阔，纵横其上，阔心怡神。