南京四周群山环抱,有紫金山、栖霞山、汤山、青龙山、黄龙山、方山、祖堂山、云台山、老山、灵岩山、茅山等,另有富贵山、九华山、北极阁山、清凉山、狮子山、鸡笼山等聚散于市内,形成了山多水多丘陵多的地貌特征。
南京城区起伏不平。紫金山中支的余脉向西延伸,在太平门旁为富贵山,进城为小九华山、北极阁,继续向西连接古长江冲积物堆成的下蜀黄土岗地,把南京城一分为二,形成了秦淮河水系和金川河水系的天然分水岭。在城北锈球公园附近还有狮子山(又名卢龙山),城西有马鞍山,城南有石子岗(又名玛瑙岗、聚宝山)。 在城区外围,六合区境内北部有东平山、冶山,东南部有以玄武岩为主的方山、灵岩山;浦口境内分布着东北--西南向的 老山 山脉;城郊和江宁区是宁镇山脉西段的分布地,沿江边第一列(即 钟山 北支)分布着栖霞山、南象山、 幕府山 ,第二列(即钟山中支)有灵山、紫金山等,第三列(即钟山南支)的山最多,有 汤山 、方山、牛首山等;溧水、高淳县境的东部是茅山山脉的一部分。