據《玉皇閣碑》記載：“京東百余里有山曰丫髻，隸懷柔縣，兩峰高聳，望之如髻，故得是名。”關于這座山峰，當地民間有個傳說：王母娘娘大擺蟠桃宴會，命仙童獻酒，仙童不慎弄翻了玉壺，瓊漿灑落人間，成了山下的錯河。王母大怒，將仙童趕下凡間，化做丫髻山峰。傳說自然是民間附會，但卻為這一名勝增加了一點神奇色彩。
丫髻山座西北朝東南，滿山蒼松翠柏，郁郁蔥蔥。山下錯河如玉帶環繞，山前有四十八盤臺階直通山頂。山后為懸崖絕壁，挺拔險峻。自唐貞觀年起，直至民國初年，歷代王朝都曾在這里大興土木，山上山下共建有古建筑群十八余處。清康熙五十二年，適逢皇帝六十大壽，為了祝壽，臣民捐資，重建東頂玉皇閣，內奉昊天金闕至尊玉皇大帝塑像。康熙賜題匾額“敷錫廣生”。在西頂上建有碧霞元君祠，當地人稱娘娘廟。
丫髻山東西兩頂上的建筑極為宏偉，而且富麗堂皇，雕梁畫棟，極為精致。在西頂有一座別具風格的鐵瓦殿，內奉王三奶奶肖像。在東西兩頂之間，建有三座大殿，稱為三皇殿。三皇殿的右前方有鐘樓一座，高約三丈，上懸巨鐘，左側有一鼓樓與鐘樓遙相對應。此外，山腰還有亭堂殿閣多處，如萬壽亭、巡山廟、三官殿、菩薩殿、回香亭等。山下有皇帝的行宮和大戲樓。登山沿途，凡廟皆有石碑，特別那幾座御碑，石質細膩，字跡清秀剛勁，是當時石刻匠人高超的藝術杰作。
自元代以來，丫髻山一直是京城一帶人們瞻拜祈禱的圣地。上至皇帝后妃，宗室王爺，達官貴人，下至文人墨客，市民村夫，皆有逛東大山的習俗。清康熙和乾隆皇帝，都曾兩次游幸丫髻山。當時大駕出游，旌旗如云，車馬如龍。至于清室王爺，達官貴人及平民百姓，車馬飛馳，曉行夜宿，去丫髻山敬香者終年絡驛不絕。而廟會期間更是人如潮涌。山上有康熙五十四年碑文，記載了當時的盛況：“每歲孟夏，四方人士會于此者，或輦紙帛，或升香燭，拜叩登山，名為勝會，駢肩疊跡，不可勝計……”這種盛況一直持續到1946年。
