秦始皇以为“东南有天子气”，即率群臣东巡，登封泰山。

　　汉宣帝时定山东泰山为东岳、陕西华山为西岳、安徽天柱山为南岳、河北恒山为北岳、河南嵩山为中岳。

　　隋代改湖南衡山为南岳。但泰山为东岳者却一直没变，历代帝王到泰山封禅成为定例。因此泰山成了一座最神圣的山。

　　为配合封禅活动，在泰山建有“东岳庙”，供奉“东岳大帝”。以后各地都建“东岳庙”，皆以山东泰山的“东岳庙”为祖庙。

　　（注：汉族地区每个县级以上城池都建有泰山庙，大致都建在东门附近。而在城中南门建孔庙和塔，西门建关帝庙，北门建玄武庙，城中建城隍庙。

　　一般认为，福州的东岳庙为五代时闽国皇帝王延钧所建。王延钧为闽王王审知的第二个儿子，王审知病逝后，长子王延翰继位。延翰无道，延钧杀兄夺位，用父王的妃子陈金凤为淑妃。

　　后唐明宗长兴四年（933年），陈金凤乘机逢迎：“今有太史真封家中，井内有龙飞腾上天。天启祥瑞，当进帝位。”

　　延钧大悦，以真封家为“跃龙宫”，自己改名为王鏻，号惠宗，以福建为“闽国”，立国号“大闽”，即皇帝位，纪元为龙启元年。

　　既为皇帝，自然就得封禅。这是秦始皇在山东泰山立下的规矩。于是，又立五庙，封高盖山为西岳，霍童山为东岳。以陈金凤为皇后，到霍童山去举行“封禅”祭天活动。霍童山，又称支提山，在宁德县（宁德立县自始起），为道藏三十六洞天中的“第一洞天”。佛家又称它为“菩萨道场”，极为神圣。

　　不久，陈金凤失宠。新宠是李春燕。先时王延钧为陈金凤盖了宝皇宫，极为华丽。至收李春燕为宫人，又建东华宫为行宫，这新建的东华宫就在长乐山（即现在的东岳岭）。

　　长乐山原名白马山，因闽越时，山间居民梦神人乘白马至此而名之。王延钧因宠爱李春燕，则改长乐山为东岳，并在长乐山东华宫以西建泰山庙，第二次隆重地举行“封禅”。这样，福州的东岳庙因为有王延钧的“封禅”而变得特别神圣起来，甚至可与山东泰山相提并论，称为“东岳祖庙”。

　　东岳建了“泰山庙”后，福建省各地，包括台湾在内，也都先后建“泰山庙”，或称“东岳行宫”、或称“东岳行祠”等，皆由福州东岳岭的“东岳庙”分炉而去，所以同山东泰山的“东岳庙”没有太大关系，只是都以福州“东岳庙”为“东岳祖庙”罢了。

　　王延钧称帝仅三年，闽国发生宫廷政变（935年），王延钧和李春燕皆被杀死。

　　保大五年（947年）福州被吴越钱氏控制，东岳庙祭祀开始兴盛。北宋大中祥符元年（1008年），宋真宗因为正月三日天书降下，所以诏告这天为天庆节。第二年“令天下建天庆观”。

　　淳化五年（1012年），“复令建殿”。淳化六年（1013年）正月，福州将东华宫改为“天庆观”。宋元祐戊辰年（1088年）宫观遭焚，哲宗诏令重修；

　　至元代元贞初年（1295年），天庆观又改为玄妙观（也作元妙观）。元成宗元贞乙未至丁酉年（1295—1297年），改名“东岳庙”。

　　明洪武二十四年（1391年），东岳庙列为福州大寺庙之一。明正德年间（1506-1521年），镇守太监许通重修并拓建后殿，万历二年（1574年）重修，并在东岳庙西边建能仁寺，后面山名东岳岭。明崇祯年间又重修，很成规模。

　　清康熙十年（1671年）再修。清康熙甲申年（1704年）东岳庙全面重建，至乾隆乙丑年（1745年）完竣，历时四十一年。重建的东岳庙占地百余亩，宫殿为重檐九脊顶，琉璃碧瓦，悬身人物、鸟兽、古器、花草、浮雕，争奇斗胜。玉宇金碧辉煌，各殿堂楼院石柱、石碑刻有历代名人对联、碑文；还另建有钟楼鼓亭、前后戏台。

　　庙内有东华宫（玄妙观）、九华宫（能仁寺）、内寝宫（娘娘宫）、天后宫、三宝殿、三清殿、森罗殿、十王殿、大士殿、五司公馆、五府六部公馆、文昌阁、魁星楼、冠御楼、存经库（御书房）、城府、慈善社、迎辉院、东山书院等大小殿堂108间，布局严谨。

　　此外御马园（即放马地方）内建亭台楼阁，树木苍翠，花草芬芳，假山溶洞，湖光山色相映。乾隆五十一年（1786年）又重修，福州著名学者、林则徐的老师郑光策写了《重修福州东岳庙碑记》，今文存碑亡。此后，东岳庙多由聚居东门的旗人管理，并负责修缮。

　　辛亥革命时期，东岳庙的迎辉院和冠御楼成为福州同盟会活动的地方。上世纪20年代，海军总长（福州人）蓝建枢曾为大堂总理，并且重修了富觉亭。

　　1926年12月5日，北伐军东路军进入福州，不久，北伐学生拆除岳庙部分殿宇，经萨镇冰劝阻，得以保存。

　　抗日战争胜利后，闽侯师范迁回福州即于庙里办学。

　　解放后，由于种种历史原因，寺庙被征用改建成学校、粮店（如1954年福州第十中学就从城内学院前迁来此处办学），多座重要建筑被拆毁，珍贵文物散失。

　　东岳庙殿堂1992年被公布为第三批福州市文物保护单位。