吉林市道教玄帝观始建于1738年（乾隆三年），坐落在吉林市北极门外的玄天岭，是吉林市历史上建造最早的道教宫观。同时，由于该观建筑新颖、奇特、别具一格，其中悬梁吊柱在清代就被列为著名的吉林八景之一。
据史料记载，1727年（清雍正五年），道教廉毓礼道长从山东云游至此，看到大火频频光顾船厂后的惨景，故决定在玄天岭结草为庵，修建玄帝观，以请水神玄武大帝到古船厂，保佑古城人民不着火患。经廉道长八年的艰辛努力，终于在1738年（乾隆三年）建成玄帝观，又称真武庙。1967年文革中被拆毁。
2005年由陈崇真道长、马高平道长等联名提出申请，经省、市政府批准，同意在玄天岭设置、复建玄帝观。并于2006年8月19日举行了“玄帝观复建奠基庆典大会”。
2018年8月，正值北武当玄帝观建观280周年，复建12周年，玄帝观举行隆重的陈崇真方丈升座庆典。
