云台观位于华阴市玉泉路北段，南距华山峪口约一公里。据《南轩记》载：“古明堂地，老子之徒始占为观。”古代帝王来华山巡狩祭天，由于山高路险，所以无法登山时都要到这里看一看 。云台观始建于魏晋时代，占地面积500余亩。历史上这里曾是道教的重要活动场所。
魏晋南北朝时期，有一位名叫焦道广的道士居住在华山云台峰上，即北峰上。传说他 已修炼成“避粒餐霞”之术。人间吉凶，天下大事，他全都知道，常有三青鸟报幽然之事。后来北周武帝宇文邕听说此人，为求长生不老，随即下旨求其仙术，并亲自来到华山。由于那时山路行走极为不便，于是在山外划地五百亩，大兴土木，为焦道广建造道观 ，“以便延问其仙术之异。”建成后，焦道广便由云台峰移居于此。北周武帝赐“云台”，此地如此得宠，是老子以来从未有过之事。四方之士，有钱出钱， 有物出物，有力出力，逐渐扩大了观内的建设规模”。
宋初的陈抟也在此居住过。陈抟字图南，号扶摇子，宋太宗赵匡义赐号希夷，安徽亳州人。他“读经史百家之 言，一见成诵，悉无遗忘，顾以诗名。后唐长兴中，举进士不第，遂不求禄仕，以山水为乐 。”起初，陈抟隐居武当山，后来到华山。在云台观居住达40多年，并著有《三峰寓 言》、《钓潭集》、《无极图》和诗600余首。
明末清初，昆山顾炎武为抗清复明奔波一生，晚年隐居华阴潜村王宏撰家。经过反复商定，于康熙二十年（公元1681 年），在云台观内修建了朱子祠。朱子虽未到过这里，因为陕西当时已沦为金朝统治之地。 但朱子确在南宋淳熙年间受过主管云台之命，并且自称是“云台真逸”、“ 云台外史”。修建朱子祠旨在“国家尊经重道，必以朱子为师”，“ 关中多事之秋”，“即以举旷典、振儒风为己任”；“五岳之怀，留连斯士”。他们虽然老了，但仍然念念不忘复明，对清初的统治极为不满，决心以兴朱子祠、办讲堂、来振儒风。朱子祠建成后顾炎武就移居祠中。并为祠中殿题联：慨声教之未加，一统神州，有待百年之治；赌威仪之如在，重开圣学，无惭三代之英。”
云台观院墙基本为正方形，建有三门，门上均有房屋，建筑形式类同城墙。里边有十几个 小院，建筑都非常雄伟，主要建筑有无量殿、三官殿、六师殿、玉皇殿、陈师庵、西岳殿、 寝宫、道舍、希夷亭、北斗宫、三清殿、文昌阁、焦仙洞、朱公祠等三十余座。
云台观在宋朝时期非常昌盛，但到明朝则毁于战火，虽经多次重修，但规模缩小。清乾隆十 六年（公元1751年），华阴知县姚运翻，开始在这里建起了“云台书院”， 修校舍３２楹。从此，这里便成为华阴县的学府。解放前改为“云台中学”，解 放后叫“华山中学”。如今惟一存下来的晋武帝太康八年公元287年华阴太守魏君实所植的晋柏一棵，另外还有奇石一块，八仙井一口，人称一柏一石一眼井。
