庐山，亦名匡山、匡庐，此外还有辅山(敷山)、敷浅原、天子都、天子障、南障山等名称。因山岳的地理位置和形状而命名。“庐山”之名始见于《史记·河渠书》。书中有“太史公曰，余南登庐山，观禹疏九江”之记载。庐山位于江西省北部，北临长江与九江相接，东南濒鄱阳湖与星子相邻。东西大约宽20余里，南北大约长50里，层峦叠嶂，有山多重，周围绵亘约5百余里，奇峰峻岭大约有90余座。峻峰奇岭千姿百态，形状各异，“横看成岭侧成峰，远近高低各不同”。庐山风景胜绝，有“匡庐奇秀甲天下山”之赞誉。加上山上水源丰富，气候宜人，还有丰富多彩、令人神往的美丽传说，使之成为驰名中外的游览避暑胜地。因此，自古以来就有许许多多的文人墨客、高士逸民、先贤往哲和高僧名道等被吸引而云集庐山，从而既造就了庐山浓重的文化、学术氛围，又形成“道释同尊”的局面，给庐山笼罩玄虚、神奇的光环。庐山既是文化名山，亦是宗教名山；既是佛教名山，亦是道教名山。道家列庐山洞为第八小洞天，称“仙灵咏真之天”，列庐山虎溪山为第四十七福地。
历来传说庐山乃“神仙之庐”。据周景式《庐山记》记载，西周威烈王时(公元前四世纪)，有一个“生而神灵”名叫匡俗(续)的人，为躲避朝廷的征聘，曾隐居在庐山的深谷老林中，求仙学道，“时人敬事之”。后来，有的神仙家将庐山得名依附于匡俗。庐山很早以来便是神仙方士活动的重要场所，据说方辅和越庐君兄弟7人也在庐山得道成仙。自秦始皇三十七年即公元前210年，秦始皇和西汉元封五年(公元前106年)汉武帝巡视南方各地，到达荆楚一带，“浮江而下”，路过庐山，虔诚祭祀庐山后，庐山作为“神仙之庐”的名声更显，地位更崇了。据说当年二位帝王都曾兴致勃勃登上上霄峰和紫霄峰，勒石纪念，汉武帝甚至还给匡俗以“大明公”的封号。自此以后，道教在庐山逐渐兴盛起来。
三国时或曰六朝时，福建著名道士董奉，字君异，由南中经南昌来庐山隐居。董奉医术高超，时时为人治病，药到病除，极为见效。治病不收取医药费，只要求重病愈者，栽杏5株；轻病愈者，种杏1株。然后，以杏易谷，周济贫苦百姓，传为“杏林佳话”，在历史上流传很广，产生很大的影响。董奉精于内外丹功，擅长使用丹符。在山期间，董奉筑董奉馆(亦名董奉真人坛)和太乙观，开展斋醮占卜之类道术以宣演道教。董奉逝世后，其影响越来越大，到宣和二年(1118)，宋徽宗为张扬道教，追封董奉为“升元真人”。
南朝宋大明五年(461)，周游四方布道的陆修静来到庐山，爱匡阜之胜，建太虚观，研经传道授徒长达7年之久。7年当中，陆修静采炼丹药，收徒布道，并致力于太虚观的拓置和扩建，最终使之成为一座规模宏伟、造型别致的名观。陆修静在太虚观最重大的活动便是建置道藏阁。据传，阁中珍藏有宋明帝御赐的道家经书、药方和符图1200卷，“龙箧贮之”，相当贵重精美，是当时全国最大的道教经库。陆修静在阁中遨游于道家经籍，潜心于道教理论研究，获得渊博道学，为日后编辑《道藏》和创立道教仪式奠定坚实的基础。陆去世后，朝廷追谥“简寂先生”之号，太虚观故更名为简寂观。简寂观在唐以前一直是庐山道教最重要的宫观和最大的道教修炼场，鼎盛时住有道人多达五、六百人，香火称极盛。唐宋时期，影响仍在，出现许坚、钱朗、孙晟、郗法遵等高道，先后长居简寂观，与朝廷官府保持着较密切的联系，身负高深道学和丹功。鼎盛时期的简寂观在朝廷的格外恩宠下，不仅赫然成为庐山道教中心和南天师道最著名的道观，而且极大地促进了庐山道教的发展。康王观、崇善观、咏真观、昭德观、白鹤观、广福观、太平宫等道观如雨后春笋般崛起，互相呼应，鼎力相持，与庐山佛教势力分庭抗礼，创造出“释道同尊”的局面。
唐代，大名鼎鼎的“神仙”吕洞宾，亦得道于庐山，扬名于庐山。吕洞宾足迹遍及庐山南北，游览了太平宫、归宗寺、简寂观等山中胜迹，留下了大量诗作。相传，吕洞宾在庐山遇钟离权，经过“十试”考验，得延命之术、金液大丹之功和天遁剑法。以后剑不离手，长期在仙人洞修炼剑术和保寿延年之术，活到一百多岁，仍鹤发童颜，并终于磨炼出一套高超的剑术，被后人誉为“剑仙”。又传吕洞宾凭借“起死回生”之医术，奔波于山上山下为人治病，不取报酬，被山民交口称誉为“不为良相，便为良医”的活神仙。吕洞宾长期在庐山活动，奇闻逸事随在皆是，名声远播。唐太尉曹勋和庐山清虚道人“采其事实以闻于德寿殿，连唐高宗也深深折服，甚嗟异之”。吕洞宾因此更是身价百倍，俨然成为道教一代祖师，“天生一个仙人洞”也籍此而成为千人顶礼，万人膜拜的道教胜地。
当时，慕名到庐山求仙学道，成为一种时尚。唐代大诗人李白，自号青莲居士，从开元十四年(726)起，先后5次上庐山，遍历山中胜景，同时寻仙访道，进行为道实践，留下多首脍炙人口的诗作。李白不仅自己追慕神仙之迹，从事炼丹修道活动，而且鼓励和支持全家如此：“拙妻好乘鸾，娇女爱飞鹤，提携访神仙，从此炼金骨。”李白几上庐山，都携妻同游，求神访道。这在《送内寻庐山女道士李腾空二首》一诗中有真实反映：“君寻腾空去，应到碧山家。水舂云田碓，风扫石楠花。若恋幽居好，相邀弄紫霞”。“羡君相门女，学道爱神仙。素手掬青霭，罗衣曳紫烟。一往屏风叠，乘鸾着玉鞭。”诗中“相门女”系指唐玄宗时期以“口蜜腹剑”著名的奸相李林甫的女儿——李腾空，也就是李白夫人所要寻找的女道士。李腾空与蔡侍郎之女蔡寻真结伴到庐山学道，李居屏风叠之北，蔡居屏风叠之南，并以丹药为人治病。每逢道教的三元八节，二人相聚咏真洞，共研道教经籍，开坛讲道，声名显著。
唐代，庐山高道还有被誉为庐山道教宫观风景第一的白鹤观住持——刘混成。在白鹤观期间，刘混成主要从事外丹修炼，同时兼研道学，常“口诵黄庭两卷经”，颇有些名声。晚年，离开心血所系的白鹤观，辞别朝夕相处的弟子，孤身登上五老峰，在木瓜洞栖隐下来。在木瓜洞，刘混成摒弃尘扰，超然物外，息心修道，潜心炼丹，以种木瓜为食，名气很大，洞因之而名。刘混成所创建的白鹤观，不仅景色优美而成为庐山第一佳境，而且唐宋两代其在庐山道观中的地位较为显赫。苏轼、苏辙、陈抟等都曾来观游历礼拜，并在诗文中反映了“时传丹录千年术，只诵黄庭两卷经”的盛况。白鹤观直到清末，时有兴衰。
庐山道观遗址宋代，庐山道教更加兴盛。太平宫是当时庐山规模最大、最负盛名的道观，被誉为道教“咏真第八洞天”。太平宫最早的前身，是唐玄宗在庐山敕建的使者庙。南唐三位国主素来笃信道教，坚信长生不老，李异甚至因此而命丧黄泉。在不长的统治时间里，李异等对庐山使者庙格外恩宠，“常遣宦官祭庐山”，并改庙曰通玄府。人宋后，庙达到了历史上最为鼎盛时期，庙之名号和规格一再升级。宋太宗太平兴国中(976～984)，诏令庙以纪元易名为太平兴国观；熙宁中(1068～1077)宋神宗又命于观中置祠官；及宣和六年(1124)，徽宗又升观为宫，正式名为太平宫。时太平宫“崇轩华构，弥山架壑”，气宇轩昂，壮丽宏伟。宫田散置旁县36区，“侈盛无加”。道侣“常三数千人”，一般也在500人左右，涌现出刘虚谷、黄知微、白玉蟾等一大批道学精深，才识俱佳的道士。白玉蟾，南宋道士，又名葛长庚，字如晦，又字白叟，号海琼子。白玉蟾为道以来，浪游四方，飘忽不定。白氏久闻庐山乃仙灵咏真洞天、虎溪福地，追慕晋代钟离权和唐代吕洞宾栖隐庐山修道成仙之举，遂常到庐山各道院游观驻锡，礼祖宣道。据(太平宫志)载，白玉蟾在宫中炼丹，安心修道，大有收获，最终成为丹功派南五祖之一。以后再传弟子、元初道士李道纯将南北宗合流，称道全真，盛极一时。
宋代庐山还出了一个道教医学家皇甫坦。宋高宗绍兴年间(1131-1149)，显仁皇太后患目疾，宫中御医几治无效，“坦以嘘呵布气，目即愈”。之后皇甫坦又为仙韶甄娘治好了瘸腿。由此倍受朝廷器重。为了召对方便，皇甫坦由四川青城山移居庐山。高宗为其筑室，赐御书名其所曰“清虚庵”，“诏绘坦像，御赞之”。清虚庵因为御赐而颇具规模。焕文阁、清虚堂置其间，依山造势，宏丽状观。堂阁中收藏着高宗及后几代皇帝御赐的《黄庭经》、《道德经》和《阴符经》等道教经籍、宸翰题榜、御赐绘像和赞文，满壁生辉，富丽堂皇。皇甫坦在清虚观，注意内外丹修炼，有所成就，“善布气”。据说，皇甫坦常“宴坐不寐”。久之，两足外踝皆平偃，顶有珠光莹莹。由于皇甫坦与宋几代皇帝来往密切，所以道徒闻风归附，以沾荣耀，使清虚庵一度名震江南，成为庐山著名道观之一。
明末清初高道石和阳追刘混成遗踪，重开木瓜洞，使其变成了一组错落有致、清幽雅静的庭院式建筑——木瓜洞道院，洞名更响。石和阳以道院为基地，守真抱朴，不改其素，点砂烧丹，吐纳运化，收徒传道，不以遗力。石和阳在山数十载，致力于道教理论的研究和诠释，先后注解《黄庭经》、《虚静经》、《阴符经》等经籍；撰《指元篇》、《三洞元章》、《心经》等有关道教的论著。在这些注论里，石和阳提出一系列新见解和新观点，对后世道教的理论和实践产生很大影响，“至今究心理学之士，犹乐得而称道之。”石和阳身后，弟子尹诚斋承其衣钵，继续经营木瓜洞道院，使之仍保持着相当大的影响力，其后逐渐冷寂。
清代以来，庐山道教随着整个道教的渐趋衰落而衰落。因为天灾和人祸，山中许多著名道观破败不堪，无法修复；道士无有栖身之所，只好别寻生路。到“文化大革命”之时(1966—1976)，庐山道教几乎是荡然无存。1978年中共十一届三中全会实行改革开放，落实党的宗教政策以来，庐山仙人洞得到一定程度的修复，道教在庐山再度中兴。