相传老子曾在邙山炼丹，山上建有上清宫以奉祀老子。附近还有道教寺观吕祖庵、下清宫等古建筑。
唐宋时期，每逢重阳佳节，上邙山游览者络绎不绝。唐朝诗人张籍诗云：“人居朝市未解愁，请君暂向北邙游。”
“邙山晚眺”被誉为
“洛阳八景”之一。自古有
“生在苏杭、死葬北邙”的谚语，为我国的历史名山之一。邙山又名北芒，横卧于洛阳北侧，为崤山支脉。
东西绵亘190余公里，海拔250米左右。白居易诗：“北邙冢墓高嵯峨”。
邙山又是古代帝王理想中的埋骨处所。古时树木森列，苍翠如云。登阜远望，伊洛二川之胜，尽收眼底傍晚时分，万家灯火，如同天上繁星。
“邙山晚眺”，被称为
“洛阳八大景”龙门山色、马寺钟声、天津晓月、洛蒲秋风、铜驼暮雨、金谷春晴、邙山晚眺、平泉朝游之一。
邙山古时候原名太白原，北魏郦道元水经注谷水说：“谷水东左会金谷水，水出太白原这里的太白原就是邙山的原名，东南流，历金谷，谓之金谷水。东南流经晋卫尉卿石崇之故居。金谷水又东南流入于谷。谷水又东经金墉城北。”金谷是一条水的名称。
今天的洛阳市还有金谷园路，但是金谷园路的来源是源于附近的金谷园村，和历史上的孟津县送庄镇凤台村西南金谷园遗址不是一个概念。
邙山的西端有仰韶文化遗址，这是新石器时期黄河中游地区人类文明的一个标志。
邙山陵墓群是目前中国面积较大的国家文物保护单位，也是世界上古代陵墓分布较为集中的地区之一。
有东汉、曹魏、西晋、北魏四朝十几个帝王的陵墓及皇族、大臣的陪葬墓，总数在千座以上。
邙山上，大大小小的土包，就是历朝历代帝王将相、达官显贵的墓冢，这，就是邙山古墓群。
邙山，又称北邙，属秦岭崤山余脉中间的一段，横亘在黄河南岸、洛阳城北的黄土丘陵地带，高出黄河、洛河水面约150米。
南北16公里，东西30公里，面积约有500平方公里，地势开阔。
在邙山地表以下515米的土层，渗水率低、粘结性能良好、土壤紧硬密实，最适于安置墓穴。
由于邙山山川绚丽，风光宜人，山虽不高，但土厚水低，宜于殡葬，所以邙山上多古代帝王陵墓，邙山自东汉以来就是洛阳人的墓地。
现存有秦相吕不韦、南朝陈后主、南唐李后主、西晋司马氏、汉光武帝刘秀的原陵、汉献帝陵、唐朝诗人杜甫、大书法家颜真卿、王铎等历代名人之墓。
现在建有中国第一座古墓博物馆洛阳古墓博物馆。东部曹魏、西晋帝陵依山为体，无封土西部东汉、北魏陵区现存地面封土尚有300多座，呈覆斗形或圆锥形，最大者直径在100米以上，高50余米。
已发掘的墓葬中，有用大砖黄肠石垒砌而成，形制巨大也有规模较小的土洞。
出土的大量墓志，内容涉及当时社会的政治、经济、军事、文化、中外交往、民族关系等，为历史研究提供了重要的资料。
相传很久以前，昆仑山上住着一位老道和他的两个小弟子，他们整天在一个仙洞里修行。
一天，老道对两个弟子说：“我要去天外一个朋友那里作客，这口大锅里煮的是从东海抓来的一条蟒，锅下面要不时架上柴禾烧，锅内要不时地加水，千万记住！”说完骑鹤而去。
这样，两弟子就天天给锅下架柴，锅内加水。一晃几百年过去了，师傅还没有回来，两个小弟子有点急了。
一天，一个对另一个说：“师傅不知几百年后才回来，我俩何不下山一玩呢？”另一个也早有此意。
于是，俩人把火生得旺旺的，锅里添满了水就下山去了。一路上他们玩得开心，但总放心不下师傅交待的事，于是就在一家酒店买了些酒肉匆忙赶回。
可是，火早已熄灭了，水也被黄蟒喝干了，只见那一条黄蟒正向东海方向逃去，所走过的地方留下了一条黄水道。
他俩慌忙沿着黄水道追去。黄蟒发现了他们，急忙改道向北面奔去。他俩赶忙抄近路去截，蟒一见乱拐一阵，又向东海奔去了。
这条蟒拐弯留下的水道，就是今天的九曲黄河。再说师傅回到仙洞，一看锅底火已熄灭多时，锅里黄蟒不在了。
连叫小弟子也不应声，什么都明白了。他大叫道：“两个小畜牲放走了孽蟒，使它又要祸害人间了。”立即骑鹤追去。
两个小弟子追到天黑，眼看着蟒逃进了东海，正想休息，老师傅骑鹤赶到。
大喝一声：“畜牲！你俩使黄蟒给人间留下了灾害，那你俩就永远守住这水道吧！”说完，两个小弟子便变成了两座山，永远守在这水道的两边，人们就把这条黄蟒留下的黄水道叫黄河，把两个小弟子变成的山叫追蟒山。
后来，黄河南岸的人们觉得追蟒山不好听，就改叫邙山，一直沿用到现在。
543年，两魏第四次大战邙山大战揭开序幕。此次战争的导火索是由于高敖曹的哥哥高仲密以北豫州投降西魏引起。
而更深入的原因，则是由于高欢的儿子高澄贪色引发。高澄十四岁时就因与其父的宠妾郑氏通奸，差点被高欢杀掉，经司马子如从中周旋，杀掉首告的奴婢灭口，父子才重新和好。
后来，高澄又看高仲密美丽的妻子李氏，一见面就扑上去乱扯衣带想要。
李氏不从，衣带尽裂，脱身后向高仲密哭诉。恰值高仲密即将外放为北豫州刺史，惊惧气恼之下，一到任上就向西魏投降，东魏的战略要地虎牢关落入西魏之手。
宇文泰亲师诸军接应高仲密，军至洛阳，包围河桥南城。高欢也亲自将兵十万，自黄河北岸渡河，据邙山为阵，数日不战。