黄巾之乱之后，其中最大的功臣便是这皇甫嵩了，朝廷任皇甫嵩为左车骑将军，领冀州刺史，并晋封他为槐里侯，食槐里、美阳两县的租税，食邑共八千户。另外皇甫嵩奏请免除冀州一年田租，用来赡养饥民，汉灵帝刘宏也听从了他的建议。史载百姓作歌说：“天下大乱兮市为墟，母不保子兮妻失夫，赖得皇甫兮复安居。”

当时朝政日非，海内空虚。汉阳人阎忠劝他把握机会，南面称制。皇甫嵩忠贞，不用其计。

当可是好景不长，当初皇甫嵩征讨张角的时候，途经邺地，发现中常侍赵忠住宅超过了规定，便上奏皇帝予以没收。另外，中常侍张让向他索要五千万钱，他不肯给。于是赵忠和张让联起手来，劾奏皇甫嵩连战无功，耗费钱粮。灵帝听信谗言，召回皇甫嵩，收回他的左车骑将军印绶，削夺封户六千。改封都乡侯，食邑二千户。

而从中平元年末尾到二年三月短短的时间内，凉州战乱，入寇三辅，朝廷节节败退，实在没有办法了，这才又想到皇甫嵩。

何为三辅？即为京兆尹、左冯翊、右扶风三地，乃是整个司隶的左半边，更甚一步，中平二年春天，叛军已达数万人，进军汉故都长安。凉州叛乱都快打到长安脚下了，这才把汉灵帝从玩乐之中唤醒出来。

长安是什么地方，那可是大名鼎鼎的西汉都城，光武皇帝刘秀建立东汉之后，才将都城改到了洛阳，但长安也是重中之重，亦有“西都”一说。不仅地理位置重要，长安之中还有不少先皇陵墓，如此重要的地方岂能被贼寇占据。

中平二年三月，朝中复任皇甫嵩为左车骑将军，防御长安。朝中政命朝令夕改，由此可见一斑。

当时的中州大地刚刚结束了黄巾起义，哪里还有多余的钱粮去应对这凉州之乱，不过虽然巧妇难为无米之炊，但是中正的皇甫嵩还是带领着一大帮子剩兵残勇，前赴长安，展开毕生力气与凉州乱贼周旋在长安之外，一面仗着长安城坚，一面仗着皇甫嵩用计如神，这才堪堪止住了凉州乱贼的前进之路。

可是屋漏便逢连夜雨，四个月后，朝中宦官又弹劾皇甫嵩种种不当之处，说道皇甫嵩因为先前削夺封户，心中不快因此懈怠军机，这才迟迟未能平定凉州之乱。

宦官说话说的还真是有理有据，当初黄巾之乱祸起八州，声势浩大，皇甫嵩尚且能在短时间就有所建功，而如今凉州之乱不过一州，皇甫嵩怎么还与凉州乱贼僵持数月于长安，寸土未进，这又是何道理？皇甫嵩必然是心中生了别的想法。

功高盖主啊！自古以来便是帝王心中最忌讳的东西，汉灵帝哪里听得了这个，急忙撤下了皇甫嵩，该由司空张温接任，朝中大臣死劝不住。