说起朝中最嫉恨皇甫嵩的几个人中，自然要属张让和赵忠这两个大宦官。
原来，在去年皇甫嵩率军北上前往冀州征讨张角时，途经邺地，却发现中常侍赵忠在邺地置办的住宅超过了规定。皇甫嵩一怒之下便写奏章上奏皇帝，希望皇帝能将赵忠的住宅予以没收。除此之外外，中常侍张让还派人向皇甫嵩索要五千万钱，皇甫嵩那时自持清高不愿与张让等宦官为伍，面对张让的索贿自然更不肯给。
当年皇甫嵩在黄巾之乱中表现抢眼功劳甚高，张让和赵忠就算是对皇甫嵩怀恨在心，却也难以在其最风光的时候向皇帝刘宏进谗言为难皇甫嵩。
但如今就不一样了。皇甫嵩背负着皇帝刘宏的信任，却在与希腊叛军的交锋中处于劣势。于是赵忠和张让便趁机联起手来，在背地里向皇帝刘宏劾奏皇甫嵩连战无功，耗费钱粮。心情正不爽的刘宏听信了张让和赵忠的谗言后，立刻下旨将皇甫嵩召回洛阳，收回了皇甫嵩的左车骑将军印绶，并将其削夺封户六千。改封都乡侯，食邑二千户。
之前西凉羌胡举兵作乱的消息只在关内和洛阳朝廷内传播，后来皇甫嵩的大军也是直接从冀州调拨而来的外军，除了一部分行走在洛阳地界的商贾察觉到大军调动之外，洛阳的居民也没多少人知道这个消息。
但是当皇甫嵩被召回洛阳，并被皇帝刘宏收回左车骑将军之位和削夺封户六千后，一些为皇甫嵩打抱不平的官员将这个消息传播开来，随之一起传播开的自然是西凉叛军兵犯三辅的消息了。才平定没多少年的凉州地界乱事再起的消息，只用三日时间就传遍了洛阳都城的四下街坊。对于大汉而言，收服凉州之地，不管是上到皇帝，还是下到在洛阳街角讨生活的普通百姓，都是一个极其重大的事情。
原因无他，自大汉武皇帝击破匈奴开辟丝绸之路以后，凉州的战略地位都是极其特殊和重要的。为了能彻底收复凉州地界，大汉朝前后死了几十万人，才把凉州诸多羌蛮纷纷击破或收服。但很可惜的是，因为羌族诸胡与汉人多年厮杀，两族之间的恩怨情仇并不能轻易被抹灭。或是汉人官吏故意刻薄对待羌人，或是羌胡牧民故意去抢夺汉人财产，总之在羌汉杂居的凉州之地，总是会因为一些琐碎之事而引发冲突。而当冲突事件发酵后，便会有羌胡部族借此叛乱。
远的那些羌胡叛乱就暂且不提，单拿二十几年前的那场西羌大叛乱说起。延熹四年（161）六月，零吾、先零等诸种羌起兵叛汉，攻略京兆尹、左冯翊、右扶风。十月，零吾、先零、沈氐、牢姐等羌蛮又合兵进攻并州、凉州，声势甚盛，久已附汉的义从羌人一进皆归附诸羌。
汉廷以皇甫规为中郎将，持节监关西起兵进讨。皇甫规进兵击破诸羌，斩首无数，诸羌畏皇甫规之威，相劝归降者十余万人。次年，沈氏等羌蛮又攻略张掖郡、酒泉郡等地，皇甫规发降汉羌骑进兵陇右，沈氐羌大豪滇昌等十余万人诣皇甫规投降。其年冬，滇那诸羌又起兵叛汉，攻略武威、张掖、酒泉等郡。
延熹六年（163），羌势转盛，凉州尽为羌人所占，不久，陇西太守孙羌率军击破诸羌，斩首三千余人，俘获数万人。其年冬，汉廷以段颍出任护羌校尉，主持羌事。段颖恩威并用分化离间，致使凉州众羌蛮于冬季互相攻伐，死伤惨重。
延熹七年（164）春，羌人封僇、良多、滇那等酋豪三百五十五人畏段颍之名，率三千余落投降，其年冬，段颍进兵击破拒不投降的当煎、勒姐羌，斩其酋豪，斩四千余人，俘获无算。
延熹八年（165）秋，段颍进兵再破勒姐、当煎羌，斩俘近万人，段颍乘势追击，羌人一退再退，饥困败散，退至武威一带。凉州渐至平定。
永康元年（167）正月，先零羌五、六千骑攻略云阳等地，匈奴中郎将张奂进兵将其击破，其年夏，先零羌又进兵三辅，攻破汉军二营、杀千余人。十月，张奂遣司马尹端、董卓进兵合击，大破先零等羌，杀其酋豪，斩俘万余人。张奂因此立有大功，本应封侯，便因其不事宦官，仅赐钱二十万，除张奂家一人为郎，张奂不受。
建宁元年（168）春，灵帝从护羌校尉段颍所请，发骑兵五千、步兵一万、车三千辆，命其讨伐东羌。于是段颍率兵万余人，带十五日粮，从彭阳进军，直指高平，与先零诸羌大战于逢义山。时羌人兵势甚盛，段颍命军士持长镞利刃、张劲弩，又列轻骑于两翼，激励将士说，现离家数千里，进则事可以成功；退则必死，大家努力向前，争取功名。遂身先士卒，大呼冲入敌阵，士卒随后冲击，大败诸羌，斩首八千余级，获牛、马、羊二十八万头。汉廷以破羌之功，拜段颍羌将军，并调金钱、彩物为其军费。
当年夏，段颍再以轻骑追击先零羌，日夜兼行，于奢延水、落川、令鲜水等地连破羌军，随后又与羌军大战于灵武谷，终于大破先零羌，段颍乘胜进军泾阳。于是先零羌基本平定。其残余四千余落，散入汉阳郡山谷之间。
次年七月，段颍继续进军，向散居于汉阳一带的东羌发动进攻，连战连胜，最后将羌人包围于山谷之中，段颍命骑司马田晏、假司马夏育率兵七千，司马张恺率兵三千，分二路乘夜上山袭击羌人，自己率步骑正面进攻，遂大破羌军，斩羌人渠帅以下一万九千余人，获牛马牲畜、帐篷等物