而，凉州兵是董卓的嫡系部队，战斗力强，而且对董卓最忠心。董卓死后，如何处置凉州兵，是关系王允本人和东汉政权的大事。王允企图削夺凉州兵将领的兵权，取缔全部凉州兵，并且计划利用关东兵去控制他们。可是后来有人对王允说：“凉州兵素来害怕袁绍，畏惧关东兵，而今，如果派关东兵去解散他们，凉州兵人人都会担心性命不保，这样，很容易引起兵变和混乱。还不如任命皇甫嵩（字义真）为将军，去担任凉州兵的统帅，并让他长期留在那儿，以便安抚军心。”王允坚决反对：“这样绝对不行，关东兵是反董卓的义兵，与我们是同一条路线，现在董卓已死，如果继续把他们屯驻在险恶之地，虽然安抚了凉州兵，但是关东兵将领会疑心我们不重视他们。”
凉州百姓听到王允想解散凉州兵的王允要杀掉所有凉州人，一时之间，整个凉州人心惶惶，一片惊慌。凉州兵将领本来就成了惊弓之鸟，对自己的前途深感忧虑，当他们得知王允要削夺他们的军权，解散凉州兵的消息后，更是惊慌。
此时董卓被杀，牛辅亦已死去，王允清算董卓余党。当时李傕、郭汜等人心怀不安，都打算各自逃亡，贾诩出面阻止了他们，说：“听闻长安城中正在商议着打算把凉州人斩尽杀绝，而诸位阁下抛弃属众独行，一个亭长就能把你们抓住。不如带领部队向西，沿途收敛士兵，再进攻长安，为董公报仇，如果能够幸运地成功，尊奉国家（的命令）征服天下，如果不能成功，再逃走也不迟。”此计为众人采纳。绝望的凉州兵寻思：反正是一死，不如死个痛快。于是他们迅速召集军队，严阵以待，准备见机起事。
随后李傕和郭汜等人将所有凉州兵集合起来，誓师进发都城长安。于是李傕等散发“王允欲洗荡此方之人”的流言，到处说：“朝廷不赦免我们，我们应当拼死作战。如果攻克长安，则可以得到天下；攻不下，则抢夺三辅的妇女财物，西归故乡，还可以保命。”部下纷纷响应，于是同郭汜、张济等人结盟，率军几千人，日夜兼程，攻向长安。及至长安城下，已聚合十余万之众。
王允听说后，派董卓旧部将领胡轸、徐荣在新丰迎击李傕、郭汜。结果徐荣战死，胡轸率部投降。李傕与樊稠、李蒙等围攻长安城，因城防坚固攻而不克。后由城内叛变士兵引导凉州军入城，与守将吕布展开巷战，吕布兵败，仅率百余骑出逃。李傕等纵兵掳掠，吏民死者万余人，尸积满道。太常种佛、大鸿胪周奂、城门校尉崔烈、越骑校尉王颀等被杀。
吕布慌忙领兵出逃时，在青锁门停住，招呼王允一同逃走。王允断然拒绝，对吕布说：“如果天子祖先在天有灵，能赐福社稷，保佑我们的国家平安事，我就心满意足了。如果这一愿不能实现，我愿意献出自己的生命，以死来报效朝廷。皇上年纪幼小，少不更事，只能靠我们来辅助他。国家遭受如此灾难，如果弃下皇上，只顾自己逃命，我实在是不忍心。况且，我身为宰相，不仅不能使国家平安事，反而导致逆贼的反叛，我的责任重大啊！请你出城以后，多多鼓励关东豪杰，要常常念及皇上！”说完，便扶着献帝逃到宣平城楼。
李傕、郭汜追到宣平门下，叩头便拜。汉献帝壮起胆子询问道：“你们目王法，作乱京城，到底打算作什么？”李傕回答说：“董太师对陛下忠心耿耿，却缘故遭人杀害，我们只想替太师讨回公道，不敢造反。等到捉拿处决凶手后，我们愿意接受审判。”王允二话没说，向汉献帝行了最后的君臣大礼，便随士兵走下了城楼，李傕、郭汜命令手下当场将王允处决。
随后，李傕等拥兵至南宫掖门，威逼献帝，封李傕为扬武将军、郭汜为扬烈将军、樊稠为中郎将。李傕又杀司棣校尉黄琬、左冯翊宋翼、右扶风王宏等人。一时间，京城腥风血雨，朝野大乱。
在初平三年（192年）九月，又进封李傕为车骑将军、开府、领司隶校尉、假节、池阳侯，郭汜为后将军、美阳侯，樊稠为右将军、万年侯。张济被封为镇东将军、平阳侯，外出屯驻在弘农。以贾诩为左冯翊。自此长安和朝政已经掌控在李傕和郭汜的手中！[