再说回陇上，去岁九月，吕布在金城之下大败，一日之间损失过万。后在韩遂率军追击之下，接连失地，过去两年中夺得武威南部诸县尽数丢失，麾下招揽的诸多勇士都在雪地内相继死亡，不得不败退回灵州之中。
此次大战对陇上影响甚大，凉州羌人本以为吕布已稳操胜券，多有投靠。孰料韩遂却能另施巧计，将局势扭转。结果就是他们顺风而倒，原本才刚刚往东定居，歇不过几日，如今便又纷纷离散往西，再投韩遂去了。
这令吕布大为恼火，他生平除去高陵之战外，从未遭遇如此大败。而战败的理由又是自己误信刘雄鸣，将奸贼引为心腹，这份经历令他倍感耻辱。以至于在凉州发布赏格说，能献上刘雄鸣头颅的，可得千金，献上姜正头颅的，可得五百金，以此来宣泄胸中羞怒。但既然已经战败，如此行为也不过是增加笑料而已。
如此情形下，吕布派遣张昶向朝廷求援，希望朝中再次能够拨派援军与钱粮。陈冲得闻后，立刻从董承军中抽调万人北上，又安排卫固在河东一带募兵，直至炎兴六年三月，募得万余人，也尽数送入北地郡内。加之吕布在这半年间，厚金扩军，又约得万人，以致于麾下约有雄兵六万，更胜金城战前。
吕布如此穷兵黩武，所为自然是雪耻复仇。但令他意想不到的是，在三月十九，韩遂竟派出使者，前来与吕布说道：“欲与将军各提五万兵马，于逢义山前一决雌雄。”言辞态度甚是轻蔑，这令吕布大怒，当众用马鞭抽打使者双面，呵斥道：“韩遂何等小人，也敢与我比试高低？若非小人奸计，韩贼早是枯骨！”
孰料使者口含血沫，仍旧笑道：“将军如此说来，是不敢与韩公一战咯？我本以为将军乃是北疆英雄，现在一见，原来是守户之犬耳！”
吕布受此一激，勃然大怒，当众抽出短刀，挥手割下使者的鼻子，看使者在身下捂脸哀嚎，他再呵斥道：“小人胆敢出此言！我吕布堂堂伟丈夫，五原铁骑士，麾下十万雄兵，怎会受辱于韩遂？你回去告诉韩遂，若是真男子，就勿要食言！”如此应下了韩遂的邀约。
于是吕布尽起治下六万余众，只留下五千兵马镇守富平，继而再次举兵南下，以赴韩遂之约。
约战的地点逢义山，位于高平城西北约五十里处，处于六盘山的余脉，丘陵起伏，沟壑纵横，并非是耕种的沃土。但这片高原俯瞰着整片高平盆地，一旦有人马自此通行，无论是向南向北，均要受其威胁，可谓是安定郡中的军事重地。
建宁元年（公元168年）春，护羌校尉段颎便是在此山下与先零诸种羌大战，大获全胜，继而赐予破羌将军之名，今人从此经过，至今还能看到前人战场的遗迹，石中马骨，草下锈剑，不得不追思前人的武功盛事。
而吕布于去年在山下招揽羌人，砌墙筑堡，已将此地囊入治下，对安定杨秋取得了极大的优势。而韩遂在此地与吕布约战，显然是做着一战收复失地，彻底将吕布封堵在北地的打算。但若吕布获胜，高平盆地将易手，金城战败的影响也会随之消散，吕布将重新占据陇上的主动。
故而两军皆不敢不严阵以待。
四月初六，吕布率众自石峡口登山，沿着一条名叫白羊水的小河流溯流而上。州府的骑兵在小河边的平地上排起了长队，人和战马在山崖下仿佛蚂蚁，而他们驮运的铁甲，正在阳光下闪着光。静悄悄的水流就在他们脚下，又很快消失在跌宕的山道里。雨季尚未到来，河道大部分地方仍旧干涸，有水的地方漂泊着些许杂草来回，如同水上浮云，遮盖住了涟漪的波光，时而交叉纠缠，时而汇合或分开，向下绵延而去。
吕布望着前方怔怔出神。南面再走三十里，就能抵达逢义山堡了，两边都是大片吐绿的树林，林子后面的山脉渐次抬高，而在山脉的后面还有一道淡淡的山影，直至天迹。偶尔林间有一片黑点在晃动，好像树叶随风飘一样。在前的斥候说：“那是乌鸦。山南坡有一大片柿子林，羌人离开后，乌鸦就在那里安了家。”
吕布想：“韩遂现在在哪儿呢？”
虽然吕布自认为野战必胜，但凉人在金城一战的用计着实令他印象深刻，事后回想，吕布也不得不为谋划之大胆而感叹。故而此次约战，他分外小心，一路上前后斥候不断，唯恐敌军又设奇计。
从南边高平回来的侦骑说，高平城中陆续有兵卒聚集。显然，凉军各部是正在自鸡头、薄落谷小道往高平城聚集，目前城中约有两万人，预计还有一旬，他们才能尽数到来，前来会战。
吕布闻言，心底的紧张稍释，但他转念又想，会不会是他们诱我来此，再在北边河水断我归路？于是又打起精神，等待后方斥候的汇报。直到两日后，吕布率军抵达逢义山下，后方无事的消息传来，他才又吐了一口气。
逢义堡不大，只能容纳约七千人在堡中生活。于是吕布便派典兵从事曹豹率先头骑兵至高原东南角的苋麻河，监视高平凉人们的动向，自己则率大部，在逢义堡南五里的马营水驻扎下来。羌人在这里筑有山营，能容纳军官在这里住宿，但大部分军人马匹都只能自己寻找山崖，在其中露宿。晚上狂风从西北边吹过来，帐外的厚盾都仆仆作响。新卒们听着这些声音，便开始怀念温暖的酒肆之夜。
出发前，吕布给灵州的每名士卒都发了一壶滚烫的好酒，还请了一些羌女在军中轻歌曼舞。这幅景象深深地烙在大众脑海中，河东子弟更是如此，他们不能入睡，整夜地思念家乡。军士议论说：“奋武将军要是想起斋戒修行的妻妾，想必更加难以入睡。”
原来在临行之前，吕布的美姬王貂蝉在灵州举行了斋僧大会，一连请了近百名天竺高僧，为出征将士求福。貂蝉已信佛多载，她问自贵霜来的高僧支度迦罗，如何能保佑将士平安归来。支度迦罗说：“只要发愿舍身，行八关斋戒，每日清晨沐浴、焚香、更新衣，口含旃檀，烧香悬幡，日念观世音经不止，则可保一切平安。”貂蝉于是在府中立佛金身，脱去丝织衣裙，换上清补法衣，舍身修行祈福。临行前，貂蝉对吕布说：“夫君归来之日，便是妾身出阁之时。”如今这漫漫长夜，想必她仍在祝愿远去将士得胜吧。
如此又过了七日，高平的凉军仍在汇合，迟迟没有北上约战的意思。这让吕布等的颇为不耐，以至于在四月十五、十六两日，接连派了三次使者前去约战，询问他们打算何时赴约。
使者都见到了韩遂，他高坐席上，却语焉不详，一会儿说五日后便可一战，一会儿说尚不知时日，先请使者回去。这些举动令吕布迷惑不解，部下中有人说，或许是将军行军谨慎，韩遂见无机可趁，心中已然怕了，又有人说，或许是韩遂故技重施，一边令我们松懈，然而再忽出奇兵。
这时张辽献计说：“将军，我愿去高平，观察敌营虚实，若敌为实，则我军可战，若敌为虚，则其必有诈计，我军当撤回河水，先夺回失地。”
张辽是吕布军中屈指可数的猛将，但更为难得的是，张辽在上阵厮杀之余，观察极为细腻，常常能察觉出敌阵变动之中的疏漏与破绽，故而往往能批亢捣虚，一击而取奇效。吕布正犹豫间，听闻张辽敢冒奇险，大为欢喜，与张辽握掌笑道：“好兄弟，若真能得其虚实，此战你功劳第一！”
张辽由是南下高平。高平城北便是凉军大营，张辽路过时，细细观察周遭布置，发觉凉军营垒分散，兵员多老弱。即便如此，粗粗算下来，恐怕城前凉人只有两万出头，这令张辽狐疑不已。转而面见韩遂，再问其何时挑战，韩遂仍旧含糊其辞，这更令张辽警觉。
因此出城之后，张辽并未立刻回军，而是藏于高平城东北的一处山林里，观察城中情形。就在半夜明月高照，间或蝉鸣的时候，张辽忽闻南边声声鸦叫，一群乌鸦在大道的荫林间飞了起来，在其下，可见如龙的黑影在缓缓出城，估计约有三千余人。而到了次日辰时，城外又有一行人大张旗鼓，奏号凯歌而来，缓缓进入城内。
张辽顿时了然，向吕布通报说，高平城中并无大军，韩遂所谓约战，估计是想牵制我军于此地，真正意图恐怕另在他处。且过不了两日，北面的斥候来报说，大河北岸似有人员往来，吕布顿时确信，在高平的只是疑兵。于是他立刻召回曹性，打算率部返回河水，先夺回颤阴渡。
四月二十日，吕布正欲拔营而行，高平凉军忽然出城北上，出现在苋麻河前，吕布便移军转向，与凉军隔河对峙。凉军见其有接战之意，便又缓缓退军，似只有牵制之意，并不敢于吕布野战。
吕布对高平为偏师的意图更为确信，以其必为虚军，无胆决战。故而待其退走后，吕布令军中各部暂时歇息，明日再行撤军。自己则卸甲饮食，早入梦乡，孰料睡梦之中，忽为一阵嘈杂的喊杀声惊醒。
他匆忙走出大营，只见南营已纵起大火，不少骑着快马的骑士，正在州府士卒间大肆砍杀，嚎叫与哀鸣此起彼伏，夹杂着箭雨在风中的破空之声。
原来，贾诩在高平设有两座大营，一座堂而皇之地置于城北，令军中老弱者驻扎其中，另一座则置于城南的弓背梁里，乃是凉军精锐所在。如此一明一暗，张辽只知其一不知其二，还道凉军在北面另有奇兵，实则凉人从设计之初，就打算倾力决战。
在白日里最后一次向吕布示弱后，韩遂领兵夜袭逢义堡，马腾、成公英等部直摧南营，继而一举击破吕布营垒。吕布自知必败，只能领数百陷阵营仓皇北逃。
至此一战，吕布军中死伤无数，被俘无算，能回到灵州的不超过四千人，关中也为之大震。吕布陇上五年之辛苦经营，可谓一夜尽毁。