当时的雁门守将本是陈孝意，此人原是效忠杨隋朝廷的郡丞，后来李渊起兵自立他便改从李唐，得知刘武周兵势汹汹而来，陈孝意与麾下副将王智辩商议之后觉得死守关城未必能胜，不如派出手中的机动力量去袭击刘武周的补给线，使其自乱则兵危自解。

而后，便也通过军中斥候探得刘武周的后军辎重部队才走在桑乾镇（今山西山阴南，距离马邑不足百里），便选择漏夜出兵三千精骑，计划袭营。

谁知道刘武周这个家伙虽然家世上不得台面，但他毕竟也是随同杨广玩过三把东征高丽的军中将领，竟然预先料到了此战的先机，早早就安排了突厥骑兵埋伏在四周，结果就是王智辩兵败被杀，陈孝意领残兵奔还雁门。

后刘武周兵陈雁门关下，连对峙带攻城二十余日，这期间陈孝意虽然向李渊发出过求援，但李渊认为雁门关易守难攻，坚持个十天半月应该不难，便没有及时派出援军，决定看看情况再说。

而然，刘武周却通过勾连陈孝意部下，使其为部下所杀，开门献城。

而后刚在雁门关站稳脚跟的刘武周，又急不可耐的把步卒全部压在雁门关上，自己亲率骑兵两万开始南侵并州。

而这一次李渊又干了蠢事，他在得知刘武周此次南下侵袭的部队全是精锐骑兵以后，居然让整训完毕的六营“凤械”军严守晋阳，然后指派并州总管、齐王李元吉领车骑将军张达率一万五千步卒前往九原金山（今忻州金山）抵御，双方对峙十余日后，刘武周设计偷营得手，惨败的李唐军差点全军覆没，是役车骑将军张达阵亡，齐王李元吉领不得已领剩余的三千余残兵溃退至阳曲。

听闻李元吉近乎全军覆没消息后，李世民这才力排众议，领三千精锐铁骑以及四个“凤械”营和教导营前往阳曲增援，于四月二十二日这天，在阳曲县外以区区五千五百人的兵力列阵邀战领军一万八千人的刘武周。

根据战后教导营发来的战报，此战的战况也不复杂，仅是用三页文字和两页战图便说了个清楚。

四月二十二这天，李唐天凤联军便在城前二里处结阵，阵型采用的是标准“v”字雁型阵，其中李唐军的三千骑兵分为左中右三队处在“v”两翼和底部，四个“凤械”营和教导营则分作两排组成“v”字的臂膀。

莫约午时前后，刘武周拔营来到城前，见得李唐军方面竟敢区区数千人摆出决战之阵相迎，顿时乐得险些豁了牙。