刘曜和石勒翻脸后，并没有马上就动手拼命。双方都采取了发展经济的策略，先防守，后进攻，因此几年间倒也平安无事。
太宁三年（325年），居住在河套地区、原来依附石勒的北羌王盆句除归附刘曜，石勒部将石佗发兵雁门关征讨，俘虏三千多人、牛马羊百万余头而归。
刘曜闻讯，命中山王刘岳追击，自己屯兵富平，作为后援。
刘岳与石佗战于河滨，石佗大败，被刘岳杀死。刘岳部下被杀六千多人，其余皆被刘岳俘虏。
至此前赵和后赵之间终于开战。
刘聪与石勒皆非等闲之辈，因此一场决定胜负的大战即将开演。
这时偏安江南的东晋也是纷乱迭起。先是中流击楫发誓北伐的祖逖忧愤而死，不久大将军王敦叛乱。没多久晋元帝驾崩，太子司马衍继位。
机会来之不易。石勒立刻派遣部将石生、石虎趁火打劫，接连占领了兖州、徐州和青州的广大土地，又把边境线推到了淮河一带。
东晋的河南颍川太守郭默严防死守，仍抵挡不住石生的攻击。洛阳被石生抢占，郭默竟然求助于刘曜。
刘曜正因为石佗事件和石勒撕破了脸，就命令中山王刘岳率领重甲士兵五千、精兵一万进攻孟津，镇东将军呼延谟进攻渑池。
刘岳攻克孟津后，将石生包围在金墉城，石虎则率领四万步骑兵通过成皋（今河南荥阳汜水关）反抄刘岳的后路，刘岳赶紧往后面的呼延谟方向靠拢。
但刘岳的主力是步兵，机动性远比不上石虎的骑兵先锋队，在洛阳以西反而被石虎包围。
刘岳突围不出，在混战时中箭受伤。石虎造栅栏把刘岳围起来，刘岳的部队弹尽粮绝，又不敢突围，只好杀战马充饥。石虎又派部队伏击前来救援的呼延谟，将其全歼，呼延谟被杀死。
太宁三年（325年），前后赵两军在洛阳大战。
刘曜率兵救援刘岳，与石虎三万步骑鏖战。刘曜部下前军将军刘黑率军在函谷之东八特阪大败石虎部将石聪，为之解围。
刘曜大军屯金谷，夜中无故大惊，士卒溃散，刘曜率军退到渑池，夜中又惊溃，刘曜懊恼无比，无奈退回长安。他在郊外素服停留七日，大哭后方入长安，因此愤恚成疾。
石勒军击败刘曜部将刘岳军，俘氐羌三千余人，坑死士卒九千余人（石勒得氏羌人不杀，可以想见被坑死的士卒多是汉族和匈奴族人。）又攻破占据并州（并州属石勒）投降刘曜的叛将王腾，坑死士卒七千余人。
刘曜败后，学石勒的方法，自己以皇帝名义统治汉人，而封爱子刘胤为大单于，在渭城立单于台，自最高官左右贤王以下，全用匈奴、羯、鲜卑、氏、羌的豪酋，建立起以匈奴人为首的胡人国。
咸和三年（328年），石勒派大将石虎带领四万大军从轵关(今河南济源)西入，进攻前赵河东地区，一时之间，有五十多县起来响应，后赵军势如破竹，直攻蒲坂(今山西永济县)。
刘曜御驾亲征，从卫关渡过黄河，大败石虎。随后又进攻守卫洛阳金墉城的后赵大将石生，并掘黄河水猛灌后赵守军，同时分遣诸将进攻后赵的汲郡、河内等地，后赵荣阳太守尹矩、野王太守张进先后出降。后赵国都襄国震惊，一时间形势对刘曜非常有利。
但是，刘曜没有乘胜集中兵力进攻后赵国都襄国，而是把兵锋指向了洛阳。 而这正是石勒及其谋士们所期望的，他集中了近十万大军前来援救洛阳，期望一举拿下。
十一月，天寒地冻。刘曜正忙着在营帐中和宠臣饮酒作乐。听说石勒已渡过济河，才商议增兵荥阳，关闭黄马关。前线捉来石勒大军的羯族俘虏，刘曜问：“大胡自己来了吗？带了多少人？”石勒将羯族称作“国人”，忌讳说“胡人”，言者斩首。俘虏说：“大王亲自带兵，军势甚盛。”刘曜闻之变色，马上下令从金墉撤围，在洛西布阵，以迎石勒大军。
石勒远远望见，大喜，对左右说：“可以祝贺我了。”率四万步骑进入被围数月的洛阳城中。
刘曜犹豫间发现石虎率三万步兵自洛阳城北向西而来，攻击刘曜中军；石堪、石聪两人各将精骑八千自城西疾驰向北，合军进攻刘曜的前锋军，战于西阳门。石勒本人亲率大军从洛阳阊阖门冲出，形成对刘曜大军的夹击之势。
刘曜也算是性情中人，这时候还忘不了先喝几两。酒壮英雄胆，胯下宝马却不买账了，无故低首蜷足，倒像是它喝醉了一般，倒在地上。刘曜无奈换了一匹小马，又喝了一斗多酒，然后醉醺醺地冲了出去，到了西阳门，指挥军阵移向平坦处。石堪乘势攻击，刘曜军大溃，阵亡五万多人。
刘曜昏醉中纵马奔逃，不巧这匹小马又失前蹄，陷在石渠中，刘曜被摔在冰面上，身负重伤，被石堪活捉。
大概也是英雄相惜，况且曾经是同殿为臣，石勒并没有把刘曜立刻杀掉，而是把他送到襄国，重兵把守，住在永丰小城，石勒还送他几名侍妾。石勒又让刘岳、刘震等人穿上盛装来见刘曜。这样一来，刘曜就有些感动了。他惭愧地说：“我以为你们早就化为灰土了，石勒是个仁义人啊，还让你们活到今天。我反而杀死了石佗，真是愧对石勒啊。今日之祸，真是报应。”
石勒要他给长安城内的皇太子刘熙写信，让他们投降。刘曜不愧是匈奴后裔，不失英雄本色，他只让刘熙“与诸大臣匡维社稷，勿以吾易意也！”
石勒见信，顿生憎恶之心，知道刘曜不可留，不久便把他杀了。
咸和四年（329年），前赵太子刘熙听说刘曜被擒，大为恐惧，与南阳王刘胤商议对策。商议的结果是，君臣慌慌张张奔逃上邽（甘肃天水）。于是，各地方官员也放弃镇守，各顾逃命，关中大乱。
前赵大将蒋英、辛恕等人拥众数十万于长安，见自己的主子先跑了，干脆投降了石勒。
秋九月，在上邽喘过气的南阳王刘胤开始后悔当初撤出长安之举，于是又率兵数万反攻长安，后赵大将石生见敌人来势汹汹，坚壁清野，拥城固守。任凭刘胤等人百般辱骂，就是不出来。
石勒派石虎率精骑二万飞奔救助。九月，石虎大破刘胤于义渠。刘胤奔还上邽。
石虎沿途追杀，尸体枕籍千里。刘胤溃兵入城后未及关城门，石虎骑兵蜂拥而入，把前赵文武百官一网打尽，俘虏了太子刘熙、南阳王刘胤及其王公卿校等三千多人，石虎当即下令全部屠杀。石虎是石勒的侄子，以残暴著称，石勒曾以其残忍想杀掉他，被其母劝阻。
前赵至此灭亡。从刘渊即位起，汉(前赵)共立国二十六年。居于中原的匈奴屠各部以及山西的南匈奴后裔被石勒的兵将大批屠杀，剩下的纷纷远徙，渐渐融合在汉民族的大海之中。
头曼、冒顿父子建立的匈奴帝国，历代单于都没有文化，却能维持家族统治三百多年，而刘渊父子及其后裔都是汉化比较成功的匈奴贵族，精通汉文化和帝王之道，却仅仅维持了不到三十年。除去环境因素外，与其本身作为也有很大关系。同样是少数民族，刘曜的政治手段就比不上他的对手石勒。石勒没文化，却喜欢让别人为他读书。他在酒色上很严谨。立国后，石勒沿袭刘渊胡、汉分治办法，禁止胡人侮慢汉人士族，废除收继婚制，并不许在丧婚娶，以适应汉人习惯。在攻占幽冀后，核实州郡户口，每户所课租调比西晋王朝对农民的剥削有所轻减。立国后，为节省粮食，禁止酿酒。他也注意教育，在襄国和地方设立学校。 刘曜则不同，虽然他也注重教育，初始也能耐心纳谏，但在平定巴氐叛乱之后，就开始听不进谏言了。陈安之乱未平，刘曜又开始建永垣陵、显平陵，功费至亿。又好酒色，战阵之前还和宠臣赌酒。他没有一套完整的治国方案，汉族皇帝的优点一点没学到，缺点倒是样样精通，纵观汉赵一朝，宦官执政、外戚专权、闭塞言路、耽于酒色，这些王朝的弊病，几任皇帝全做到了。这也无怪乎一遇石勒迅即崩溃。
大约一千九百年之后，几位民主人士与毛泽东同志座谈，在谈起历代王朝兴替时，黄炎培引用《左传》中的“其兴也勃焉”、“其亡也忽焉”概括了历代政权从艰苦创业到腐败灭亡的周期性规律。刘渊以及所建立的匈奴汉国则有幸成为这一规律的标本。
