蒙哥汗战死钓鱼山，这使蒙古阵营群龙无首。于是，谁来继承大汗之位，成为急待解决的一件大事。．此时，忽必烈正在围攻南宋的鄂州城，闻知蒙哥汗的死讯后，仍不肯罢兵北还，说：“我奉大汗之命攻打宋，如今寸功未立，岂能无功而还？”忽必烈的谋士郝经、廉希宪向他建议道：“何不趁此机会北还即汗位！”郝经还建议：“现在应立即派军队去迎接蒙哥的灵车，抢先夺去大汗的宝玺。”忽必烈觉得所言有理，于是采纳了他们的意见，与南宋宰相贾似道签订了密约，免除了后顾之忧，就统领军队北还。

年3月，忽必烈在塔察儿、穆相哥、赤因铁木儿等一批蒙古贵族的支持下，在开平登上了大汗的宝座，建元中统。他任用汉地的知识分子，仿效汉人的政治制度，设立中书省；十路宣抚司及负责中原地区政务的燕京行中书省等行政机构，以巩固其在中原的统治地位。

于此同时，忽必烈的幼弟阿里不哥也在漠北的和林召开忽里台（蒙古语，即蒙古和元朝的诸王大会）。自立为汗，占据了漠北的广大地区。最初，蒙哥汗南征灭宋时，令阿里不哥驻守蒙古的大本营开平，并统领漠北的蒙军。蒙哥汗战死的消息传到和林后，皇后忽都台及蒙哥的几个儿子，还有窝阔台的后裔阿速带和察合台的后裔阿鲁忽，以及相当一批蒙古老臣都纷纷表示支持阿里不哥为汗，因为这些人早就对忽必烈的实行汉法措施大为不满，对忽必烈一直存有戒心。此外，驻军六盘山的蒙古军主帅浑都海、主持陕西政务的刘太平及四川的蒙古军的不少将领，也都拥戴阿里不哥继汗位。阿里不哥在谋士阿兰答儿的策画下，更是积极地谋夺汗位。

早在忽必烈征讨大理时，蒙哥汗就对他产生了怀疑，于是派这个阿兰答儿成立了一个钩考局，专门对忽必烈的文臣武将进行审查，审查的结果几乎要全部斩首。后来，由于忽必烈采纳了汉儒姚枢的意见，把妻儿送往和林做人质，并亲自向蒙哥请罪，这样做才使蒙哥消除了怀疑，罢去了钩考局，并将阿兰答儿调回和林。蒙哥汗一死，最有资格继承汗位的当然是拖雷的次子忽必烈，阿兰答儿此时感到，如果忽必烈一旦做了蒙古大汗，必然会将他治罪，所以他大力唆使阿里不哥与忽必烈争夺大汗之位。阿里不哥看到有如此众多的臣子忠于他，支持他，便毫不顾忌地公然自称大汗，根本不把忽必烈放在眼里。而“天上只有一个日月，地上如何有两个主人”，一国岂容二君！

这兄弟二人互不相让，必然会爆发一场汗位争夺战。究竟鹿死谁手呢？

当时，忽必烈的主要势力在中原，阿里不哥的势力在漠北。他们两人都很清楚，若要战胜对方，必须夺得关右地区（即函谷关以西、包括今陕甘宁地区），于是双方都挑选最精锐的部队在关右驻扎。阿里不哥这一方派浑都海为关右主帅，主要将领有霍鲁海和刘太平等。忽必烈则委任自己的心腹赵良弼（女真族人，任内颇有政绩），赴关右考察军事地理形势。又命廉希宪任川、陕地区的宣抚使。这个廉希宪是畏兀儿（维吾尔）人，自幼笃好经史，满腹经纶，举止不凡。他深受汉族文化的影响，l 9岁时入侍忽必烈，常宣讲孟子的性善义利仁暴之说，人称“廉孟子”，颇受忽必烈的赏识。他在川陕地区大力推行汉法，加强了在秦、蜀、陇的政治、经济力量，对打败阿里不哥起到了关键性的作用。除了赵良弼、廉希宪外，忽必烈派到关右的主要战将尚有刘黑马、高鹏霄等，大本营设在京兆（位于今天西安市附近）。

浑都海的部队由六盘山大营出发，向京兆奔来；廉希宪的军队则由京兆出发，向六盘山进击。两军在中途相遇，廉希宪军中的老将刘黑马挺身而出，浑都海军中的刘太平拍马迎战。这个刘太平，原本是忽必烈的部将，后投奔阿里不哥。刘黑马一见刘太平，怒火中烧，大声吼道：“乱臣贼子，尔昔日在我主帐下听令，我主待你恩重如山。如今我主登位，你不弃暗投明，反而兴兵做乱，实乃罪不容诛。还不下马受降，饶儿不死。若敢不从，今日便是你的死期！”

那刘太平气得哇呀哇呀地乱叫，岂能受了刘黑马的一番训斥，顿时火冒三丈，策马挺枪，与刘黑马展开激战。只见刘黑马轻轻一闪，躲过刘太平的一枪，这时刘太平收马不住，直冲过去，刘黑马背后一刀，只听“忽”地一声，刘太平匆忙伏在马上，头盔已被刘黑马一刀削在地上。刘太平见势不妙，急忙逃之天天，不料刘黑马如旋风一般，追上刘太平，从他的背后猛力一提，将刘太平生擒活拿。

在一旁观阵的霍鲁海，看到刘太平被擒获，一下子也乱了阵脚，一挥令旗，立即撤退。哪知高鹏霄早有所料，眼明手快，拍马舞刀堵住霍鲁海的去路。霍鲁海被逼无奈，只得硬着头皮与高鹏霄应战。几个回合之后，高鹏霄看出对方的破绽，虚晃一枪，霍鲁海侧身一躲，另一边露出空档。高鹏霄一枪扎在霍鲁海的坐骑上，战马受惊，腾空直立，将霍鲁海甩至地上。高鹏霄立刻令几个士卒，将霍鲁海来了个五花大绑。

廉希宪坐帐审问霍鲁海。霍鲁海如实招供，他说浑都海已经与驻守在四川的大将密里火者约定，准备共同起兵反叛。这个密里火者统辖着数十万的军队，过去蒙哥汗调往四川作战的军队，几近一半掌握在他的手中。如果密里火者反叛，从四川杀到关中，廉希宪等就会南北受敌，难以抵挡了。廉希宪暗自思想，考虑再三，最后决定先发制人，赶快除掉密里火者，然而，密里火者乃是控制一方的大将，除掉他决非易事，这样的大事自己岂敢擅自决定，然而若向忽必烈禀报，再取得其诏命，恐怕为时已晚。

廉希宪当机立断，假传圣旨，先斩后奏。于是他将刘黑马找来，对之陈述了利害关系，布置了具体做法，刘黑马带上几十名亲兵往四川而去。

密里火者此时尚蒙在鼓里，思想毫无准备。听说刘黑马带来了忽必烈的诏令，急忙整衣齐冠，出营接旨。他万万没有想到，当他跪着去接圣旨时，刘黑马一转身，迅速抽出佩刀，手起刀落，密里火者当即毙命。这时，军中一下混乱不堪。密里火者的儿子和将领，见主帅被杀，纷纷持枪提刀地准备格斗。刘黑马却毫无畏惧地将佩刀入鞘，手拿诏书对众人说：“我主圣明，看出密里火者勾结浑都海，密谋反叛，我奉诏而来清除逆贼。此事与诸位无关，望诸位效忠我主，勿起反叛之心。”

刘黑马说完，立刻上马，向随从大手一挥，回去复命了。密里火者的部将，都不知刘黑马是假传圣旨，都以为诏书是真的，有的大将还暗自埋怨密里火者。只有密里火者的儿子对刚才发生的一幕有点怀疑，心想：忽必烈远在天边，岂能知道我父有篡逆之心！他连忙写了一个奏折，派人星夜送往忽必烈的驻地。

忽必烈看到密里火者儿子的奏折，得知密里火者被刘黑马刀劈斩杀，一时被弄昏了头，不解个中之由。正在疑惑时，廉希宪的奏折也来了，奏折中详细叙述了诛杀密里火者的原因和经过，并且讲明了先斩后奏的道理，最后，请求忽必烈治他“假传圣旨”之罪。忽必烈看过这个奏折，才如梦方醒，明白了一切。他深感廉希宪是一难得的人才，能谋善断，何罪之有！他不仅不降罪于廉希宪，而且还下诏褒奖，对他的做法予以肯定。同时，忽必烈也给密里火者之子下了诏书：“杀汝父乃孤之诏命，皆因你父对孤不忠，起反叛之心，诛之罪有应得。”此事便如此地平息下去。

廉希宪受到褒奖，信心倍增，做事更加果断。他认为现在时机已经成熟，应当向盘踞在六盘山的浑都海部发起总攻。在此之前，浑都海已知自己的两员虎将刘太平和霍鲁海双双被俘，这如同失去了左膀右臂。这且不说，自己蓄谋已久的周密计划，也被廉希宪彻底粉碎，密里火者也被杀死，现已毫无优势可言，于是便带着军队退向六盘山以西。等到廉希宪的军队开拔到六盘山时，浑都海早已撤走了。

阿里不哥在和林听说浑都海在关右战败的消息后，坐卧不宁，急得不知如何是好。为挽救败局，只得派阿兰答儿进军西凉府，与浑都海部会合，并且遣派其子玉木忽儿和哈剌察儿南征。阿兰答儿与浑都海会师后，力量大为充实，军心也大为振作，数次打败廉希宪的军队。廉希宪不得不马上上奏忽必烈，请求增援，忽必烈看了奏折后，决定御驾亲征。

阿里不哥这时已把重兵派往关右，和林的驻军力量十分薄弱，当他听说忽必烈欲亲领军队征战时，感到形势不妙，难以招架，于是慌忙地逃往谦谦州（元属岭北行中书省，位于今天的俄罗斯西伯利亚叶尼塞河上游克穆河与克穆契克河畔），阿兰答儿和浑都海在军营中听到这一消息，乱了手脚，叫苦不迭。自己的主子如此怯懦，我们还在这里拚死拚活地卖命做什么！而廉希宪的军营中，将士听到阿里不哥逃跑，精神都为之大振，坚定了必胜的信心。

年9月间，廉希宪与阿兰答儿等在甘州（今甘肃张掖）东面山丹附近的耀碑谷进行了一次激烈的战斗。这天晚上，廉希宪的部将汪良臣，趁着黑夜，带领几千精兵闯入浑都海和阿兰答儿的中部，“冲啊！”“冲啊！”喊杀声震天，在山谷中回荡，他们将浑都海的部队斩做两截，迫使浑都海与阿兰答儿分别向两个方向逃窜。最后双双被围，做了阶下囚，将这两个罪大恶极的元凶斩首示众。从此，阿里不哥的军事力量被彻底打垮，已预示了失败的结局。

在谦谦州的阿里不哥，仍然是寝食不安，他一直担心忽必烈的大军追来将他抓获，便想了一个缓兵之计，遣一使者到和林，向忽必烈屈膝服罪。忽必烈心想：自己的这个小弟毫无主见，其所做的一切，都是那几个乱臣贼子给他出的鬼点子。现在，他的几员大将皆已兵败身死，我这个可怜的弟弟已到了穷途末路，故而愿归降于我。于是，忽必烈对使者说：“你回去告诉我弟，就说孤念及我们乃一母所生，他年少无知，对以往所干的坏事，孤不再追究。赶快让他来见我。”使者奉旨返归谦谦州。

孰料使者已回谦谦州一月有余，忽必烈仍未见阿里不哥前来领罪，这才知道中了阿里不哥的缓兵之计。不过，他觉得阿里不哥如今已元气大伤，不会再崛起了，所以并不放在心上。

阿里不哥在谦谦州住了一年，招兵买马，训练军队，妄图卷土重来。时机稍一成熟，便挥师南下。他首先突然袭击了和林，和林守将亦孙哥思想毫无准备，结果丢掉了和林。阿里不哥这下便肆无忌惮地攻打开平，军队距开平仅有一百多里了，忽必烈再次被迫御驾亲征，两个兄弟在开平至燕京一带，展开了激烈的争夺战。1 26 1年1 1月，双方大战于昔木脑儿（今额尔德尼察干附近），阿里不哥遭到挫败，几个大将都被砍落马下，他不得不再次北逃。这次战斗，阿里不哥已陷入绝境，再也无招架之力了。第二年春天，追随阿里不哥的阿鲁忽（察合台之孙）也背叛了他，依附于忽必烈。阿里不哥闻讯后异常恼怒，引军西征，击败阿鲁忽，进据阿力麻里（元代西北重镇，曾是察合台汗国的首都，遗址位于今新疆伊犁哈萨克自治州霍城西13公里处）。阿里不哥在这里又大肆杀掠，此时正值阿力麻里饥荒，故民怨沸腾，阿里不哥的属下也起离散之心，阿鲁忽乘此机会，整军来攻，阿里不哥已力不能支，又遭惨败。1 2 6 4年7月，阿里不哥亲赴开平向忽必烈请罪，忽必烈再次原谅了他，对他既往不咎，与阿里不哥的争夺汗位战争终于宣告结束，忽必烈大获全胜。

忽必烈与阿里不哥之间的斗争，实质上是蒙古统治集团内部新旧两种势力的矛盾的斗争。当时，很多守旧的蒙古贵族、藩王都极力反对忽必烈推行“汉法”的措施，阿里不哥正是这些蒙古保守势力的总代表。忽必烈战胜阿里不哥，意味着蒙古诸王保守势力受到挫折，使忽必烈能较少牵制地推行代表进步势力的“汉法”。