年，忽必烈的哥哥蒙哥继大汗位，成为大蒙古国的第四代大汗。由于忽必烈在蒙哥的诸弟中，是最大的一个，又十分贤能，于是被蒙哥委任主管漠南汉地的军国庶事。

年月，忽必烈奉蒙哥汗之命征大理。忽必烈忽必烈指挥蒙古大军，离开临洮，进入藏族地区，到达忒刺（又译作塔拉，今甘肃迭郡县与四川若尔盖县交界处之达拉沟），然后兵分三路前进，进入大理境内。忽必烈此次奉命征大理，亲自统率三路大军由北而南，越过大波河、大雪山、金沙江，在中国古代军事史上是一大壮举。这年年底，他留兀良合台经略大理，自己班师回到金莲川。

年底，蒙哥主力进抵合州（今四川合川），遭到南宋合州守将王坚在钓鱼城的顽强抵抗。年，宋军炮石将蒙哥击中，回到营中逝去。

当蒙哥攻钓鱼城时，忽必烈自邢州向鄂州进发。八月初到达长江北岸。九月，他的异母弟末哥遣使者向他报告蒙哥去逝消息，于是便采纳幕僚郝经的建议，决定与南宋议和，班师北上；同时派一支军队去堵截蒙哥的灵车，收大汗印玺；遣使通知旭烈兀、阿里不哥、末哥诸士会丧和林；派官抚慰诸路，令王子真金驻守燕京（今北京）。忽必烈自己率轻骑迅速北上，于年底到达燕京。

此刻，阿里不哥派往漠南的脱里赤正在扩兵。忽必烈问他为什么扩兵，他却假托是按蒙哥遗言办的。忽必烈察知其中有诈，便将他扩充的兵力全部遣散。阿里不哥又通知忽必烈去漠北参加忽里台，会葬蒙哥；同时派亲信刘太平、霍里怀行尚书省事于京兆。忽必烈根本不予理睬，派廉希宪先到开平去摸清阿里不哥的动向。廉希宪说服了有实力的塔察儿拥戴忽必烈。

年三月，忽必烈到达开平，召集忽里台，在众人支持下，登上大汗宝座，后来改开平府为上都。

四月，阿里不哥得知忽必烈先发制人，抢先宣布继承汗位，于是便在阳林召集另一个忽里台，在另外一些支持他的诸王的拥戴下，也宣布继汗位。这样，一场汗位争夺的斗争，便在忽必烈与阿里不哥兄弟二人之间展开，为此爆发了长达四年之久的战争。年七月，走投无路的阿里不哥率领支持他的诸王，大臣到开平，向忽必烈投降。

忽必烈与阿里不哥争夺汗位的战争，由于忽必烈依靠中原汉地人力、物力的支持，最后取得了胜利。它在实质上，是主张“附会汉法”的蒙古贵族对守旧派的胜利。忽必烈获胜的结果，使漠北与中原地区归于统一，从而奠定了忽必烈统一全国的基础。

忽必烈在开平即汗位，标志着大蒙古国开始向元王朝的嬗变。他建元“中统”，确立了“祖述变通”的建国方针。在即位诏中，明确表示要在不损害蒙古贵族既得利益的前提下，加强“文治”。换言之，就是以继承祖宗的陈规为前提，附会汉法，建立与中原经济基础大体相适应的中央集权制的封建专制主义国家。在中央设中书省，以王文统为平章政事，在各地分设十路宣抚司，任汉人儒士为使。年二月，山东军阀李乘阿里不哥叛乱之机，在山东发动叛乱，攻占了益都和济南。忽必烈令诸王合必赤总督河南、河北、山东各地的蒙古军、汉军，迅速镇压了这次叛乱。但是，李叛乱，引起了忽必烈对汉人的猜忌，于是采取果断措施，废除汉人诸侯的世袭制度，削弱这些诸侯的军权，在地方上实行军民分治等。忽必烈以此来加强中央集权和对汉人的防范，同时在各级政权中，征用色目人分管事权，以与汉人官僚相互牵制。年八月，忽必烈又下诏改“中统五年为至元元年”。年十一月，下诏“建国号曰大元，盖取《易经》‘乾元’之义”。同年，又改中都（今北京）为大都，与上都相呼应，实行两京之制。至此，由大蒙古国向元王朝嬗变的过程基本完成。忽必烈以元王朝开国皇帝的面目，出现在中国历史舞台上。