忽必烈執政時期，其部隊主要兵種有騎兵、步兵、炮手軍和水軍。蒙古軍和探馬赤軍主要是以騎兵為主。

蒙古民族是一個遊牧民族，自幼學習騎馬射箭，在馬鞍上長大，所以也被稱為“馬背民族”。

這種優越條件，促使蒙古軍成為當時景為精銳的騎兵隊伍。探馬赤軍主要由蒙古人構成，其他各族也主要是遊牧民族，因而容易組成騎兵隊伍，蒙古騎兵行軍作戰主要使用輕便的環刀、大斧和長短槍等武器，行軍作戰都比較靈巧方便。

通常每個騎兵有一匹或多匹從馬，以便長途行軍時輪換乘騎，且很少攜帶笨重輜重物品，因此，作戰的衝擊力和長途奔襲的快速機動能力都要大大超過其他軍隊。

漢軍和新附軍主要是步兵，繼承了金宋戰法，士兵配有刀、槍、箭、戟等武器，在地形險阻的陣地戰和城塞攻防戰中發揮重要作用。

炮手軍是蒙古在多年征戰中漸漸發展起來的一個兵種。

元太祖九年(1214),大將唵木海曾受命擔任隨路炮手達魯花赤，挑選五百餘人，組成第一支炮隊，主要靠繳獲金宋大炮使用。

忽必烈在戰爭中看到了炮石的威力，很想發展炮手軍。他即位以後，聽說回回人阿老瓦丁和亦思馬因等人能夠製造回回炮，立即召至京師大都，讓他們領導工匠成批造炮，並於午門前試放，獲得成功。

至元十年(1273),元軍久攻襄樊不下，忽必烈遂將亦思馬因等炮匠連同大炮一起送往襄樊前線使用。亦思馬因“置炮於城東南隅，重一百五十斤，機發，聲震天地，所擊無不摧陷，入地七尺”,終於攻克了襄樊。

亦思馬因送往襄樊前線的大炮，實際上是一種巨型拋石機，還不是火藥炮。

蒙古軍隊在滅金之時曾領略了金人鐵火炮“震天雷”的威力，忽必烈所以下決心要造成自己的火炮，不久也獲得了成功。

至元十一年(1274)和十八年(1281),忽必烈兩次東攻日本，就使用了火炮。有阪詔藏《兵器考·火炮篇》記載，元軍第一次同日軍作戰時，使用的“飛鐵炮火光閃閃，聲震如雷，使人肝膽俱裂，眼昏耳聾，茫然不知所措”。

《太平記》中也有元軍使用鐵火炮同日軍作戰的描寫，球形鐵炮拋出之後，“一次可發射二三千彈丸，日本兵被燒被害者多人”。

當時，日本有一位名叫竹奇季長的畫家，把自己親自經曆的情景畫了下來。其中一幅畫麵上，左邊是元兵，右邊是日本兵，中間地下有一隻鐵火炮，呈炸裂狀，下半完整上半已破裂。可見忽必烈時期火炮也有了重大發展。

忽必烈為了擴充炮手軍，大規模征調炮匠，組織開礦冶煉，製造兵器，設置炮手總管府、回回炮手都元帥府等機構，專門掌管炮兵，將炮手軍建設發展到一個新的階段。

忽必烈對水軍建設亦做出了重要貢獻。早期蒙古軍僅有騎兵，善於陸地作戰，水戰則束手無策。

蒙古滅金以後，發動了攻宋戰爭，宋地江河頗多，經常水戰，蒙古統治者開始意識到建立水軍的重要性。元太祖十年(1215),蒙古軍將領解誠在對宋作戰中奪得戰船千艘，被任為水軍萬戶兼都水監使，建立了第一支蒙古水軍。

那時的蒙古水軍，主要靠繳獲宋朝戰船作戰，水中作戰技術及靈巧機動等方麵還存在著許不足之處。

忽必烈即位以後，為彌補自己的不足，把大規模建設水軍當成攻宋的首要任務來抓。他任命張榮為水軍萬戶，打造戰船，積極進行水軍建設。

忽必烈采納劉整等人建議，大規模訓練水軍，很快就形成了一支戰船千艘、士兵萬人的水上武裝。

到至元十年(1273),元軍集結在襄樊前線的水軍已達十六萬人，戰艦已達萬艘，形勢十分可觀。

到至元十六年(1279),宋元崖山海戰時，元軍以其巨大的衝擊力和機動靈活的水上戰法，大敗宋軍，說明這時元朝的水軍已經不比宋朝差了。

忽必烈又曾出兵攻打日本、安南等國，都出動了大量戰艦，顯示了元朝水軍的威力。

由於忽必烈重視水軍建設，使元朝的軍兵種及其結構發生了重要變化，使原來僅善於陸地作戰的蒙古軍，發展為要陸戰則陸戰，要水戰則水戰，水戰陸戰皆宜的強大武裝。在中國古代軍事建設史占有重要地位。

忽必烈的部隊兵源充足，戰鬥力強，與他所實行的兵役製度是分不開的。

忽必烈在蒙古地區仍然實行全民皆兵製度，蒙古族人不分貴賤長幼，“上馬則屯備戰鬥，下馬則屯聚牧養”。

遇有戰事，“家有男子十五以上、七十以下，無眾寡，盡為軍”。十五歲以下少年皆編入“漸丁軍”(逐漸長成為丁的軍隊),體驗軍隊生活，接受軍事訓練。由於忽必烈時期兵源充足，實際上僅為二丁簽一。

在其他各族中，主要實行軍戶製，軍人單列戶籍，父親退役兒子繼承，世代為兵。征兵時主要以民戶的財產和勞動力狀況為依據，一般多選取中戶為簽軍對象。

每戶單獨出一人應役者，稱獨軍戶。而那些無丁或無力服兵役的軍戶，則要二三戶或四五戶合出兵員一名，出兵戶為正軍戶，其他為貼軍戶，貼軍戶要資助應征者鞍馬、器杖、盤費等。如果應役者在戍所病死。一百天以後，該軍戶要派次丁替補；如果應役者戰死沙場，一年以後，該軍戶派丁替補；如果軍戶貧困潦倒，或者年邁無子，經核實以後削落軍籍，但要以別家民戶替補。軍戶種田，可免稅糧四頃，稱為“贍軍地”。

忽必烈時期的軍戶皆通過奧魯進行管理。奧魯，漢譯為“老小營”,指征戍軍人的家屬所在。忽必烈即位之初，沿襲以前製度，由奧魯官管理軍戶。

奧魯官的職責，一是從軍戶中征發丁男充軍應役，並及時起征亡故軍人的戶下子弟承替軍役，彌補軍隊缺員。

二是負責按時為本奧魯簽發的當役軍人置備鞍馬、器械、盤費等，以保障後勤供應。

三是贍養征戍地軍人老小，處理軍戶間的民事糾紛等。各路奧魯官府自成係統，不受地方路、府、州、縣管轄，僅受樞密院節製。後因奧魯官貪汙受賄，舍富取貧，剝削貧苦的軍戶，不利於中央集權。忽必烈遂逐漸改由地方路、府、州、縣長官兼領諸軍奧魯，管理軍戶。

但是，蒙古軍和色目軍奧魯還保持單獨係統。