成為黨的總書記
1905年1月22日，俄國革命終於爆發。
隨著革命運動的高漲，彼得堡、莫斯科及全國各地紛紛建立蘇維埃。11月底，斯大林參與籌備高加索布爾什維克第四次代表會議，在這次會議上，他被推舉為出席全國代表會議的代表。12月12～17日，斯大林以俄國社會民主工黨高加索聯盟代表的資格出席了在芬蘭坦默福斯舉行的全俄布爾什維克第一次代表會議。在這次代表會議上，列寧和斯大林第一次直接會麵了。斯大林在代表會議上被選進負責編寫代表會議決議的政治委員會。
1917年10月，列寧當選為全俄蘇維埃政府第一屆人民委員會主席。這是他向出征的紅軍部隊講話。俄國第一次革命失敗後，沙皇製度重又站穩腳跟。工人運動的浪潮急劇衰落。當革命**時，有200多萬工人參加了罷工。1908年隻有17．74萬工人參加罷工，1909年隻有6．4萬人參加罷工，1910年僅有4．6萬人參加罷工。言論、結社和新聞的有限自由也大部分被取消了。黨組織遭到嚴重破壞。很多中央委員被捕，更多的黨員被判處苦役，遭到監禁和流放。小資產階級知識分子紛紛離開了黨的隊伍，部分不堅定的工人脫離了黨的秘密工作。黨組織的成員大大減少，各級黨組織間的聯係削弱了。
麵對革命的失敗，俄國社會民主工黨內部出現了兩個主要的機會主義派別：一是以孟什維克為代表的取消派，主張隻把工作重心放在合法組織上，取消黨的秘密組織和停止秘密的革命工作。二是布爾什維克內部出現的召回派，主張隻把工作重心放在秘密的黨組織上，放棄合法的工作形式，並從杜馬中召回社會民主黨黨團。列寧既反對取消主義，又反對召回主義，主張在秘密黨領導下把秘密工作和合法工作結合起來，即既要利用秘密行動的方式，也要使用合法的形式，包括國家杜馬的講壇、工會、合作社、俱樂部以及其他合法組織。實行這種策略的目的就是要保存和聚集力量，以便在有利條件到來之機發動新的革命進攻。
在兩次革命之間的革命低潮期，斯大林一直在俄國堅持秘密革命活動，並且從一個地區黨的工作者成長為全黨的領導人之一。沙皇政府竭力設法剝奪他從事革命活動的機會，接連不斷地用逮捕、監禁和流放手段來對付他。從1902年第一次被捕算起，到1913年間，斯大林先後被捕七次，流放六次，同時也從流放地逃走五次。隻有最後一次流放，才是由1917年“二月革命”把他解救出來的。
1912年1月，黨內生活中發生了極為重要的事變。俄國社會民主工黨第六次全俄代表會議於1月5日～17日在布拉格召開。在這次代表大會上，列寧創立了新式的黨，即布爾什維克黨，而且把孟什維克從黨內驅逐出去。會議選出了以列寧為首的俄國社會民主工黨中央委員會，一些在艱苦年代裏經受鍛煉的地方黨的工作人員被選人了中央委員會。在巴庫地區表現出色的奧爾忠尼啟則和斯潘達梁均當選為中央委員。根據列寧的提議，斯大林被增選進中央委員會。
在第一次世界大戰中，由於沙皇政府的腐敗無能，俄國軍隊屢遭失利。德國軍隊占領了波蘭、波羅的海沿岸和白俄羅斯的一部分地區。成群結隊的百姓流離失所，廣大民眾對沙皇政府的不滿情緒日益增長。在布爾什維克黨的引導下，廣大工人群眾首先起來鬥爭。1914年後半年，全俄不同地區的工人先後舉行了70次罷工，1915年罷工運動超過1，000次，1916年達1，500次，參加人數多達100萬以上。在工人運動影響下，士兵厭戰、反戰情緒日益濃厚，成百上千的士兵逃離前線，不願再為沙皇政府賣命。與此同時，俄國許多地區的農民也展開了鬥爭，他們打開地主的糧倉，趕走地主，燒毀莊園，分掉了地主的牲畜和農具。俄國的歐洲部分如此，亞洲部分也積極行動起來。1916年，中亞和哈薩克斯坦先後發生了幾萬人的起義鬥爭。
在國內轟轟烈烈的民眾運動此起彼伏、人民大眾已經覺醒的條件下，1917年2月26日，布爾什維克黨號召人民舉行總起義，成立臨時政府。工人首先響應布爾什維克的號召，士兵也轉向起義。到第二天晚上，已有6萬多士兵轉到革命方麵來。起義的工人和士兵很快就取得了重大勝利，他們逮捕沙皇政府的大臣和沙皇軍隊的將軍，釋放政治犯，並在當天晚上舉行了彼得堡工人士兵代表蘇維埃第一次代表大會。
在革命的緊要關頭，斯大林參加了布爾什維克黨的領導工作，他團結全黨，為了變資產階級民主革命為社會主義民主革命而鬥爭。斯大林堅決擁護列寧的“變帝國主義戰爭為國內戰爭”的主張，並發出號召，“撕下帝國主義的假麵具，使群眾認清這次戰爭的真實內幕，這也就等於向戰爭真正宣戰，使現在這種戰爭不可能再打下去”。
在列寧的號召領導下，1917年10月24日希爾什維克黨開始了奪取政權的鬥爭。起義總指揮斯大林和領導成員斯維爾德洛夫和捷爾任斯基始終留在革命軍事委員會裏。他們製定了詳細的起義計劃。
1920年，斯大林與蘇共其他領導人在一起。1917年10月25日晚10點45分，第二次全俄蘇維埃代表大會在斯莫爾尼宮開幕。革命政權誕生的第二天，即10月26日夜間，第二次全俄蘇維埃代表大會通過了《和平法令》和《土地法令》，並成立了第一屆蘇維埃政府——人民委員會。列寧當選為第一屆人民委員會主席，斯大林任民族事務人民委員。具有曆史意義的十月革命，僅在一晝夜間就取得了決定性勝利，幾乎沒有流血。
十月革命的驚濤駭浪，把斯大林推到了無產階級司令部的領導崗位上，他有生以來第一次開始和列寧、斯維爾德洛夫、加米涅夫、托洛茨基、季諾維也夫、布哈林等最早的老布爾什維克一起共事。他那敏銳的眼光和冷靜的思考使他看到了每個人的長處和優勢。他早已看出列寧是比別人更勝一籌的“山鷹”。每次黨內出現激烈的爭論時，斯大林總是與列寧站在一邊。正如他自己所說：我深信列寧是一個非凡的人物……是一個典型的最高領導者，是一隻“山鷹”，他在鬥爭中不知恐懼為何物，大膽地引導我們黨在前人未曾走過的俄國革命運動的道路前進。
在關於與德國和談的布列斯特和約的辯論中，斯大林盡管沒有什麽固定的見解，但在關鍵時刻他還是站在列寧一邊，投了讚成票。這對於他日後的晉升和掌權，對他個人的命運，對整個國家的前途和命運來說，都是非常關鍵的一票。
還在《布列斯特一裏托夫斯克和約》簽訂之前，俄國南部地區就已經發生了內戰。和約簽訂之後，剛剛誕生的蘇維埃政權依然麵臨著十分嚴峻的考驗。國外帝國主義對紅色革命政權虎視眈眈，國內矛盾也日益複雜化。為了鞏固蘇維埃政權，1918年3月，紅色革命政權的首都從彼得堡遷到了莫斯科。這次遷都在蘇俄曆史上以及斯大林個人生活中，都具有深遠的影響和意義。
在十月革命取得勝利之後的幾個月裏，蘇維埃政權利用簽訂和約這樣一個喘息的機會，開始在俄國中部、莫斯科、彼得堡等主要城市牢固地確立了自己的地位。但是，沙皇將軍和官吏、地主、富農和資本家們仍然不承認工人階級取得的勝利。他們在十月革命初期的一些戰鬥中受挫之後，便開始在工業無產階級力量比較薄弱而富農勢力比較強大的頓河地區、庫班地區和烏克蘭地區聚集並鞏固反革命武裝力量，繼續和新生的革命政權進行殘酷的較量。
1918年5月底，關於察裏津軍政兩方麵危急情況的報告傳到了莫斯科。在這生死存亡的緊要關頭，列寧和中央委員會派斯大林到那裏去組織輸送糧食。斯大林把那些腐化墮落和辦事不力的官員撤了職，解散了一些不必要的革命委員會，任命了一些政治委員去整頓勞工和運輸組織，以確保對莫斯科的糧食供應。
1918年7、8月間，伏爾加河流域一帶的形勢繼續惡化。8月13日，斯大林宣布察裏津處於戒嚴狀態。經過充分的思想動員和大量的組織工作，察裏津的工人階級為部隊提供了大量的新的戰鬥裝備，他們修好了300門大炮，製造了11輛裝甲列車和18輛裝甲汽車。察裏津市的許多工廠都在積極地為紅軍生產槍支彈藥，數以萬計的市民加入到挖戰壕和修築陣地工事的行列中。為了與機動性強的哥薩克騎兵作戰，斯大林又組建了幾個用大量機槍和大炮裝備起來的加強師，原紅軍騎兵部隊改編成更大的炮兵部隊。為了有力地支持步兵和騎兵作戰，組建了裝甲縱隊，由工人出身的英雄戰將阿利亞勃耶夫負責指揮。所有這些有效的措施，大大加強了察裏津的防衛能力，並且有能力在一些地段發動戰役性的進攻，從而打破敵人的封鎖和包圍。就這樣，在斯大林英明的指揮下，察裏津的保衛者一次又一次地打退了敵人的瘋狂進攻，保住了這座英雄的城市，保住了革命的政權。
斯大林、列寧、托洛茨基（自左至右）舊照。列寧去世後，斯大林與托洛茨基決裂。在保衛察裏津的英勇戰鬥中，斯大林表現出了卓越的軍事領導才能、堅不可摧的意誌和旺盛的革命鬥誌；在戰鬥中，他和戰友們開創了新的、更高的戰略和戰術範例，他們巧妙地采用了步兵、騎兵與炮兵、裝甲列車和伏爾加河軍艦的協同作戰方式，粉碎了強大的敵人多次奪取察裏津的一切企圖。鑒於斯大林在保衛察裏津的卓越貢獻，依照勞動人民的請求，這個光榮的革命城市被命名為斯大林格勒。這是黨和人民對斯大林偉大功績的最高讚賞和肯定。
1918年10月23日，斯大林奉命回到莫斯科。為了迎接光榮歸來的英雄，列寧派共和國主席斯維爾德洛夫乘專列親自去接斯大林，而且還為他舉行了隆重的歡迎儀式。
由於卓越的軍事指揮才能，斯大林在黨內外群眾中的威望日益提高。他是一位既有工作能力，又敢承擔責任的、講求實效的領導人。他雖然不是了不起的演說家，但是他的發言總是很有道理。他還是一個能克服官僚主義的重重障礙作出果斷決定的人。他受到人們高度尊敬也表現在黨的第八次代表大會上。在所有代表選舉中央委員會的選票上，他都是名列前茅的。這次大會還成立了中央委員會的兩個小組委員會：指導黨的政治事務的5人政治局和負責人事與行政事務的組織局。斯大林同時被任命為這兩個局的委員。此外，他還擔任了國家監察局委員，主要負責防止官僚主義滋長這一艱巨而重要的工作。如同組織局的工作一樣，他負責的新人民委員部也是承擔了不輕的工作。但是不管怎麽說，這是必不可少的組織工作。在斯大林的領導和管理下，這些部門的工作很快就取得了突出的成績。
斯大林很少在大會上發表演說，即使有時發表一些講話，也大都很簡潔。他是個能夠冷靜地分析人和局勢的現實主義者，而且做出的結論通常都是慎重穩妥的。斯大林在國內戰爭和對波蘭地主軍隊的戰爭中，作出了非常突出的貢獻，並獲得了紅旗勳章。在黨內，斯大林以言語文靜、行動果敢而著稱，被公認為是一個有決策能力和有權威的領導人。在連年的戰爭和革命之後，蘇維埃政府麵臨著重建國家的艱巨任務，斯大林很明顯是一個能夠承擔特殊責任和使命的人物。
內戰之後，斯大林很快就擔任了3個重要的職務：民族事務人民委員、工農檢察院人民委員和政治局委員。
在尖銳的社會矛盾和黨的鬥爭中，斯大林沒有參加任何派別活動，沒有介入過多的具體經濟工作；沒有卷入紛繁複雜的思想鬥爭漩渦。他隻是對這些鬥爭細心地觀察和進行分析，隻是在適當的時候支持黨和列寧，對反對派原則地評論一番。他的策略是穩妥而深思熟慮的，因而深受列寧的賞識。
斯大林最大的競爭對手托洛茨基在“十大”會議上受到批評後一蹶不振。他埋頭於經濟工作和理論研究，很少過問政治局的工作。他的支持者從中央領導層紛紛落選。新當選的中央委員如伏羅希洛夫、奧爾忠尼啟則、莫洛托夫、古比雪夫、基洛夫等人都是斯大林所信賴的人，都是斯大林的支持者。他們已陸續被安排在斯大林重點管轄的少數民族地區工作：奧爾忠尼啟則是中央高加索局的領導人，卡岡諾維奇、基洛夫、莫洛托夫和米高揚分別是土耳其斯坦、阿塞拜疆、烏克蘭、亞美尼亞等地區的領導人。
斯大林的另一個有利的地位是在政治局。在整個內戰時期中，政治局隻有5名成員：列寧、托洛茨基、斯大林、加米涅夫和布哈林。自從布爾什維克黨和社會革命黨人之間的聯合破裂後，這個政治局成為國家的實際管理者。列寧是政府和黨公認的領袖，托洛茨基負責指揮內戰，加米涅夫在各方麵都是列寧的副手，布哈林負責出版和宣傳，而斯大林則負責黨的日常管理工作。政治局是討論重大政策的地方。另外一個機構是組織局，它同政治局一樣是由中央委員會選舉的，負責黨的人事工作。它可以按照內戰的需要，在整個軍隊和行政機構中召集人員、指導工作和分配工作。從1919年初起，斯大林就是政治局和組織局之間唯一的常設聯絡員。他保證了政策和組織之間的團結一致；也就是說，他按照政治局的指示，調配黨的各種力量。
1921年，列寧的健康狀況開始下降。
第十一次黨代表大會定於1922年3月召開。為此，列寧精心作了準備。會議通過了列寧在開幕式所作的報告中提出的各項方針政策，列寧本人帶病參加了開幕式和閉幕式大會。黨代表大會結束後的第二天，即1922年4月3日，宣布了任命斯大林為總書記這一新的職務。設立總書記這一職位，目的是協調複雜的黨內各部門之間的關係。另一種打算是，將行使書記處能夠對全體黨員進行更加嚴格的考察，並保證以後可以仔細挑選出更合格的黨的代表大會的代表。
顯然，在知識能力和威望上看，能勝任這一關鍵職位的最合適的人選莫過於斯大林了。政治局主席加米涅夫以政治局的名義提名斯大林，這一提議毫無疑問是得到黨的最高領袖列寧支持的。莫洛托夫和古比雪夫被任命為斯大林的助手。這項任命作為例行公事在報刊上宣布。這時，斯大林既是中央委員會、政治局和組織局的成員，又是書記處成員，他成了當時唯一身兼四職的布爾什維克黨領導人。這4個機構密切相關，使黨和國家生活的各個方麵都有密切的聯係，這就為斯大林成為列寧的接班人奠定了基礎。
斯大林被任命為總書記之後不到兩個月，列寧就不能再直接領導黨的政府的工作了。1922年5月底，他的動脈硬化症第一次發作。他幾乎失去了說話的能力，於是便被從克裏姆林宮送到莫斯科效外治療、休養。52歲的列寧進行了一次手術，把1918年範尼婭·卡普蘭行刺他時留在體內的一顆子彈取了出來。這次手術顯然有希望使他的健康狀況得以好轉。然而不幸的是，他的動脈硬化症發作了。由於列寧頑強地與病魔作鬥爭，加上良好的治療，這年仲秋，列寧又可以重新工作了。然而不久，即這一年的秋末，疾病第二次發作使他喪失了行動的能力。1923年3月，列寧又第三次發病。直到1924年1月21日逝世。
列寧去世後，蘇聯的革命事業又處在了一個緊要關頭。這個時期，急需要有一個新的政策來激勵蘇聯人民承擔曆史賦予他們的重任—一把他們的國家從十月革命推進到社會主義。這個政策就是斯大林提出的“在一國首先建成社會主義”。這個呼籲具有極大的號召力和感染力，它在黨內外激起了革命的新熱情。這個政策宣告：蘇聯人民不依賴西方。相信自己的國家有能力獨立自主地創造自己光輝的未來，將一個長期落後的俄國建設成為一個先進的社會主義新蘇聯。
在黨的第十五次代表會議上，充分討論並通過了斯大林提出的“在一國首先建成社會主義”的政策。斯大林認定別無他路可走。工業落後而規模又小，農業原始而產量又靠不住。共產黨的政權受到了資本主義國家的威脅。資本主義國家一旦作好準備，就會發起進攻，消滅共產黨，摧毀革命的成果並奴役人民。他博覽群書，通曉俄國的曆史。斯大林深深地懂得，每當俄國國力衰弱，領導無力的時候，它就會遭受外國列強淩辱的命運。
在發展工業、實現農業集體化和建立強大經濟的過程中，沒有時間可以浪費。否則，新生的革命政權就很難安全地、自豪地屹立於世界民族之林。
斯大林與其洛夫（左二）、奧爾忠尼啟則（左三）等在一起。這兩位斯大林曾經的密友，後來在肅反和清黨運動中被斯大林無情地清洗掉了。農村經濟政策的實施，取得了初步的成功。連續兩年的豐收使糧食產量明顯提高。農業稅的調整以及國家和合作社的收購組織效率的提高取得了成果。1926年7月～1927年6月一年間的糧食收成達1,060萬噸，而前一年隻有840萬噸。不僅生產和銷售了更多的糧食，而且國家的糧食征購量也增加了。這意味著2．75億盧布的出口目標已經基本達到。
此時，國家計劃委員會根據第十五次黨代表大會的指示，正在製定一項全麵發展工業的計劃。該委員會在農業發展估算的基礎上，設想了工業的逐步發展。5月底，斯大林向黨提出了他的集體化和迅速工業化的新政策。他把這當作是一個挑戰，是國家唯一可行的道路。
1928年12月底召開的第八次工會代表大會正式批準了工業化計劃。
第一個五年計劃就其範圍和成就來說，實在是人類曆史上一次最偉大的計劃經濟的嚐試。雖然沒有達到預定的指標，但成就依然是巨大的。而且，這一功績在4年零3個月的時間裏就完成了。
在完成了第一個五年計劃以後，蘇聯立刻投身於第二個五年計劃，這個計劃提出了5倍於第一個計劃時期建設的新工業，以及整個經濟的技術改造。然而，正如斯大林所說的，這一任務“無疑是比較容易了”——今後的任何五年計劃都不會有第一個那麽困難了。五年計劃成了這個國家前進的模式。
托洛茨基的“鐵箍”
列寧領導的十月革命，像一塊巨大的磁石，吸引了俄國的無產階級革命家，他們像洪流一樣匯集在彼得格勒，在這塊革命聖地上，他們從事著前所未有的共同事業。斯大林和托洛茨基就是在這樣的形勢下相識與共事的。在內戰前後，這“兩位傑出的領袖”得到了列寧一視同仁的信賴。並被最早選為政治局委員。但是，從一開始，他們就在一係列觀點上產生了明顯的分歧。
不過，列寧健在時，雙方的爭論總是謹小慎微並有所節製的。斯大林對托洛茨基盡量表現得寬厚、客氣，不帶個人色彩。這甚至使托洛茨基頗受感動。那時，他曾對一位外國記者說：“斯大林是一位勇敢而誠實的革命家。”
托洛茨基在“十大”受挫以後，態度消沉，一度在家養病，並從事寫作。他幾乎與政治局的同事斷絕了聯係。與他人的一切矛盾也似乎煙消雲散了。
在政治局裏，斯大林顯得比較謙虛，對任何人都不動聲色。季諾維也夫和加米涅夫都沒有對斯大林產生任何戒心。他們仍把托洛茨基當作主要對手。這使托洛茨基逐漸在中央委員會裏受到孤立。但是，在知識分子和廣大青年中，托洛茨基仍有相當多的支持者和崇拜者。他們不斷地串連、活動，在下麵組成了一支不取得多數，總書記斯大林總是先同季諾維也夫、加米涅夫碰頭，然後再由總書記主持召開政治局會議。秘書處的工作人員私下裏把這種“三人碰頭會”稱作“鐵箍”。有一次，在政治局會議上，季諾維也夫與托洛茨基爭吵起來，托洛茨基氣得火冒三丈，布哈林出來調解。下麵的工作人員則對托洛茨基說：
“難道您沒有看出來您掉進了‘鐵箍’?您的戲法吃不開，您是少數。”
1923年10月8日，托洛茨基在黨中央會議上公開闡述了自己的觀點。他在會上說：俄共（布）十二大後形成的製度離開工人民主的距離比戰時共產主義時期還要遠得多。他指責黨的組織體製是書記等級製；認為黨的領導機關已經官僚化。他還給中央委員會和中央監察委員會寄去一封言詞激烈的信，闡述自己的理論觀點。後來，他還召集了一些支持者和原來的反對派成員到他家開會，批評黨的組織是“如同軍隊式”的官僚機構，要求自上而下地撤換黨的負責人。他主張廢除“禁止黨內派別活動”的決議，爭取得到更多的言論自由。不用說，托洛茨基的鬥爭鋒芒是直接指向總書記斯大林的。表麵上看，爭論的焦點是宏觀的政治、經濟問題，是理論、觀點上的分歧，但雙方心裏都十分清楚，問題並非如此簡單。隻有年輕有為的理論家布哈林等人才把這場爭論看成是黨內純理論上的路線鬥爭，布哈林當時堅定地站在黨的立場上，也就是總書記斯大林的一邊，與托派分子展開了堅決的鬥爭，斯大林在鬥爭中始終處於多數地位。斯大林十分善於因勢利導，注意發揮年輕黨員和各級領導人的作用，在總書記周圍聚集了一批黨的積極分子和骨幹，而托洛茨基始終處在被動的地位。
托洛茨基並沒有就此退卻。他召集了一些觀點一致的老黨員聯合簽發了一份“46人聲明”。他們的聲明信的內容是很尖銳的，是毫不客氣的，正如過去批評列寧時一樣。聲明指責中央“沒有繼續前進的計劃”，執行的是“工業硬性集中”、“收緊對農民的政策”、實行“勞動軍事化”的經濟路線。
奧爾忠尼啟則成為了路線鬥爭的犧牲品。他自殺後，斯大林親自為其抬棺送行。總書記斯大林仍然不動聲色，他仔細地注視著對手的活動，讓對手盡情出擊而不對他進行反攻。直到托洛茨基把黨內鬥爭擴展到全國的時候，斯大林身先士卒，他率領中央一班人馬前往全國各地，組成強大的反托攻勢，在各地黨組織的會議上對托洛茨基進行猛烈的批判。參加這個批判大軍的有：季諾維也夫、加米涅夫、布哈林、加裏寧、捷爾任斯基、基洛夫等。他們都是政治理論家、黨中央的鐵腕人物和權威人士。廣大黨員和基層幹部站在黨中央一邊。隻有在知識分子較多的大學支部才有托洛茨基的市場。
在1924年1月17日的俄共（布）第十三次代表會議上，斯大林在報告中第一次宣讀了黨在十大通過的《關於黨的統一的決議》中的第7條。這條規定是列寧親自起草、並在十大會議上通過的。但這一條一直沒有公布於眾。現在，斯大林把它公開出來，用以反對黨內派別活動。這是打擊反對派的一發重型炮彈。對於托洛茨基來說，這確實是致命的一擊。在報告中，斯大林從總體上列舉了托洛茨基的六個錯誤。他說：第一條錯誤就在於：托洛茨基發表的文章與中央委員會的決議相對立。在斯大林羅列的這六個錯誤中，最根本的也是斯大林最敏感的隻有一條，那就是托洛茨基不該指出“黨的機關存在官僚主義”。
斯大林始終舉著黨和列寧的旗幟，他在黨內始終占據著被多數擁護的優勢地位。由於他善於誘導和發動黨員群眾，支持托洛茨基的人越來越少了。
在1924年5月23日召開的俄共（布）第十三次代表大會上，斯大林又一次對托洛茨基進行了係統而嚴厲的批判。此時，列寧已經逝世，斯大林對反托鬥爭更加充滿了信心。
托洛茨基在黨的會議上連續受到譴責以後，感到心灰意冷，無心過問黨中央的工作。由於身體和情緒的原因，他離開莫斯科，到鄉間養病，並從事理論研究和寫作。
1925年1月，托洛茨基被解除了軍事委員會主席職務，而且沒有委派其他工作。這對托洛茨基來說，簡直是無法忍受的。從性格上看，他是個不知疲倦的工作狂，他不甘心過清靜悠閑的日子。
1925年春，托洛茨基來到克裏姆林宮要求工作。於是，他得到三項任命。電氣技術管理局局長、工業科技委員會主任、租賃委員會主席。一個在政治上頗有建樹的理論家將要去改行搞業務工作。這跟托洛茨基的能力、經曆和威望似乎根本不相稱。但他沒有選擇的餘地，對於政治上的失敗者，這已經是寬宏的處理了。於是，他接受任命，開始從事技術工作。
為了徹底擊敗對手，斯大林不知花費了多少個日夜，刻苦鑽研列寧著作和黨內鬥爭的曆史，並由此總結出帶有普遍規律性的結論。這個結論就是：“聯共（布）是通過克服黨內矛盾而成長和鞏固起來的。以鬥爭來克服黨內意見分歧是我們黨的發展規律。”
1926年12月7日，斯大林在共產國際執行委員會第七次擴大全會上，作了一篇題為《再論我們黨內的社會民主主義傾向》的長篇報告。這篇報告，加上12月13日的結論總共約有8萬字，大約是斯大林一生中所作的報告中最長的一篇。其內容都是針對反對派的。
反對派麵對這種強大的輿論壓力，幾乎要土崩瓦解了。他們的首領暫時放棄了行動計劃，兩派處於一段休戰狀態。1927年初的幾個月，斯大林的反對者季諾維也夫在考慮向斯大林投降，托洛茨基還在等待新的進攻時機。黨內顯得少有的平靜。不過這隻是一種表麵現象。
由於和斯大林的矛盾，由於和“聯合反對派”的共同活動，托洛茨基終於遭到噩運。1928年1月，4名便衣警察敲開托洛茨基的房門，強行將他帶走。托洛茨基拚命反抗，但無濟於事。當他們把他拖到樓下時，秘書急切地想要阻攔。結果，秘書也被逮捕了。
托派支持者聽說1月16日將要把托洛茨基流放到中亞去。他們提前趕往火車站，他們在車廂頂上豎起一幅托洛茨基本人畫像。此時有人截住火車，抓住車廂，要與托洛茨基見麵，引起車站上一片混亂。警察逮捕了一些鬧事者，而托洛茨基仍在看守所裏等待著。警方通知他啟程日期延至兩天之後。可是，第二天上午，警察就向他出示了逮捕證，並宣布立即押往阿拉木圖（靠近中國的新疆省）。由於這次的保密工作很成功，火車站上空空****，火車順利地開到目的地。
阿拉木圖在天山腳下，伊犁河畔，它與中國接壤，居住著稀疏的哈薩克人。他們喜愛打獵和捕魚。托洛茨基也分享了這種樂趣。在那裏流放的一年中，他盡情享受大自然的美景，盡管在遠離首都的邊塞，托洛茨基幾乎一天也沒有停止過工作。他與遠方的老朋友、老部下始終保持著密切的書信來往。即使是在他得知自己的26歲的小女兒尼娜去世的消息時也沒有停筆。
托洛茨基的幹勁和頑強精神使斯大林感到震驚。斯大林下決心切斷他與莫斯科的聯係。十月革命紀念日那天，很多人給托洛茨基發去慰問的電報，而他卻一封也沒有接到。
12月中旬，莫斯科的特派員專程來到阿拉木圖，向托洛茨基提出口頭最後通牒，勒令他徹底停止一切活動，否則將會改變他的生活條件和居住地點，使他完全脫離政治生活。
聽完這個口頭通牒後，托洛茨基立即給聯共（布）中央委員會和共產國際執行委員會寫了一封態度十分強硬的公開信。
信中表示他決不會放棄政治鬥爭，並指責斯大林派在搞“**裸的‘熱月政變一。信中充滿了反抗的**和對斯大林的控告，字裏行間表現出對斯大林的輕蔑和鄙視。
斯大林會見德國外交部長裏賓特洛甫，隨後兩國簽署了《蘇德互不侵犯條約》。這封約6,000字的複信迫使斯大林不得不下決心把托洛茨基開除國籍。
1929年1月20日，內務部的10餘名武裝警察來到托洛茨基的住所，向他宣讀判決書。該判決書說：
“經審理公民列夫·達維多維奇·托洛茨基一案，據刑法58條10款，被定為反革命案，該犯犯有組織反蘇維埃非法政黨的罪行。該黨近期活動旨在挑撥反蘇活動，並策劃反蘇維埃政權的武裝鬥爭。判決將公民列夫·達維多維奇·托洛茨基驅逐出蘇聯國境。”
兩天以後，托洛茨基和他的妻子、兒子隨押送人員啟程了。經過幾番周折，直到3月初，他們乘坐的“伊裏奇”號貨輪才開到目的地——土耳其的君士坦丁堡。從此，托洛茨基開始了長達11年的流亡生活，先後在土耳其、法國、挪威、墨西哥等國居住。他與斯大林的鬥爭始終都很激烈，一直到他1940年遇刺身亡為止。
斯大林認為，蘇聯的經濟成就越大，資本主義、階級敵人的破壞企圖也就越大，因此，必須時刻保持警惕，以肅清這些敵人。於是，在“揭發和鏟除人民敵人”的號召下，一場大規模的肅反和清黨運動在全國、全黨轟轟烈烈地展開了。斯大林要挖出隱藏在黨內外的一切敵人，一個不留地全部肅清。一場震驚世界的肅反運動持續了4年之久。由於斯大林認識上的偏差，由於壞人乘機鑽進了掌握人民生死大權的肅反部門，使得成千上萬的人遭到了無辜的株連。
1937年1月23日，在莫斯科舉行了第二次表演性質的大審判。17名被告被說成是反蘇托洛茨基中心的領導人。他們勾結德國和日本政府陰謀推翻蘇維埃政權。他們的主要陰謀是破壞經濟。托洛茨基被指責為這一陰謀的可惡的指揮者。
總檢察長維辛斯基操縱著這次審判，他在處理這一案件時顯得沉著而溫和，因為被告人的表現使他感到輕鬆。一個目睹公審現場的人後來這樣寫道：“所有的被告好像都在爭相往自己的頭上堆加罪名——‘是我的莫大罪過’。幾乎用不著讓他們同原告對質。”結果，所有受審的人都被判為有罪，其中13人被槍決，4人被判處10年徒刑。
這次審訊後不久，謝爾戈·奧爾忠尼啟則就死了。奧爾忠尼啟則是斯大林最老的同事和朋友之一。1912年，是他向列寧談起了斯大林並幫助把斯大林首次選入中央委員會。10年以後，他們合作解決了格魯吉亞問題。在反對各類反對派的鬥爭中，他都熱心地同斯大林合作，並且建立了深厚的革命友誼。奧爾忠尼啟則接受斯大林的領導，但作為一個老同誌，並作為政治局委員和主管重工業的人民委員，他直言不諱。據說，他是唯一向斯大林提出反對內務人民委員部的活動的人，並為一些被捕的人說情。但是，隨著他的對手和敵人拉夫倫季·貝利亞的影響和地位的上升，他的影響卻下降了。
1937年2月17日上午，奧爾忠尼啟則和斯大林見麵時大吵了一架。他氣憤地抗議內務人民委員部根據葉諾夫的指示搜查了他在克裏姆林宮的住處。斯大林冷靜地回答說：“內務人民委員部也可以搜查我的住處。這沒有什麽奇怪的。”奧爾忠尼啟則無疑抱怨了這次清洗運動以及對他的朋友和人民委員部中的高級幹部的逮捕。兩個人顯然都發了脾氣，長期的戰友情誼和同誌般的友情從此破裂了。
奧爾忠尼啟則回到了他的辦公室，伏案工作到第二天淩晨兩點鍾才回到自己的住處。根據他的妻子齊娜伊達·加甫利洛夫娜的證詞說，他後來不肯起床。起床後又拒絕會見來訪的朋友，也不吃飯，而一整天都在那裏寫東西。下午5點半的時候，她聽到了槍聲，就跑進房間，看到他已經死了，床單上濺滿了鮮血。她立即打電話給斯大林，斯大林在政治局的其他委員以及葉諾夫的陪同下來到奧爾忠尼啟則的住處。
1937年2月18日，報紙上刊登了奧爾忠尼啟則心髒病突然發作去世的消息。官方的診斷書是由4位有名望的醫生聯名簽署的，其中3人不久後就被捕並被處決了。
內務人民委員部逮捕了除他妻子以外的家庭成員，以及同他一起工作過的人，甚至連他別墅的守門員也沒有放過。雖然一直有謠傳，但是人們一般都以為他是患心髒病死的，直到1956年赫魯曉夫才宣布他是自殺的。
然而，大清洗真正的結束是在1938年7月，這時，拉夫倫季·貝利亞被任命為葉諾夫的副手。他立即主管起內務人民委員部，雖然葉諾夫直到1938年12月才被調離該部去擔任內陸水運人民委員。過後不久他便被處決了。
內務人民委員部中的許多官員因對無辜的人搞逼供而被審判和處決了，另一些人則被送往勞改營。忠誠的黨員在經曆了漫長的惡夢之後對清洗內務人民委員部感到寬慰。這證實了他們的看法，即法西斯分子滲入了保安部門和政府之中，他們要對葉諾夫時期的殘酷迫害和冤案負責。這種解釋得到了官方的鼓勵，從而也在一定程度上開脫了斯大林和政治局的責任。
斯大林直接控製著蘇聯每一部門的政策並投身於武裝部隊的建設和外交政策的執行，他不可能一直過細地掌管清洗運動。他意識到內務人民委員部逮捕了許多無辜的人，在“古格拉”勞改營中的有些人，許多人根本沒有對黨、對社會主義不忠誠的汙點，是無辜的。在任何一場如此大規模的運動中，他們是不可避免的犧牲品。但他對這種浪費人才的做法不滿。飛機設計師雅柯夫列夫記述了1940年他和斯大林的一次談話，斯大林大聲說道：“葉諾夫是隻耗子，他在1938年殺了許多無辜的人。為此，我們把他處決了。”
在這些可怕的年月裏，斯大林顯示出非凡的自製力，沒有失去他的目標，他知道他在幹什麽。他相信，被清洗的大多數人原則上是犯了罪的，他以一種政治家的冷酷而行事。然而，斯大林不可能了解或研究這麽多人的案子，他不得不接受像葉諾夫這樣的他所厭惡和不信任的人的意見。然而，斯大林也會按這樣的原則行事，即為了達到目的，這種犧牲是完全合理的。他還更進一步堅持認為，內務人民委員部在清洗叛徒的時候，對可能造成背叛的次要根源也不能放過。圖哈切夫斯基等人的家屬以及接近他們的人都被逮捕並被流放到西伯利亞。在這裏，感情和良心沒有起任何作用，一切都服從於他要建設一個強大的、攻無不克的社會主義蘇聯這一目標。
肅反和清黨運動結束之時，正是蘇聯第二個五年計劃結束和第三個五年計劃開始之際。毋庸置疑，肅反和清黨運動對蘇聯人民和黨的事業造成了不小的損失，然而，由於經濟工作一直沒有放鬆，由於第一個五年計劃奠定的良好基礎，到這時，蘇聯仍然在經濟上取得了重大成就，充分顯示了社會主義製度的優越性。到30年代末期，蘇聯的工業力量已經趕上了德國，在礦業的總產量、基本建設和工廠設施等方麵已經接近歐洲大陸所有最發達的國家。而這些國家是在外國資本家的幫助下，經過了四分之三個世紀深入的工業化才成功的。另外一些大陸國家，幾年之前蘇聯人還難望其項背，而現在已經被拋到後邊去了。工業革命從蘇聯中部和西部發展到其他亞洲部分遙遠的不毛之地。
集體農莊也開始產生積極的成果。到30年代末期，蘇聯農業已經克服了30年代早期的衰退；工業也終於能夠大量地供給拖拉機、聯合收割機和其他農機具，集體農莊在不長的時間裏，實現了相當高度的機械化。