就在張聞天與博古逐步對立的過程中，張聞天與毛澤東之間逐步建立起信任與合作的關係。
早在五四時期，張聞天便已聽說過毛澤東，也閱讀過《湘江評論》。
1919 年12 月張聞天加入“少年中國學會”後，毛澤東於次年1 月也加入這個青年進步組織，在《少年中國》第1 卷第8 期上，他們都看到了彼此入會的信息。但毛澤東對這個組織的活動並不熱心，張聞天後來又三度出國留學，兩人在20 世紀20 年代素未謀麵，隻是在隨後的《少年中國》中看到對方的行蹤和事跡。
張聞天於1931 年2 月從莫斯科回國後，在上海參加黨組織工作，此時便經常聽到在中央蘇區的毛澤東的消息，那時的蘇區中央局以及臨時中央政治局對毛澤東是排斥的，受其影響，張聞天對毛澤東的態度也是如此。在1932 年10 月上旬，中央蘇區中央局在寧都會議上作出決定：毛澤東同誌回後方負責中央政府工作。
直到1933 年初，張聞天來到中央蘇區，才真正接觸毛澤東，尤其是張聞天分管政府工作後，與毛澤東接觸機會增多，對他有了逐步的了解。
在1934 年1 月召開的六屆五中全會上，張聞天被補選為中央委員，當選為中央政治局委員、中央書記處（又稱中央政治局常委會） 書記、中央黨報委員會主任。在隨後舉行的中華蘇維埃第二次全國代表大會上，張聞天取代毛澤東，當選中華蘇維埃共和國人民委員會主席，毛澤東當選連任中華蘇維埃共和國中央執行委員會主席。
單從表麵上看，張聞天在黨內的職位似乎沒有什麽變化，實際擔負的工作似乎也得到一定的重用，但這個實際工作的變動，對身處黨內高層矛盾漩渦中的張聞天，卻是一種巧妙的“排擠”。後來張聞天在延安整風中回顧這段曆史時寫道：
“派我擔任人民委員會工作，對於李德、博古同誌說來，是‘一箭雙雕’的妙計。一方麵可以把我從中央排擠出去，另一方麵又可以把毛澤東同誌從中央政府排擠出去。”
盡管如此，張聞天在實際行動中自然會服從中央的決定。從2 月開始，他將辦公地點和住所，從黨中央所在地觀音山遷至下肖區沙洲壩，住在與毛澤東相鄰的院子裏，辦公也同在一處。在共同的工作中，張聞天對毛澤東有了越來越多的了解，對毛澤東也越發敬重，每次主持人民委員會開會，張聞天都會親自或派人請毛澤東參加，並請毛澤東坐在自己身邊，十分注意聽取毛澤東的意見。
當時人民委員會經濟部由吳亮平主管，吳亮平與張聞天是留蘇同學，兩人關係非同一般。每當吳亮平有事請示張聞天，張聞天聽完匯報後，一定要讓他去隔壁請示毛澤東。
如此“親密”的接觸、共事，促成了兩人深入地交流與合作。在一些重要問題上，比如執行“共同抗日三條件”宣言、同十九路軍簽訂協定和支持、援助福建人民政府等策略上，張聞天與毛澤東的觀點完全一致。
此間，張聞天在他主編的《鬥爭》刊物上分六期連載毛澤東的兩個農村調查報告： 《興國長岡鄉的蘇維埃工作》、《上杭才溪鄉的蘇維埃工作》，同時仿效毛澤東的工作方法，下基層開展調查研究，研究基層蘇維埃的工作。
當年4月，中央蘇區出版的《區鄉蘇維埃工作》一書，標誌著張聞天與毛澤東的合作開始。這本書是毛澤東的《鄉蘇維埃怎樣工作》和張聞天的《區蘇維埃怎樣工作》的合集，兩人合著的這本小冊子，在當時對蘇區政府工作起到很好的指導作用，被譽為“蘇維埃工作經驗的結晶，寶貴的指針”。
廣昌戰役之前，張聞天和毛澤東都反對組織這場戰役，廣昌戰役失敗後，張聞天為此與博古發生激烈爭吵，這令博古對張聞天不厭其煩。7 月上旬，博古與李德商議，派張聞天去閩贛省巡視工作，借故將他支開。
接到命令後，張聞天難免有些生氣，因為他知道項英剛剛從閩贛省巡視歸來，沒有必要在這麽短時間內再派一名高層領導去閩贛省巡視。但他隻能服從，為此張聞天到閩贛巡視了45 天，8 月中旬回到瑞金時中共中央已經成立博古、李德、周恩來組成的“最高三人團”，張聞天喪失了參與最高決策的權利，紅軍戰略轉移前的準備工作和所有高級領導幹部的去留問題，都已由“最高三人團”做出了決定。
張聞天在組織人事方麵所能做的，隻是列出中央政府隨軍轉移的中級幹部名單，交給“最高三人團”批準。
當時，任人民教育委員會委員的瞿秋白被列入“留”的高級幹部名單之中，瞿秋白不願意留下，請張聞天向博古說情，張聞天以為博古會給他這個麵子，不想博古一口回絕了他：
“秋白同誌患病，不方便走，還是留下的好。”
這件事讓張聞天深感自己已經處於無權的地位。
廣昌戰役失敗後，張聞天與毛澤東都住在雲石山上的“雲山古寺”中，此時，張聞天因受排擠心中有些怨氣，加上前線紅軍失利的消息不斷傳來，更是急躁不已。在住處前的黃槲樹下，張聞天向毛澤東訴說了心中的不快，兩人互敞心扉，坦誠交談，在很多問題上達成了共識。
也就在這一段時間裏，張聞天在《紅色中華》上發表社論《一切為了保衛蘇維埃！》，從理論上對紅軍戰略大轉移作出解釋，明確指出中國革命戰爭是長期戰爭，不是幾年之內可以完全勝利的，並在實際上否定了“左”傾軍事路線進攻中的冒險主義、防禦中的保守主義、退卻中的逃跑主義，提出並闡述了靈活運用各種鬥爭方式，如退卻、縮短戰線、轉移地區等，以保存有生力量，奪取最後勝利的觀點。
張聞天的這篇社論，為長征的精神準備提供了理論依據。同時意味著張聞天的思想高度進入一個新的層麵，而他提出的關於紅軍轉移的若幹戰略思想，與毛澤東的觀點基本一致。
10 月10 日，中央紅軍開始了戰略大轉移，張聞天與毛澤東、王稼祥一起從瑞金的梅坑出發，突圍西征。他們一起行軍、一起宿營，吃住在一起，被稱作“中央隊三人團”。當時毛澤東和王稼祥一病一傷，坐擔架行軍，張聞天身體沒什麽問題，基本騎馬行軍。由於博古、李德、周恩來等人忙著指揮部隊，沒有時間顧及他們，給三個人交往、交流、交換意見提供了機會。
他們的話題自然圍繞著第五次反“圍剿”的失敗，經過一路探討，張聞天與毛澤東的思想和感情越來越接近，認識到第五次反“圍剿”的失敗原因主要是主觀上的，是軍事領導方麵錯誤的戰略戰術所導致，正如張聞天後來敘述這段經曆時所說：
“長征出發後，我同毛澤東、王稼祥二同誌住一起。毛澤東同誌開始對我們解釋第五次反‘圍剿’中央在軍事領導上的錯誤，我很快接受了他的意見，並且在政治局內開始了反對李德、博古的鬥爭，一直到遵義會議。”
張聞天在政治局內反對李德、博古的鬥爭開始於湘江戰役之後。那是11 月底，在突破敵人第四道也是最後一道封鎖線的湘江戰役中，紅軍在錯誤的指揮下損失慘重，12 月初，當剩下的不足4 萬紅軍行進到老山界時，張聞天立即同毛澤東、王稼祥一起，在政治局內公開批評中央軍事指揮的錯誤。在12 月12 日的通道會議上，李德堅持西征之初的設想：到湘西與二、六軍團會合，博古對李德采取支持態度。
在這關係紅軍命運的生死關頭，毛澤東提出了自己的觀點。他認為，紅軍北上湘西與二、六軍團會合無疑是自投羅網，鑽進蔣介石“請君入甕”的圈套，隻有向敵人防禦力量最薄弱的地方進攻，才能擺脫困境。毛澤東根據自己搜集到的敵情，詳細分析了敵我雙方的現狀，認為貴州敵人力量最弱，進軍貴州可以爭取主動，同時可以使部隊得到休整。
毛澤東的主張早已被張聞天、王稼祥所認同，由於周恩來也支持毛澤東，毛澤東的主張很快獲得大多數與會者的支持，並最終通過。於是，紅軍改變方向，向貴州進軍。12 月17 日紅軍攻下黎平後，18 日在黎平縣城召開中央政治局會議，正式肯定了毛澤東西進貴州的戰略方針，通過《關於在川黔邊建立根據地的決議》，放棄向湘西前進的計劃，改向黔北進軍。
12 月20 日，中共中央負責人所在的軍委縱隊抵達黃平，張聞天和王稼祥在一片橘林中休息時，自然而然地談起了紅軍的前途，王稼祥憂心忡忡地問：
“紅軍的最終目標在哪裏呢？”
“還沒有一個確定的目標，”張聞天歎了口氣說，“照這樣打下去也不是辦法，還是要毛澤東同誌出來負責才行。毛澤東同誌打仗有辦法，比我們都有辦法。”
此時，張聞天已經開始考慮變換軍事領導人的問題。王稼祥將張聞天的想法告訴了彭德懷，又告訴了毛澤東，消息在劉伯承等將領中傳開，大家均表示讚成。
正如後來周恩來回憶所說：“從湘桂黔交界處，毛主席、稼祥、洛甫即批評軍事路線，一路開會爭論。從老山界到黎平，在黎平爭論尤其激烈。”
美國記者哈裏森·索爾茲伯裏曾將毛澤東、張聞天、王稼祥三人自長征開始到遵義會議取得的勝利，歸結為“擔架上的‘陰謀’”，張聞天也說：“他（指毛澤東） 要我同他和王稼祥同誌住在一起，這樣就形成了以毛澤東同誌為首的反對李德、博古領導的‘中央隊’三人集團，給遵義會議的偉大勝利打下了物質基礎。”
1935 年1 月7 日，紅軍占領遵義城。9 日，張聞天隨軍委縱隊進駐遵義，和毛澤東、王稼祥住在遵義新城古寺巷的一幢兩層花園洋房裏。那是國民黨旅長易少荃的私宅，小樓四周砌有高高的灰磚牆。毛澤東與王稼祥住在樓上，張聞天住在樓下。三人住在一起，為討論如何開好遵義會議，提供了便利條件。
1 月15 日至17日，政治局委員和軍事領導人20 餘人在遵義老城子尹路80 號召開政治局擴大會議，即遵義會議。
這次會議議題是對第五次反“圍剿”和紅軍長征初期進行總結，博古主持會議並作了報告，周恩來作了副報告。之後，張聞天起身發言，他手舉一份提綱，侃侃而談，細數第五次反“圍剿”中和紅軍長征初期種種錯誤的軍事領導，徹底否定單純防禦的軍事路線。這份提綱，乃“中央隊三人團”的集體結晶，其中以毛澤東的觀點為主導，但由中央政治局委員、書記處書記、人民委員會主席、在遵義會議參會者中黨內地位僅次於博古的張聞天講出來，其分量不言而喻。
這次會議撤銷了李德的軍權，但博古仍是黨的一把手，周恩來是“最高軍事首長”、“軍事上下最後決心的負責者”。會議最後決定，毛澤東選為常委，指定張聞天起草決議，常委中再進行適當的分工。此時，黨中央總負責人雖然沒有變換，但博古已經無力領導中央工作。
1 月19 日，中央紅軍自遵義地區北上，向土城方向前進。2 月5 日晚上，在雲貴川三省交界處名叫“雞鳴三省”的村子裏，張聞天對毛澤東說：“博古在遵義會議中受到大家的批判，思想上並沒有想通，還有抵觸情緒，恐怕再領導下去會有很多困難，大家也會不服氣。”
毛澤東點點頭，表示同意，隨即說：“這個事情要與周恩來還有其他政治局常委交換意見，才能做決定。”
當天，毛澤東找到周恩來，說明張聞天的意見。周恩來沒有提出異議，遵義會議以後，博古的領導工作已明顯遇到困難，因此周恩來提議，博古下去以後還是毛澤東領導比較合適。毛澤東說：“不對，應該讓洛甫做一個時期。”
毛澤東的考慮是很周全的，由於共產國際信任留蘇學生，由張聞天出任最高領導一來對莫斯科好交代，二來可以團結一大批留蘇歸來的幹部。
周恩來同意了毛澤東的提議，找到博古溝通。博古很幹脆地答應了周恩來的提議，隨後將代表著中共中央總書記權力與身份的兩隻鐵皮公文箱送到了張聞天的駐地。從此張聞天成為中共中央最高領導人，開始了他一生中最輝煌的時期。