共產黨成立後，將城市工人運動視作工作核心，各地黨組織紛紛著手領導“工運”，北京成立了地方執行委員會，下設一支部，後來又分為東城和西城兩個支部。李大釗由於在北大任教，教學任務繁重，同時不能長時間離開北京，因此未在中共中央擔任領導職務，而是代表黨中央負責指導北方地區黨的工作，
1922 年到1923 年，中國迎來第一次“工運”**，李大釗在其中發揮了重要作用。早在“五四運動”之後，李大釗便派人到長辛店的鐵路工人中間開展工作。創辦了長辛店勞動補習學校，為北方鐵路工人運動培養了第一批骨幹力量。此後還在京、津、唐各路礦工廠開辦勞動補習學校。
中國共產黨成立後，長辛店工人俱樂部作為工人自己的工會而成立。其後，北方各地紛紛效仿，建立工人俱樂部，北方鐵路係統中也出現了最初的工會組織。與此同時，北京城內也建立起行業工會，包括北京機器工業研究會、電氣工會、前門工人俱樂部等。
1922 年1 月，香港海員大罷工的爆發帶動起中國第一次“工運”**，李大釗在北京遙相呼應，8 月24 日長辛店工人宣布罷工，成為北方工人運動的起點，如同星星之火，使北方工運蔓延開來。9 月4 日，京奉鐵路山海關機器廠工人罷工；10 月23 日，開灤煤礦工人罷工；10 月27 日，京綏鐵路車務工人罷工；11 月，京奉鐵路唐山製造廠工人罷工；12 月15 日，正太路石家莊機器廠工人罷工……與此同時，李大釗還領導了北方最早的農民運動，加強了工農之間的聯係。
1922 年7 月，在中國共產黨第二次代表大會上，李大釗當選為中央委員。這次會議確定了聯合國民黨建立民主聯合戰線的提議，由於並沒有討論具體與國民黨合作的方式，為此，中共中央於當年8 月在西湖召開特別會議，會上，馬林遵照共產國際的指示，提議與國民黨實行黨內合作，即共產黨員以個人身份加入國民黨。
陳獨秀等人均表示反對，讚成實行黨外合作。雙方意見對立，劍拔張弩，李大釗見狀，趕緊站起來勸慰大家，同時也對黨內合作提出質疑。最終經過協商，達成中共黨員以個人身份加入國民黨，以實現國共黨內合作的目的。
會後，李大釗和陳獨秀等人先後拜訪了孫中山。李大釗的一位老鄉宋仲彬正在孫中山的總部做總務工作，負責財政、後勤等事務，在宋仲彬的陪同下，李大釗、林伯渠等人來到總部會客廳，受到孫中山的熱情接待。
此時孫中山因反擊陳炯明失敗而避居上海，同時亦無法從美、英、日等國獲得援助，正陷入困境之中，對共產黨人加入國民黨深表讚同，並親自主盟，令李大釗加入國民黨，成為共產黨中第一人。陳獨秀、張國燾、張太雷、蔡和森等中共中央領導人隨後也加入了國民黨。
在“大三元”飯店，孫中山為李大釗一行接風洗塵。令李大釗頗感意外的是，宴會上除了孫中山、宋仲彬外，當時作陪的有國民黨元老吳稚暉、邵力子等人，卻沒見到故友孫渤蘭。孫渤蘭是中華革命黨改組為中國國民黨後的要員，這種場合理應出席，回到宋仲彬為他在上海安排下榻的公寓後，李大釗向宋仲彬說出自己的疑惑，詢問孫渤蘭未到場原因。宋仲彬支吾了一陣，才說：
“國民黨內早已分為兩派，一派是以孫先生為首的大孫派，一派則是以渤蘭為首的小孫派，兩派經常因政見不合發生摩擦，如今孫先生陷入困境，渤蘭打算率小孫派投靠北洋政府，為此兩派矛盾激化，因此這種場合自然不會通知孫渤蘭出席。”
宋仲彬的話讓李大釗頗感不安，李大釗此次來滬是為了國共合作，若國民黨內部不能團結統一，勢必會影響到國共合作，而且共產黨身負幫助孫中山改組國民黨的目的，因此他決定設法阻止國民黨內部分裂。
第二天，李大釗再次拜訪孫中山，提出會見孫渤蘭，從中斡旋，挽回孫渤蘭，得到孫中山的讚同。隨後，由宋仲彬安排，當晚在總部中客廳，李大釗見到了昔日好友孫渤蘭。兩人一番寒暄後，李大釗開門見山，直接問：“你和孫先生之間到底怎麽回事？”
“我在他手下做了半生，既沒升官也沒發財，仍是個平頭百姓。”老友相見，孫渤蘭也沒必要回避，直接回答說，“我算是看透了，再跟著他做下去也不會搞出什麽名堂，所以決定投靠北洋政府……”
“胡鬧！”李大釗憤然打斷孫渤蘭，道出北洋政府種種不得人心之處，又語重心長對他進行勸解。最終孫渤蘭同意再考慮考慮，不武斷行事。
在李大釗的努力下，大孫派和小孫派關係一度緩和，這就為國共合作提供了便利。在此後的一年中，李大釗為促成國共合作，四渡長江，三赴上海，兩下廣州，貢獻頗多。同時介紹蘇俄政府特使越飛與孫中山見麵會談，兩人會談後發表了《孫文越飛聯合宣言》，孫中山宣布聯俄，蘇俄則確定支持孫中山。
1924 年1 月4 日，在北大三院大禮堂，李大釗召開在京國民黨黨員大會，此時李大釗已被孫中山指定出席國民黨第一次全國代表大會，同時被指定的還有譚熙鴻、石瑛，此次會議又推選出許寶駒、張國燾、譚克敏3 人。
會議結束後的第二天，李大釗便南下廣州，途經上海時參加了中共中央召開的會議，討論中共在國民黨一大上應采取的方針、政策和應表現的態度。11日，李大釗等北京6名代表抵達廣州，住在大元帥府官舍。當晚孫中山接見李大釗等北京代表，並拿出他親自擬定的《建國大綱》，請李大釗等人傳閱並提出修改意見。
20 日，國民黨第一次全國代表大會在廣州市廣東高等師範學校召開，李大釗被孫中山先生指定為大會主席團五成員之一，並同時任三個審查委員會委員，分別負責大會宣言審查、國民黨章程審查、宣傳問題審查，並參加宣言和黨章的最後審定工作。
此次大會重新解釋了三民主義，正式確認了共產黨員、社會主義青年團員以個人名義參加國民黨的原則，標誌著以國共合作為基礎的革命統一戰線正式形成。李大釗以出色的工作被選舉為國民黨中央執行委員。在整個國共合作的準備中，李大釗付出辛勤的汗水和不可估量的貢獻。
國民黨“一大”之後，李大釗與國民黨人丁惟汾、王法勤等人在北京成立“國民黨北京執行部”，負責領導京、直、魯、豫、熱、察、綏、奉、吉、黑、內、哈爾濱、晉、甘、新等十五個省市的工作，範圍涵蓋中國北部。在李大釗的帶領下，各地建立了國民黨基層組織，促進中國革命勢力發展，李大釗因此被北洋政府稱為“北赤”，而“南赤”則為孫中山。
就在李大釗以國共合作為基礎，大力發展北方民眾運動之時，1924 年5月，擔任中共高級領導職務的張國燾在北京被軍警逮捕。張國燾向北洋政府供出李大釗是共產黨在北方的領袖，北洋政府警察總監王懷慶以“鼓動罷工”、“宣傳赤化”的罪名，下令通緝逮捕李大釗。
為了躲避軍警、特務的追捕，李大釗刮掉臉上標誌性的八字胡，喬裝成一名商人，帶著長子李葆華連夜乘火車趕往昌黎，下車後直奔五峰山，準備到山裏看守韓昌黎祠的劉克順夫婦家中躲避一時。此時李大釗心情沉重，不僅因為遭到通緝，被迫離開北京，還因為他最喜愛的小女兒鍾華剛剛因肺炎病逝。
由於喬裝打扮，劉克順見到李大釗父子倆時，竟一時沒認出。李大釗這才擠出笑容，向劉克順問好：
“大叔，是我啊，守常。”
“哎呀，是你們爺倆，怎麽這麽一身打扮，快進來。”
劉克順的老伴聽到聲音，也迎了出來，夫婦倆熱情地招待了李大釗父子。當李大釗說出目前的困境時，劉克順爽快地說：“就住在這裏吧，保證安全，想住多久住多久。”
於是，李大釗在五峰山開始了隱居生活，他每日看看書、寫寫文章，日子過得百無聊賴，直到6 月上旬的一個黃昏，李大釗曾經的同學、共產黨員於樹德來到五峰山，找到劉克順老人的家，給李大釗帶來一個好消息：“中央指示你率領中共代表團赴莫斯科參加共產國際第五次代表大會。”
於樹德興奮地說，“你需要馬上回北京，與同行代表們商議出國辦法，三日內出發。”
這個消息令李大釗萎靡的精神為之一振，籠罩心頭的陰霾一掃而光。第二天，李大釗安排人將兒子送回樂亭老家。因為在李大釗離開北京的當晚，王懷慶派出的便衣便跟蹤而至，他在北京銅幌子胡同的住宅就遭到軍警查抄，結果自然是鋪了空。第二天趙紉蘭便帶著孩子返回家鄉。他們根本不會想到，李大釗早已躲進了深山。