1927年2月23日，中共中央成立上海工人第三次武裝起義最高領導機關，下設特別軍委和特別宣委，高語罕參加了特別宣委，旋即赴漢口任《民國日報》總主筆。在蔣介石發動四一二政變之前，即發表《“反對”與“打倒”》、《這叫做“親善”》等社論，抨擊蔣介石，被譽為武漢反蔣的三尊大炮之一。
5月20日，國民黨中央黨部任命高語罕為二十軍黨代表，接替剛離去的朱德。6月中旬，國民革命軍討伐段祺瑞奉軍凱旋武漢後，高語罕被聘為第二方麵軍總指揮部秘書長，同時兼任第二方麵軍共產黨黨團書記、中央軍事政治學校武漢分校政治教官、國民黨安徽省黨部負責人、安徽省黨務幹部學校校長、四川特別委員會委員。
7月下旬，在張國燾阻撓南昌起義時，高語罕堅決反對推遲起義時間。為此，高語罕和葉劍英、葉挺、賀龍、廖乾吾在甘棠湖一條小船上進行了密謀，史稱“小劃子”會議。南昌起義後高語罕任革命委員會秘書，起草了八一南昌起義《中央委員宣言》。後來他奉周恩來之命赴香港，爭取第二方麵軍軍長張發奎。起義失敗後，他在澳門向中共中央寫了《給中共中央的報告——個人對於八一事件之經曆及意見，對中央最近策略的意見》。
1929年，高語罕同陳獨秀聯合發表《我們的政治意見書》，由他介紹入黨的學生蔣光慈、阿英、李克農等所在的中共春野支部將他開除出黨。
離開政治舞台退往書齋後，高語罕二十年如一日，始終堅持政治信念，抱定為真理而犧牲的堅定意誌和勇敢精神。他編譯了宣傳馬克思、恩格斯、列寧思想的《辯證法經典》、《理論與實踐——從辯證唯物主義出發》以及作為馬克思主義來源的《康德的辯證法》、黑格爾《曆史哲學綱要》和費希特《知識論》、《費希特的辯證法》等著作。抗戰前，他參與編寫中國內亂外禍曆史叢書中的《三朝野記》和《崇禎長編》，輯錄各種史料16種。他批判胡適的改良主義，宣傳唯物史觀，著有《中國思想界的奧伏赫變》。他始終關心青年，著有《犧牲者》、《死後》、《語體文作法》、《國文作法》、《中學作文法》、《文章評選》、《作文與人生》、《青年書信》、《青年女子書信》、《現代情書》、《讀者顧問集》、《紅樓夢寶藏六講》等。他懷念為革命犧牲的戰友，撰寫《百花亭畔》、《廣州紀遊》、《烽火歸來》、《人蜀前後》、《九死一生記》等著作，留下了大量珍貴的史料。
1935年冬天，他采訪九七老人馬相伯對時局的看法，整理《一日一談》，宣傳抗戰思想，在天津《益世報》逐日連載，時間長達3個月。1936年，他在《申報》（港版）工作並時常發表社論。抗戰開始，他從香港回國，積極投身抗戰，常在滬渝蓉等地的報紙雜誌上發表時論，表達對時局的意見。如他在1945年10月7日《新民報》社論中說：“吾人敢正告國人曰：團結談判希望不大，內戰似難避免。即勉強妥協，其為時也亦必至暫。斯言雖苦，卻將成為曆史真理！”這為後來的事變所證實。
晚年，他同相交三十餘年的陳獨秀等住在重慶江津。在陳獨秀去世後發表《參與陳獨秀先生葬儀感言》和《獨秀，你死了！》等文章，不斷撰述評價陳獨秀：“他至死還是一個正統派的共產黨。”抗戰勝利後，高語罕隨《新民報》社一起搬遷到南京。
1947年春天，高語罕患胃癌臥床不起，由原蕪湖二農學生、時任《建國日報》主編王光華送進中央醫院。4月23日晨，高語罕在中央醫院病逝。國民黨中央組織部長、原黃埔軍校同事陳立夫立即趕去吊唁並發起組織追悼會。國民黨元老、原上海大學同事於右任為高語罕題寫了墓碑。時人評價高語罕：“畢生知己陳獨秀，身後蕭條一樣寒。”