1912年4月,高語罕冒死為韓衍收屍,料理完後事就向孫毓筠請了一筆官費,從青島赴日留學,住在若野町。到日本留學是因為他相信政治是救國的唯一方法,語罕潛心研究政治,預備回國後在政治舞台上“踢一腳”。這時他正式以“高語罕”作為自己的名字。
國內,袁世凱在取代孫中山成為中華民國臨時大總統後,逐漸大權獨攬。在善後大借款和完成南下軍事部署後,袁世凱即下令罷免江西、安徽、廣東三省的國民黨籍都督李烈鈞、柏文蔚和胡漢民。1913年7月12日,李烈鈞等人在江西湖口起義,宣布獨立,發起“二次革命”。
7月17日,安徽也宣布獨立。陳獨秀回到安慶,再次出任都督府秘書長。語罕也從日本回國,準備參加“二次革命”。不久,安徽獨立失敗,陳獨秀被列為第一名要犯。因為在安徽無法藏身,遂潛往上海。語罕這時住在上海靜安寺民厚裏留日同學劉希平處,常常同盧仲農、王肖山等商討對策,有時也去漁陽裏看望陳獨秀。
稍後,陳獨秀又潛至日本,語罕也回到東京繼續求學。陳獨秀幫助章士釗編輯《甲寅雜誌》,常常以文會友,同李大釗、高一涵、易白沙、張東蓀、梁漱溟等後來新文化運動中的領軍人物交往頻繁,語罕亦參與其中。李大釗也組織神州學會反對袁世凱,後又組織政治經濟學會從事研究,語罕也經常參加活動。
此時,安徽新任都督倪嗣衝對與革命黨有關係的語罕不放心,上任不久就把語罕的公費停止了。為了解決生計問題,語罕一麵埋頭讀書,一麵撰寫了大量的文章,就此掙點稿費補貼日常生活。由於生活異常艱難,語罕在1914年底回到上海,同陳延年等辦了“正德小學”,專門教育亡命上海的革命黨人子弟。
語罕一邊辦學,一邊在《民國日報》副刊上投稿。他還經常在《民呼日報》、《民籲日報》、《民立報》(是同一種報紙,因袁世凱迫害,先後兩次改名)上發表文章。
上海的《神州日報》是同盟會的機關報,語罕在該報上為韓衍的《青年軍講義》作疏箋,每天發千把字,一是賣文度日,二是紀念韓衍,以發揚青年軍的革命精神。
1915年6月,陳獨秀從日本回國,在上海創辦《青年雜誌》,次年9月改名為《新青年》。陳獨秀吸取辛亥革命沒有長時期宣傳教育的教訓,決定以思想文化運動為先導,發誓“讓我辦十年雜誌,全國思想都改觀”。
語罕積極幫助陳獨秀創辦《新青年》。他在《青年雜誌》第1卷上就連續發表《青年之敵》和《青年與國家之前途》,論述了家庭、學校和社會對青年前途的阻礙,探討了生死問題等人生之究竟,論述了國家之起源以及國民之責任:“吾青年當進德修業之時,正為世儲才之際,知其障礙而去之,識其究竟而皈之,明其責任而負之。中庸思辨之學、大學知止之道,不可一日忽也!不可一日忽也!”
語罕還在《新青年》第2卷3、4、5號以“淮陰釣叟”為筆名發表了《青島茹痛記》,揭露德、日帝國主義在山東的罪惡。兩年後,巴黎和會上正是因青島問題成為導火索,引發了五四愛國運動,而這與之前革命誌士們的輿論工作是分不開的。
在《新青年》第7卷第6號勞動節紀念號上,語罕又發表了《蕪湖勞動狀況》,詳細介紹了當時蕪湖勞動界的組成、收入、生活、教育等方麵的情況,反映出中國工人運動問題越來越受到人們重視,也反映出中國社會結構和社會思潮發生的巨大變化。
以《新青年》為重要標誌的新文化運動,是對辛亥革命在思想文化運動方麵的補課,起了巨大的思想解放作用。由於高語罕在其中作用突出,他被時人稱為“五四洪流中新文化運動的健將”。