1912年4月，高語罕冒死為韓衍收屍，料理完後事就向孫毓筠請了一筆官費，從青島赴日留學，住在若野町。到日本留學是因為他相信政治是救國的唯一方法，語罕潛心研究政治，預備回國後在政治舞台上“踢一腳”。這時他正式以“高語罕”作為自己的名字。
國內，袁世凱在取代孫中山成為中華民國臨時大總統後，逐漸大權獨攬。在善後大借款和完成南下軍事部署後，袁世凱即下令罷免江西、安徽、廣東三省的國民黨籍都督李烈鈞、柏文蔚和胡漢民。1913年7月12日，李烈鈞等人在江西湖口起義，宣布獨立，發起“二次革命”。
7月17日，安徽也宣布獨立。陳獨秀回到安慶，再次出任都督府秘書長。語罕也從日本回國，準備參加“二次革命”。不久，安徽獨立失敗，陳獨秀被列為第一名要犯。因為在安徽無法藏身，遂潛往上海。語罕這時住在上海靜安寺民厚裏留日同學劉希平處，常常同盧仲農、王肖山等商討對策，有時也去漁陽裏看望陳獨秀。
稍後，陳獨秀又潛至日本，語罕也回到東京繼續求學。陳獨秀幫助章士釗編輯《甲寅雜誌》，常常以文會友，同李大釗、高一涵、易白沙、張東蓀、梁漱溟等後來新文化運動中的領軍人物交往頻繁，語罕亦參與其中。李大釗也組織神州學會反對袁世凱，後又組織政治經濟學會從事研究，語罕也經常參加活動。
此時，安徽新任都督倪嗣衝對與革命黨有關係的語罕不放心，上任不久就把語罕的公費停止了。為了解決生計問題，語罕一麵埋頭讀書，一麵撰寫了大量的文章，就此掙點稿費補貼日常生活。由於生活異常艱難，語罕在1914年底回到上海，同陳延年等辦了“正德小學”，專門教育亡命上海的革命黨人子弟。
語罕一邊辦學，一邊在《民國日報》副刊上投稿。他還經常在《民呼日報》、《民籲日報》、《民立報》（是同一種報紙，因袁世凱迫害，先後兩次改名）上發表文章。
上海的《神州日報》是同盟會的機關報，語罕在該報上為韓衍的《青年軍講義》作疏箋，每天發千把字，一是賣文度日，二是紀念韓衍，以發揚青年軍的革命精神。
1915年6月，陳獨秀從日本回國，在上海創辦《青年雜誌》，次年9月改名為《新青年》。陳獨秀吸取辛亥革命沒有長時期宣傳教育的教訓，決定以思想文化運動為先導，發誓“讓我辦十年雜誌，全國思想都改觀”。
語罕積極幫助陳獨秀創辦《新青年》。他在《青年雜誌》第1卷上就連續發表《青年之敵》和《青年與國家之前途》，論述了家庭、學校和社會對青年前途的阻礙，探討了生死問題等人生之究竟，論述了國家之起源以及國民之責任：“吾青年當進德修業之時，正為世儲才之際，知其障礙而去之，識其究竟而皈之，明其責任而負之。中庸思辨之學、大學知止之道，不可一日忽也！不可一日忽也！”
語罕還在《新青年》第2卷3、4、5號以“淮陰釣叟”為筆名發表了《青島茹痛記》，揭露德、日帝國主義在山東的罪惡。兩年後，巴黎和會上正是因青島問題成為導火索，引發了五四愛國運動，而這與之前革命誌士們的輿論工作是分不開的。
在《新青年》第7卷第6號勞動節紀念號上，語罕又發表了《蕪湖勞動狀況》，詳細介紹了當時蕪湖勞動界的組成、收入、生活、教育等方麵的情況，反映出中國工人運動問題越來越受到人們重視，也反映出中國社會結構和社會思潮發生的巨大變化。
以《新青年》為重要標誌的新文化運動，是對辛亥革命在思想文化運動方麵的補課，起了巨大的思想解放作用。由於高語罕在其中作用突出，他被時人稱為“五四洪流中新文化運動的健將”。