1847年初，赫爾岑攜家到歐洲，大部分時間住在英國和法國，成了政治流亡者。1848年歐洲革命的失敗，使赫爾岑思想上發生危機。他對西歐的社會主義運動感到失望，轉而寄希望於日益高漲的俄國農民鬥爭，錯誤地認為俄國可以在保留宗法製的情況下通過農民村社實現社會主義，這又為後來的民粹主義奠定了基礎。但即使在思想最矛盾甚至悲觀失望的時候，他也沒有停止過反對封建專製的鬥爭。1853年他在倫敦建立自由俄羅斯印刷所，後又和奧加遼夫一起在那裏出版《北極星》和《警鍾》期刊，登載揭露沙皇專製製度的文學作品和各種文章、資料，宣傳打倒地主、解放農民的民主思想。這些刊物當時被大量秘密運回俄國，促進了解放運動的發展。到了1870年，由於馬克思和恩格斯領導下第一國際的積極活動，他又在工人階級身上看到未來社會的希望。
在流亡期間，赫爾岑還寫了一部包括日記、書信、隨筆、政論和雜感的長篇回憶錄《往事與隨想》。作者自稱它是"曆史在偶然出現於其道路上的一個人身上的反映"。全書共7卷，記述了從十二月黨人起義到巴黎公社前夕的半個世紀裏俄國和西歐的社會生活及革命事件，在廣闊的曆史背景下描寫了形形色色的人物，把重大社會事件同作家個人的生活道路、思想發展緊密結合在一起，而貫穿其中的主要線索，是他一生對革命真理的不倦探索和對光明未來的堅定信念。這是一部獨特的文學作品，它不僅內容豐富，思想深廣，文筆也生動活潑。