1926年的春天是一個溫暖美好的季節，約翰·馮·諾依曼跋涉千裏來到德國，在一個風和日麗的早晨見到了他的偶像希爾伯特。當時，希爾伯特在哥廷根大學任教，約翰·馮·諾依曼此次前來是為了給他當助手。約翰·馮·諾依曼非常珍惜這次能在希爾伯特身邊學習的機會，每次遇到數學難題他都會第一時間向希爾伯特請教。一年之後，希爾伯特認為約翰·馮·諾依曼已經能夠出師，因為他在數學領域的研究已經趨於成熟。
此後，約翰·馮·諾依曼真正從學生身份蛻變成一名出色的講師。在1927年到1929年期間，他在德國柏林大學兼職講師。他一邊準備資料，認真備課教導學生，一邊在空閑時間整理和發表論文。他所發表的論文主要是關於量子理論、集合論和代數方麵的文章，這些論文一經發表，就在當時的數學領域掀起波瀾。他教的學生也都為能有他這樣的老師而感到無比驕傲。
1927年的時候，約翰·馮·諾依曼就已經在數學領域很有名氣了。這一年，他受到波蘭數學界的邀請，到利沃夫出席了當時的數學家會議。在會議上，約翰·馮·諾依曼的理論大放異彩，人們為他在數學基礎和集合領域的貢獻感到震驚。
在約翰·馮·諾依曼的教學生涯剛剛開始時，也就是在1929年，他受到德國漢堡大學的邀請，擔任該學校的兼職講師。1930年對約翰·馮·諾依曼比較特殊，因為這一年他來到了朝思暮想的美國，因為美國的學術氛圍比其他國家的學術氛圍更濃。他此次前往美國主要有兩個目的，一是擔任普林斯頓大學的客座講師，二是與美國的數學家相互切磋和學習。作為發達國家，美國是一個善於會集和留住人才的國家。約翰·馮·諾依曼在擔任客座講師不久後，就被普林斯頓大學升任為客座教授。
約翰·馮·諾依曼的任教生涯輾轉於美國與德國之間。在德國大學任教期間，他用數學方法計算過自己擔任理想職位的概率。在他看來，在德國大學中，他所期待的職位已經很少，但成為教授一直是他努力的目標。而在未來三年內，能夠評為教授的講師名額不超過三個，但參加競爭的大學講師有40多位。為了爭取教授名額，約翰·馮·諾依曼每到夏季就會從美國返回歐洲任教一段時間。在1933年之前的幾年裏，他輾轉於美國幾所名校和德國幾所名校之間任教。直到1933年，普林斯頓高級研究院正式將他評為教授為止。
作為美國含金量最高的研究院，普林斯頓高級研究院當時對外聘用的教授隻有6名，大名鼎鼎的愛因斯坦就是其中之一，而約翰·馮·諾依曼是這六位教授中最年輕的一位，當時他隻有30歲。普林斯頓高級研究院是一個真正的學術之地。雖然當時它才剛剛成立不久，但每當歐洲的來訪者進入其中之時，他們就會被那裏濃濃的學術研究風氣所吸引，天才們彼此不拘小節，或獨自研究，或相互合作，總能研究出一些震撼人心的東西。研究院的“優美大廈”設施齊全，環境優美，是教授們舒適的居住地。在那裏，教授們過著安定的生活，思想的火花總是層出不窮，有時短短幾個月就能接連出現多個高質量的研究成果。數學天才、物理天才是研究院的主力軍，可以說，那裏會聚了當時所有有分量的精英人才。
約翰·馮·諾依曼在1930年與瑪麗達·柯維斯結為連理，5年後，兩人的女兒瑪麗娜在普林斯頓出生。自成家以後，約翰·馮·諾依曼夫婦經常在家舉辦社交聚會，每次聚會持續的時間都很長，且賓主盡歡，因此，他們舉辦的聚會遠近聞名。1937年，約翰·馮·諾依曼的婚姻出現了危機，兩人的感情發生了裂痕，最終遺憾離婚。第二年，約翰·馮·諾依曼遇到了他的舊相識克拉拉·丹，兩人的感情迅速升溫，不久便墜入愛河。不到一年時間，約翰·馮·諾依曼與克拉拉·丹結婚，後來他們一起到普林斯頓居住。
新的婚姻為約翰·馮·諾依曼的生活注入了活力。克拉拉·丹與丈夫一樣，也對數學非常感興趣。約翰·馮·諾依曼當時已經是屈指可數的數學家，他一邊研究自己的課題，一邊教妻子克拉拉·丹學習數學。不僅如此，作為計算機專家，約翰·馮·諾依曼也經常教妻子一些編程知識。久而久之，克拉拉·丹的數學和編程水平都有了質的提高，最後成為優秀的編程專家。約翰·馮·諾依曼與克拉拉·丹的婚後生活非常幸福，兩人之間不僅有許多學術話題，還經常邀請其他科學家來家中參加聚會。對於約翰·馮·諾依曼夫婦的好客，友人們讚不絕口，更為難得的是每次聚會都帶有濃濃的學術氛圍，科學家們相互請教問題，一起把酒言歡，熱鬧而富有意義。