1926年的春天是一个温暖美好的季节，约翰·冯·诺依曼跋涉千里来到德国，在一个风和日丽的早晨见到了他的偶像希尔伯特。当时，希尔伯特在哥廷根大学任教，约翰·冯·诺依曼此次前来是为了给他当助手。约翰·冯·诺依曼非常珍惜这次能在希尔伯特身边学习的机会，每次遇到数学难题他都会第一时间向希尔伯特请教。一年之后，希尔伯特认为约翰·冯·诺依曼已经能够出师，因为他在数学领域的研究已经趋于成熟。
此后，约翰·冯·诺依曼真正从学生身份蜕变成一名出色的讲师。在1927年到1929年期间，他在德国柏林大学兼职讲师。他一边准备资料，认真备课教导学生，一边在空闲时间整理和发表论文。他所发表的论文主要是关于量子理论、集合论和代数方面的文章，这些论文一经发表，就在当时的数学领域掀起波澜。他教的学生也都为能有他这样的老师而感到无比骄傲。
1927年的时候，约翰·冯·诺依曼就已经在数学领域很有名气了。这一年，他受到波兰数学界的邀请，到利沃夫出席了当时的数学家会议。在会议上，约翰·冯·诺依曼的理论大放异彩，人们为他在数学基础和集合领域的贡献感到震惊。
在约翰·冯·诺依曼的教学生涯刚刚开始时，也就是在1929年，他受到德国汉堡大学的邀请，担任该学校的兼职讲师。1930年对约翰·冯·诺依曼比较特殊，因为这一年他来到了朝思暮想的美国，因为美国的学术氛围比其他国家的学术氛围更浓。他此次前往美国主要有两个目的，一是担任普林斯顿大学的客座讲师，二是与美国的数学家相互切磋和学习。作为发达国家，美国是一个善于会集和留住人才的国家。约翰·冯·诺依曼在担任客座讲师不久后，就被普林斯顿大学升任为客座教授。
约翰·冯·诺依曼的任教生涯辗转于美国与德国之间。在德国大学任教期间，他用数学方法计算过自己担任理想职位的概率。在他看来，在德国大学中，他所期待的职位已经很少，但成为教授一直是他努力的目标。而在未来三年内，能够评为教授的讲师名额不超过三个，但参加竞争的大学讲师有40多位。为了争取教授名额，约翰·冯·诺依曼每到夏季就会从美国返回欧洲任教一段时间。在1933年之前的几年里，他辗转于美国几所名校和德国几所名校之间任教。直到1933年，普林斯顿高级研究院正式将他评为教授为止。
作为美国含金量最高的研究院，普林斯顿高级研究院当时对外聘用的教授只有6名，大名鼎鼎的爱因斯坦就是其中之一，而约翰·冯·诺依曼是这六位教授中最年轻的一位，当时他只有30岁。普林斯顿高级研究院是一个真正的学术之地。虽然当时它才刚刚成立不久，但每当欧洲的来访者进入其中之时，他们就会被那里浓浓的学术研究风气所吸引，天才们彼此不拘小节，或独自研究，或相互合作，总能研究出一些震撼人心的东西。研究院的“优美大厦”设施齐全，环境优美，是教授们舒适的居住地。在那里，教授们过着安定的生活，思想的火花总是层出不穷，有时短短几个月就能接连出现多个高质量的研究成果。数学天才、物理天才是研究院的主力军，可以说，那里会聚了当时所有有分量的精英人才。
约翰·冯·诺依曼在1930年与玛丽达·柯维斯结为连理，5年后，两人的女儿玛丽娜在普林斯顿出生。自成家以后，约翰·冯·诺依曼夫妇经常在家举办社交聚会，每次聚会持续的时间都很长，且宾主尽欢，因此，他们举办的聚会远近闻名。1937年，约翰·冯·诺依曼的婚姻出现了危机，两人的感情发生了裂痕，最终遗憾离婚。第二年，约翰·冯·诺依曼遇到了他的旧相识克拉拉·丹，两人的感情迅速升温，不久便坠入爱河。不到一年时间，约翰·冯·诺依曼与克拉拉·丹结婚，后来他们一起到普林斯顿居住。
新的婚姻为约翰·冯·诺依曼的生活注入了活力。克拉拉·丹与丈夫一样，也对数学非常感兴趣。约翰·冯·诺依曼当时已经是屈指可数的数学家，他一边研究自己的课题，一边教妻子克拉拉·丹学习数学。不仅如此，作为计算机专家，约翰·冯·诺依曼也经常教妻子一些编程知识。久而久之，克拉拉·丹的数学和编程水平都有了质的提高，最后成为优秀的编程专家。约翰·冯·诺依曼与克拉拉·丹的婚后生活非常幸福，两人之间不仅有许多学术话题，还经常邀请其他科学家来家中参加聚会。对于约翰·冯·诺依曼夫妇的好客，友人们赞不绝口，更为难得的是每次聚会都带有浓浓的学术氛围，科学家们相互请教问题，一起把酒言欢，热闹而富有意义。