北京对于林语堂来说，是他步入社会的起点。1916年，林语堂带着寂寞的心情，脑海里还缠绕着陈锦端的倩影，来到北京清华学校(也就是清华大学)任教。到了北京，林语堂被厚重的中国文化所吸引，他明显感觉到自己国学底子太薄，连孟姜女的传说都不知道，书法极差等等。有了补课念头的林语堂在北京的名胜古迹中穿行，巡回在北京的大街小巷，沉迷于中国文化的浩瀚之中。此时的他，想把曾经因为钟情英文而落下的中国文化重新拾起，放置案头。

在研读中国文化古籍的时候，林语堂发现了中国语言学方面存在的种种弊端，他开始潜心研究语言学，研究改革字典索引的方法。1917年，林语堂的《汉字索引制说明》在《新青年》杂志发表，这是他用中文发表的第一篇文章。这篇文章得到蔡元培和钱玄同的肯定，引起全国学者的注意。

1918年，胡适来到北大任教，当时作为清华教员身份去迎接胡适的林语堂后来因为发表了几篇文章，得到提倡白话文的胡适的注意。林语堂认识了胡适之后，两个人很快成为好友。这位后来对林语堂给予无私帮助的人当时已经是全国知名的文学革命提倡者。

林语堂第一次来到北京，便感受到中华文化的无穷魅力，结交了一帮朋友之外，他还解决了自己的宗教问题。当时林语堂在北京自愿担任主日班教员，但内心却十分痛苦，因为他觉得自己在把自己都不相信的教条传给无知的青年。在和同事刘大钧聊天时，刘大钧的一席话让他茅塞顿开，以只要做个好人作为良知的准绳，把林语堂苦闷地认为“不信上帝是天父”的罪过感彻底消除，斩断了林语堂和基督教最后一线的联系，这对于林语堂的信仰之旅来说，北京就是一个重要的拐点。

在北京潜心学问的林语堂在五四运动之后，觉得自己的学问不够，还不能对国家做出任何贡献，这使他迫不及待地想去西方求学，同时多读中国的经典之作。为此，林语堂争取到清华每月四十元的半官费奖学金，在得到哈佛大学比较文学研究所的入学申请批准后，义无反顾地和新婚妻子廖翠凤踏上异乡求学的旅途。

1923年秋天，林语堂留学回国后，回到故乡小住一段时间，然后再次北上。这时候，与第一次到北京不同，林语堂已经不是孤身一人，而是带着夫人廖翠凤和第一个女儿林如斯，他们一家到了北京，住在东城船板胡同，林语堂担任北京大学英文教授兼北京女子师范大学英文系讲师。

林语堂到了北京之后，首先真诚地感谢北京大学的援助，却得知是胡适的私人行为，完全与北大无关。原来林语堂在国外留学的时候，刚到美国不久，他的办公费津贴突然被取消，他当时给胡适打电报求助，要求北大预支1000美元;后来在他前往德国莱比锡大学攻读博士的时候，再次经过胡适向北大预借1000美元，胡适都及时汇款，但用的是自己的钱，并且毫不声张。这样无私和不事张扬的帮助让林语堂感动不已。但在后来的文化论争中，林语堂并没有简单因为胡适帮了自己就站在他那边，而是加入与自己观点相近的鲁迅阵营，和胡适成为对手，这也是林语堂张扬自己个性和坚持独立人格的地方。

林语堂在北京的这段岁月，经常为《语丝》撰稿，对于政治经常批评，被视为有“异端之家”之称的北大的一位激烈的教授。1926年“3.18”，刘和珍和杨德群被害，林语堂受到很大刺激，他写了《悼刘和珍杨德群女士》等文章批评军阀政府。不但写文章，还用竹竿、砖石和警察打架。他还得意于自己小时收在平和坂仔练习过用小石子在西溪水面上打水漂，所以扔砖头特别准。当时北京陷入一片混乱，军阀政府肆意迫害进步人士，鲁迅、林语堂等54人被列入通缉名单。林语堂一家躲进朋友林可胜大夫家里，三周后应聘到厦门大学教书，离开北京。

林语堂在北京生活的这两段时间，可谓都是他从学校走向社会的起点，在这两个点，对于他的生命过程都有着重要的影响。无论是圣约翰大学之后还是留学回国之后，都是他事业，审视社会的观点不容忽视的阶段。在北京生活的这几年，也是奠定了他后来写作《大城北京》、《北京人的智慧》和其他著作生活基础和文化基础的重要时段，这个起点，某种意义上已经决定了林语堂后来生活道路的方向。