1921年4月,陈嘉庚创办厦门大学,第一任校长邓萃英上任不久即辞职,陈嘉庚遂聘请林文庆当校长。1921年7月4日,林文庆就任,誓言把厦大“办成一生的非死的、真的非伪的、实的非虚的大学”。厦大开学后,林文庆亲自对学生进行英语口试,并将口试情况通报全省各公、私中学,对推动福建省外语教学起了积极作用。一直到1937年厦大改为国立,林文庆才辞职回新加坡。他在厦大任职16年,在厦门岛上荒凉的一角,建立起一座规模宏大的学府,校内设施,院系组织、课程设置以及教授的延聘,都参照欧美大学而改进,使厦大成为全国闻名的立案私立大学。林文庆对厦门大学的贡献是有争议的。也是在他的任内,发生了师生出走到上海成立大夏大学的事件,这在中国大学发展史上也算是重要的大事。因为和有些教授不和,鲁迅、林语堂的离走都与他的办学管理有关。在鲁迅文集中甚至把他称为反动校长。过去厦门大学校史对他都很少提及,只是到了21世纪,才逐渐客观承认他的业绩,并在校园内修建了文庆亭对他表示纪念。1934年,陈嘉庚经营的企业在世界经济危机的袭击下宣告破产,厦门大学也濒于关闭,林文庆毅然和陈嘉庚分忧,只身南渡,为大学筹募经费,共得20万元,使厦大渡过难关。他用《大学》中的“止于至善”四个字作为厦大的校训,以培养学生“人人为仁人君子”。学校经常组织尊孔、祭孔活动,孔子的生日被列为重要节日,全校放假,“以示恭祝”。1926年,厦大成立国学研究院,林文庆亲自兼任院长,自称“对于国学,提倡不遗余力”。他除了主持日常校务之外,还从事儒家伦理的研究以及其它多方面的著述活动。他喜爱屈原的《离骚》,曾熟读《离骚》,并于1929年完成《离骚》的英译,由英国著名汉学家翟理斯(H·A·Giles)和印度著名诗人泰戈尔(R·Tagore)作序出版。
林文庆在厦大坚持16年。1927年,厦大因资金不足,林捐出全年工资6000元。为了厦大,林文庆曾三次回东南亚,沿门户劝捐。
陈嘉庚曾说“(林文庆)在南洋之事业,如数十万元之家产,与任数大公司之主席,按年酬金以万数”,林文庆为了厦大,将其全部放弃。
在林文庆任校长期间,厦大共培养本科生646人,预科生490人。
1937年,林文庆将厦大转为公立大学。