1894年（清光绪二十年）8月20日生，陕西泾阳人。本名吴玉衡，乳名秃子。“玉衡”取自《书经》“陈璇玑之玉衡”之义，是北斗七星之一。1901年，祖母决定为孙子改名，以破除不祥，增强体质。于是，请玉衡的姑丈，诗人陈伯澜另取新名。这是吴家的大事，好酒好肉使主客如在节日之中，醉眼蒙眬的姑丈在一张破纸片上写出“陀曼”二字，吴玉衡也就变成了吴陀曼。吴宓之名是吴宓在1910年报考清华学校时自己所取。当时他随手拿出石印本《康熙字典》，在某册某页，闭目确指，得一“宓”字，意为安静。吴宓的字“雨僧”多认为出自南宋词人蒋捷的词《虞美人·听雨》：“而今听雨僧庐下，鬓已星星也。”一句。
1907就读于三原宏道书院，受关学熏陶，与于右任、张季鸾同为“关学”余脉。1911考入北京清华学校（今清华大学前身）留美预备班。1912年春，清华学校因清廷倒台，民国改制而暂时休学，时在上海圣约翰大学读书的北方“乡下人”吴陀曼，被一些小洋奴的子弟同学所讥笑，他们趁吴陀曼课间外出，便在黑板上写下颇具讽刺意味的“糊涂men”。待吴陀曼进门，教室里扬起一阵笑声。他莫名其妙地环视四周，方发现在同学们的笑声里，是把“吴陀曼”与黑板上“糊涂men”连在一起。于是，他决定以后在发表言论的场合，用“吴宓”，而不用“吴陀曼”。1917年23岁的吴宓赴美国留学，先攻读新闻学，1918年改读西洋文学。先在弗吉尼亚州立大学英国文学系学习，获文学学士学位。次年转入哈佛大学研究生院，师从新人文主义文学批评运动领袖白璧德教授，研习比较文学、英国文学和哲学。与陈寅恪、汤用彤并称为“哈佛三杰”。留美十年间，吴宓对19世纪英国文学尤其是浪漫诗人作品的研究下过相当的功夫，有过不少论著。
1921年吴宓回国，即受聘在国立东南大学（1928年更名中央大学，1949年更名南京大学 ）文学院任教授，讲授世界文学史等课程，并且常以希腊罗马文化，基督教文化、印度佛学整理及中国儒家学说这四大传统作比较印证， 开设“中西诗之比较”等课，开中国比较文学研究之先河。吴宓在南京大学与梅光迪、柳诒徵一起主编于1922年创办之《学衡》杂志，11年间共出版79期，于新旧文化取径独异，持论固有深获西欧北美之说，未尝尽去先儒旧义，故分庭抗议，别成一派。这一时期他撰写了“中国的新与旧”、“论新文化运动”等论文，采古典主义，抨击新体自由诗，主张维持中国文化遗产的应有价值尝以中国的白璧德自任。他曾著有《吴宓诗文集》、《空轩诗话》等专著。1924年赴沈阳，任东北大学外国文学系教授。次年清华大学成立，吴宓任清华大学研究院主任，聘请当时学术界最负盛名的梁启超、王国维、陈寅恪、赵元任等四位学者为研究院导师，一时号称得人。研究院被称为“国学研究院”，为国家培养了不少优秀的国学人才。
吴宓离开东大后到东北大学、清华大学外文系任教授，1929年9月钱钟书考入其父钱基博曾执教的清华大学外文系，成为吴宓的得意门生，师生间常有诗词赠答与唱和，然而1937年因钱钟书一篇书评，师生关系曾紧张了多年。1928年，吴宓兼任天津《大公报·文学副刊》主编，他编古典文学，邀请清华大学中文系教授朱自清编新文学。1930年，吴宓赴欧洲旅游，先后游历了英国、法国、意大利、瑞士、德国等许多国家，访问了雪莱、司各特、卢梭等人的遗迹。次年结束欧洲归国，任清华大学外文系教授兼系主任。他按照哈佛大学比较文学系的方案创办清华大学外文系。明确提出培养目标为造就“博雅之士”。在他的努力下，清华大学外文系很快成为国内第一流系科。
吴宓于1941年被教育部聘为首批部聘教授。1943-1944年吴宓代理西南联大外文系主任，1944年秋到成都燕京大学任教，1945年9月改任四川大学外文系教授，1946年2月吴宓推辞了浙江大学、河南大学要他出任文学院院长之聘约，到武昌武汉大学任外文系主任，1947年1月起主编《武汉日报·文学副刊》一年，其间清华大学梅贻琦和陈福田一再要他回去。至1949年广州岭南大学校长陈序经以文学院院长之位邀他南下，且其好友陈寅恪亦在岭南，教育部长杭立武邀他去台湾大学任文学院长，女儿要他去清华大学，而他即于4月底飞到重庆到相辉学院任外语教授，兼任梁漱溟主持的北碚勉仁学院文学教授，入蜀定居了。1950年4月两院相继撤消，吴宓到新成立的四川教育学院，9月又随校并入西南师范学院历史（后到中文系）任教。结果是虎落平阳，晚景甚为不佳。
至“文革”到来，吴宓成为西南师院批斗的大罪人，以种种罪名蹲入“牛棚”，到梁平劳改，受尽苦难。76岁的老人干不动重活，还被架上高台示众，头晕眼花直打哆嗦，被推下来跌断左腿。之后又遭断水断饭之折磨。腿伤稍好，即令打扫厕所。
1971年病重，右目失明，左目白内障严重，就只好让他回重庆养病。1977年吴宓已生活完全不能自理，只好让其胞妹吴须曼领回陕西老家终于使他得到了一些兄妹深情的照顾和温馨，延至1978年1月17日病逝老家，终年84岁。1979年8月平反昭雪。1981年1月17日，吴宓的骨灰，由吴须曼送至安吴堡，葬在白雪笼罩的嵯峨山下。