吴隐之字处默，濮陽郡鄄城人，曹魏侍中吴质六世孙。吴隐之仪容丰美，善于谈论，博览文史，因是博学的儒者而著名。刚成年时便与众不同，具有崇尚廉洁的情一操一，即使每天进餐仅食豆羹，决不享用非分之粮，粮食没有一点储备，也不谋求不当的来路。十多岁时，遭遇了父丧的痛苦，常常号啕哭泣，行人也受感动流泪。奉养母亲极为尊重，后主持母亲丧事，因悲极伤身超出一般丧礼。家里贫寒，没人伴奏哀乐，每当哭丧的时候，总有一对鹤伴随惊叫，在周年祭祀之际，又有一群大雁聚在一起，当时人们都认为是孝心所感才有的现象。曾经吃咸酸菜，因菜的味道美，便捧起抛掉了。
居家与太常韩康伯为邻，韩康伯的母亲是殷浩的姐姐，是一位贤良明理的妇人，每听到吴隐之的哭声，停止吃饭放下筷子，为他悲哀落泪。既而告诉韩康伯说：“你如处在选拔官吏地位，应举荐像这样的人。”当韩康伯作了吏部尚书，吴隐之便沿着清除的台阶，脱一去民服任辅国功曹，转任征虏将军参军。哥哥吴坦之是袁真的功曹，袁真失败，将受牵连遭祸，吴隐之拜见桓温，请求代兄领罪，桓温怜悯释放了吴坦之。于是被桓温赏识，授任奉朝请、尚书郎，接着调升为晋陵郡太守。在州郡廉洁守贫，妻室自担柴草。进入朝廷历任中书侍郎、国子博士、太子右卫率，转任散骑常侍，兼著作郎。孝武帝曾想用他作黄门郎，因吴隐之貌似简文帝，便作罢。随即任守廷尉、秘书监、御史中丞，兼著作郎如故，调任为左卫将军。虽然处于清贫为人皆知，所得俸禄赏赐都分发给亲族，冬月没有被子，曾经换洗衣服，只得披着棉絮，勤劳清苦与贫穷庶民无别。
广州环围山海，出产珍品异物，一匣宝物，足够几代费用，但这里瘴疫流行，一般人视为畏途。只有家境贫寒在内地无法登上官阶的人，才求补此地长官，所以前后刺史皆多贪财。朝廷打算革除岭南弊端，隆安年间(397～401)，任用吴隐之为龙骧将军、广州刺史、假节，兼任平越中郎将。距州二十里，地名石门，有水称为贪泉，饮了它就贪得无厌。吴隐之既到了这里，告诉他的亲人说：“不见可贪的东西，使寸心不乱。越过五岭丧失廉洁，我知道其中原因了。”即往泉水所在处，舀取泉水喝了，并赋诗道：“古人有言称此水，举杯一尝思千金。试让伯夷叔齐饮，始终不变廉洁心。”待到广州以后，崇尚廉洁的品行有加无减，日常吃饭不过是蔬菜和干鱼罢了，官备的帏帐器用服装皆交给外库，当时有人认为他是故意做作，然而他始终不改变自己的做法。帐下人给他送鱼，总是剔去鱼骨留下肉，吴隐之察觉了他们的用意，便加以责罚除名。元兴初年(402)，皇帝下诏书说：“在家孝敬父母严谨不怠，在官清廉之一操一凛如风霜，这确实是一个人立身处世难于做到的，而这正是君子的美德。龙骧将军、广州刺史吴隐之孝友胜于他人，俸禄均给九族，衣食菲薄廉洁纯贞，俭约限于食鱼，置身于可满足私欲之地，却不更改他的情一操一，享有取财致富的权力，而举家不换旧服，革除奢望追求节俭，南疆旧貌改观，朕有嘉奖。可晋升为前将军，赏钱五十万、谷一千斛。”
当卢循侵入南海时，吴隐之督率勉励将士，坚守很久，长子吴旷之战死，卢循攻击达一百余天，越城放火，焚烧了三千多家房屋，死一万多人，城于是被攻陷。吴隐之携带家小逃出，打算奔还京都，被卢循截获。卢循上表给朝廷，指出吴隐之结一党一依附桓玄，应判决死刑，皇帝下诏不准。刘裕给卢循去信，命送吴隐之还都，过了许久才返回。归途之中，船上装载没有多余资财。到家后，数亩小宅地，篱笆墙垣倾斜败坏，内外茅屋六间，容纳不下妻室子女。刘裕赏赐车牛，又给建造住宅，坚辞不受。不久被授任度支尚书、太常，室内以苇席作屏风，座位无衬垫。后调任为中领军，清苦节约未改常习，每月初领取俸禄，取部分留作自身吃粮用，其余的全分散救济亲族，家里一搓一麻纺纱供日用。有时困难到极点，两日合吃一天的粮，自身常穿布衣且不完整，妻室子女不沾一点俸禄。
义熙八年(412)，奏请辞退朝事，皇帝从优下诏允许，授予光禄大夫，加给金印和紫色系印丝带，赏赐钱十万，米三百斛。义熙九年去世，追赠左光禄大夫，加散骑常侍。吴隐之的廉洁品德始终不变，多次被褒奖赞美，从辞退到身死，经常承蒙优厚赏赐显贵赠封，廉洁之士均以为荣。
开始，吴隐之任奉朝请，谢石请求为卫将军主簿。吴隐之将要出嫁女儿，谢石知道他家贫如洗，便使人转送厨柜帏帐，帮他经办。使者到他家，正见下人牵着狗去卖，除此而外是冷冷清清毫无备办。后来从番禺回来，他的妻子刘氏携带沉香一斤，吴隐之发现了，便投到湖亭所临的水中。
儿子吴延之又继其廉洁情一操一，任鄱陽郡太守。吴延之的弟弟及其儿子任郡县官职者，经常以廉洁谨慎为家法，虽然才学不及吴隐之，但孝悌洁敬等美德仍未被废弃。