温峤字太真，司徒温羡弟弟的儿子。其父温辵，任河东太守。温峤聪明敏捷，有见识器量，博学而有文才，年少时就以孝悌被邦族之人称赞。温峤体态俊美有风度，擅长谈论，见到他的人都很喜欢他。十七岁时，州中郡中征召他，他都没有接受。司隶部门任命他为都官从事。散骑常侍庾岂攵名声极大，但贪财聚敛，温峤上奏举报他，京师为之震动，人人肃然。后举秀才并举灼然两科。司徒任他为东阁祭酒，补上一党一郡潞县县令。
平北大将军刘琨的妻子，是温峤的姨母，刘琨非常喜一爱一器重他，请他担任自己的参军。刘琨升迁为大将军，温峤任从事中郎、上一党一太守，加封建威将军，负责督护前锋军事。领兵讨伐石勒，数次建立战功。刘琨升为司空，以温峤为右司马。当时并州土地荒废，盗寇群起，石勒、刘聪等辈占领中原，征战不休，在刘琨军中，温峤是主谋策划之人，刘琨多依靠任用他。
正值西晋倾覆，社稷崩危，宗庙祭祀将绝之际，元帝立足于江左，经略于南方，刘琨一片诚心系于晋室，他对温峤说：“过去班彪知道刘家帝业可以复兴，马援认为汉光武帝是可辅之君。今天晋朝江山基业虽处在危急之中，但天命未改变，我想于河朔之地为国建功立业，让你到江南为我宣传，你能胜任吗？”温峤回答说：“我温峤虽没有管仲张良那样的才华，但使朝廷和天下之人都了解你有齐桓、晋文之志，欲建恢复晋室重整乾坤之功，这是我不可推卸的责任，怎敢不受命。于是温峤以左长史的名义，传檄于华夷内外，上表劝元帝登基立国。温峤到了南方，见到元帝，详细陈说刘琨的一片忠心，志在报效朝廷，因为现在天下无主，这关系到万民的人心向背和希望。温峤慷慨陈辞，满朝为之瞩目，元帝因之器重嘉奖他。王导、周岂页、谢鲲、庾亮、桓彝这些重臣都和他很亲近。当时江南朝廷草创，朝政机构和设施都不齐全，温峤为之深深地忧虑。等见到王导并在一起交谈后，高兴地说：“江南既然有了像管仲一样的人，我还有什么可忧虑的呢。”几次要求返回刘琨部下，元帝不放他走。后刘琨被段匹石单害死，温峤上表申述刘琨的忠诚，虽然壮志未酬，功业未成，然而被害得家破人亡，应该予以表彰，以安一抚鼓励天下的有志之士。元帝同意了。
温峤被任为散骑侍郎。当初，温峤受命准备南下，他的母亲崔氏坚决不让他走，温峤扯断衣襟而离去。过后母亲去世，温峤因战乱阻隔不能回去安葬，因此坚决推让不接受任命，苦苦要求允许他北归。元帝下诏让三司、八坐等有关人员商讨这件事，他们一致认为：“当年伍子胥为了报个人之仇，先假借诸侯之力，投奔了吴王阖闾，在吴国官任上将，然后领兵打回楚国，对楚平王掘墓鞭一尸一。像温峤这样的母丧未葬且又沦陷于胡虏的情况，应该竭尽智能，依靠皇朝的威灵，使敌寇被消灭，然后返回安排墓葬，怎么可以因个人的恩怨丢下朝廷复国的大事呢。”温峤没有办法，只好接受任命。
以后任骠骑将军王导的长史，迁太子中庶子。到了东宫辅佐太子，深得太子一宠一敬，两人建立了布衣之交。他数次上表规谏。又献上《侍臣箴》，作用相当大。其时太子在西池修建楼台馆所，耗费劳力钱财巨大。温峤上疏规劝说现在朝廷初立，强敌未灭，应当节俭为天下做表率，务农兴稼，重兵经武。太子采纳了这个建议。王敦领兵反叛进一逼一京师，前往讨伐的军队都打了败仗，太子要亲自出战，温峤拦在马前拉住缰绳劝谏说：“臣听说善于作战的人不轻易发怒，善于取得胜利的人往往不是凭借武力。万乘之君的继承者怎么可以身冒险而置天下于不顾。”太子这才罢休。
明帝即位后，温峤官拜侍中，朝廷重要决策都由他参与制定，诏书命令等公文都由他参与起草审定。接着又转为中书令。温峤担负着朝廷的重要使命，如栋梁一样，明帝非常信任并依靠他，所以王敦对此很不满意，温峤因而自请为左司马。王敦拥兵不朝，恃强骄横不受约束，温峤劝谏他说：“过去周公任相辅佐年幼的成王，吐哺握发，辛劳谨慎，哪里是他喜欢劳累厌恶安逸呀，是因为肩上有重担不得不如此啊。自从你回到京师，入朝辅政，不行拜谒皇上之礼，不注重以臣侍君的仪规，你这样不体谅圣上之心，人们无不感到忧愁不安。古时帝舜服侍唐尧，大禹竭尽全力服从虞舜，周文王力量虽然很强盛，但以臣礼侍纣王一点也不马虎。所以对部下有大德的人，必定对上有忠心，这样就会使美好的节一操一品行传之百世，让风一流佳名受到万代的敬仰。圣人留的遗教陈规，不应有丝毫的疏忽。希望你能想一想舜帝、大禹、文王这些贤君的侍君之榜样，能像周公旦那样吐哺握发，竭尽忠心拥戴圣上，就将是天下的大幸啊。”王敦不听劝告。温峤看到他始终不知悔悟，于是伪装对他敬重，言听计从，揽下他府中的公事，献计献策，以顺从他的旨意。温峤和钱凤深交结纳，让他为自己说好话，并处处称誉钱凤，常说：“钱世仪生气勃勃，满腹经纶。”温峤素来被人们认为有知人之能，他这样一夸钱凤，钱凤非常感激他，也主动和温峤亲一热起来。当时正值丹杨郡缺少一个丹杨尹，温峤对王敦说：“丹杨尹掌管京师，如朝廷之喉舌，任职的人一定得文武兼备，你应该亲自选择才行，要是让朝廷任命，怕不好控制。”王敦很赞同，问温峤谁可担当此任，温峤说：“我认为钱凤可以任用。”钱凤反过来又推荐温峤，温峤假意推辞，王敦不听，上表让温峤补了丹杨尹之职。温峤还是担心钱凤一旦明白过来会阻挠，就在王敦为他举行的饯别宴会上，起来敬酒，来到钱凤席前，钱凤还未来得及饮，温峤假装酒醉，用手把他的头巾打落，怒形于色说：“你钱凤是什么了不起的人，我温太真敬酒你竟敢不接受！”王敦真当温峤醉了，于是把他们劝解一开去，临走时，握手话别，痛哭流涕，出了大门又进来，反复几次，然后才上路。等他起行后，钱凤进来对王敦说：“温峤和朝廷关系密切，和庾亮是至交，恐怕难以信任。”王敦说：“温太真昨天是醉了，和你产生了一点小冲突，怎么能就因这点小事在背后说他的坏话呢。”就这样钱凤未能得逞。温峤以计回到京师后，向皇帝汇报了王敦将要叛乱的情况，请朝廷要有应变的准备。
到王敦叛乱时，朝廷任温峤为中垒将军、持节、都督东安北部诸军事。王敦在给王导的信中说：“温太真离开我才这几天，竟做出这样的事。”王敦上表请诛杀朝中一奸一臣，第一个就是温峤。悬赏捉命，谁要捉住了温峤，他要亲自割下温峤的舌头。等到王含、钱凤都到了城下，温峤就烧了朱雀门外的木桥，以挫其锋芒。明帝为此发怒，温峤说：“目前我们防守力量薄弱，援兵还未赶到，要是贼兵突然攻城，天下社稷就难保了，陛下何必可惜那一座桥呢。”敌兵一逼一进河边，果然因桥毁而不能渡河。温峤亲自率军背水与敌作战，攻击王含，打败了他，又督促刘遐追击钱凤直到江宁。等到事变平息，封为建宁县开国公，赐绢五千四百匹，进号前将军。
当时按制度将王敦部下纲纪主簿之综理府事的属官削除名籍，参佐僚属都予以禁锢，温峤上疏说：“王敦刚愎不行仁义，残忍多行杀戮，亲信任用小人，疏远君子，朝廷不能控制他，亲人骨肉也不能容忍他。他在朝中人们都担心自己的安危，因此人人不敢讲话，路上见面只能以目光示意，确实使正人君子到了山穷水尽无路可走的境地，进入隐居不出等待时机的时期。王敦行叛逆之时，强迫士人为之效力，这些人自己无法摆脱，把真心都掩盖起来，哪里有安稳的时候呢。如陆玩、羊曼、刘胤、蔡谟、郭璞常对我讲起，我详细地知道这些情况。必定要严厉制裁，那自然有犯罪的人来承受，如果是迫不得已或误入一奸一党一之中的，应该予以宽大。再说陆玩这些人一贯忠于朝廷，陛下也了解他们，如果让他们也同叛贼一样受到惩罚，这不是冤屈了他们吗？陛下仁一爱一心胸宽广，办事要求公允。臣平时交往广博，所一操一心的也不是我的分内之事，只是由于一爱一惜人才，不忘为朝廷着想以尽忠心。”明帝听从了他的建议。
当时天下百业凋敝，国家财政费用严重缺乏，明帝下诏让公卿以下的官员到京都讨论时政，确定哪些是最要紧的事情。温峤奏明军政要务。第一点是：“祖约目前退守寿陽，恐怕不久将有祸乱。现在两边防守，成功还比较容易。淮泗之地的都督军事，应全力予以资助。挑选享有盛名之士，配置征兵五千人，又为之择一偏将，领兵四千，以增强寿陽的力量，这样可以保证徐州豫州的安全，并随时可以驰援司州。”第二点是：“一个农夫不耕田，将会有人挨饿，现在不事农耕的农夫，数以万计。废除了春天劝农之制，冬季催租之令又特别严厉，没有见到给百姓什么好处，只听说向百姓要赋税。赋税当然不能没有，可应该考虑怎样使百姓们富裕起来。司徒之下设置田曹椽，每州一人，专管劝农桑兴稼穑，考察下面官吏兴农的才能业绩，如今应依旧制重新设置。一定选择那些清廉公正克己奉公，并完全能够传达朝廷的恩惠和教化的人，这样好处是很大的。”第三点是：“各外地州郡将领士卒及都督府不上战场的军队，一面屯垦一面守士。先朝曾使军营中兼耕农田，现今前、后、左、右四军军营有兵的，以及护军所统领的外州之兵，可分出二军来，驻扎到要塞之地。沿江上下，到处都有良田，让军队开荒，只须一年时间耕种就容易了。再者军人有妻室儿女家庭负担的，如果有军在打柴种菜帮助家庭的，也可以予以方便。”第四条是：“设置官职是为了治理国家，不能以此做人情，这样就会官员不多而人才一精一干。周时制度是六卿举事，春秋之时，官事入朝则任卿辅，出外则可统率三军。后代官职设置越来越多，是由于事类有繁简的变化。然而现今江南只有六州之地，尚且多有荒残，和过去承平之时相比，只能是十分之一。朝中三省及军校机构中已无兵员的，九府各寺署下属部门，可以相互合并，这样省去一半的人力财力，只是粗略地平衡一下工作任务的轻重繁简，然后可根据实际情况随时调整。已经荒废残败之县，如同在一城的，就将它们合并。这样选择守宰就可以求一精一，而他们的俸禄也可以随之提高，先给了他们较高的俸禄，然后就可要求他们清正廉明了。”第五点是：“古时天子亲自耕田，以所产粮米作祭品，旧时设置有籍田、廪牲之官。今天需要供品临时去购买，上对神灵不恭敬，下耗费民财，这不是虔诚供奉宗庙的祭祀之法。应该恢复旧制，设立籍田、廪牲之官。”第六点是：“越是派往边远地方的使臣，越要选能干忠心的人，这才能宣扬王化，延誉四方。因为人们都不乐意到偏远地方去为官，所以就派那些品低位卑的人，这将会有辱国命，产生后患。因此要特别重视这类官员的选择，不能让俸禄不到二千石的人去担当二品的职务。”第七点是：“有罪不加株连，是古时的制度。近来一些大逆大罪，实在是由于治罪过严所引起的。处刑过重，只能作一时权宜之计，现在施行重刑，并非是圣明之朝的法典，应如先朝那样，废除夷三族的制度。”经过大家议论奏请，这些建议多被采纳。
明帝病重，温峤和王导、郗鉴、庾亮、陆晔、卞壶等同时受诏委以后事。当时历陽太守苏峻收藏亡命之徒，朝廷对他不放心。征西将军陶侃在荆楚极有名声威望，所以对西夏方面要有所提防，因此派温峤扼守上流成支援之势。咸和初年(326)，温峤代替应詹出任江州刺史、持节、都督、平南将军，镇守武昌，政绩非常显著。他区别各类人才任用贤能，亲自祭吊后汉名士徐孺子之墓。上表陈说：“豫章是江州十郡中最为重要的地方，应设置刺史专门管理。寻陽紧依大江，都督应该坐镇于此。现在都督府与州府在一起，于两者进退都不方便。而且古代镇守将领多不兼领州府之事，这是因为武将文臣各自责任不同的原因。最好是单独选派一刺史专门掌管豫章郡，以负责地方上的事务，管理百姓。”朝廷下诏不同意这样做。在江州看到了王敦的画像，说：“王敦大逆无道，应该启棺戮一尸一，受到齐国逆臣崔杼一样的处罚。古人盖棺而后定论，《春秋》遵循常道，崇散王父之命，哪有被天子处以大刑的人，还把画像保留在下面的道理。”命人把画像削去。
温峤听到了一些有关苏峻的消息，担心会有事变发生，请求回朝作准备以防不测，朝廷没有答应。不久苏峻果然起兵反叛。温峤屯兵氵寻陽，派遣督护王愆期、西陽太守邓岳、鄱陽内史纪瞻等率水军前往救援京师。等到京师沦陷，温峤听到消息后放声痛哭，有人前来探望，他和探望的人相对悲泣。不多时庾亮逃奔而来，对他宣读太后诏书，加封温峤为骠骑将军、开府仪同三司。温峤说：“今日这样危急，应以消灭贼寇为行，我寸功未建而蒙受殊荣，这是前所未闻的事，怎好向天下人交待呢。”坚决不接受。当时庾亮虽是投奔而来，温峤处处敬重他，分兵让他统领。派遣王愆期等邀陶侃同赴国难，陶侃恼恨明帝临终顾命未召他参与，不支持此事。温峤开始就依从了陶侃，后来用部将一毛一宝之谋，再次劝说陶侃，其语在一毛一宝传中。开头，温峤与庾亮相互推为盟主，温峤的从弟温充对他说：“征西将军陶侃位高兵强，应该推举他为盟主才对。”温峤于是派王愆期去见陶侃，请他为盟主靖乱。陶侃同意了，派都护龚登率兵见温峤。温峤于是给尚书上书，陈述苏峻的罪行，带领七千人马，洒泪登舟，并布告四方各镇：
“贼臣祖约、苏峻狼狈为一奸一，同流合污，心生邪念。上天会夺去他们的魂魄，他们的死期就要到了。他们遭到天地的谴责唾弃，自绝于天下之人。贼寇不能让他们随意横行，应增兵予以讨伐捕剿。我则先屯兵湓口。当时护军将军庾亮来到江州，宣太后之诏，由于贼寇进一逼一宫城，致使王师败绩，诏告外郡藩国诸大臣，出谋出力以安社稷。后将军郭默、冠军将军赵胤、奋武将军龚保和我温峤部下督护王衍期、西陽太守邓岳、鄱陽内史纪瞻，率其所部，相即而到。叛贼逞凶，侵陵宗庙，火烧宫掖，箭射太极宫，皇帝皇后被幽禁威一逼一，宰相大臣处于困境，叛贼残酷的虐杀朝臣，劫掠百姓。人们一提到这悲惨的灾祸，无不魂飞魄散。我软弱无力，不能以身殉难，自觉愧疚，心内哀伤，辜负了先帝临终时的嘱托，决意全力以赴，死而后已。今天亲自统率所属部下，为士卒之先，催进各路人马，一起扫荡叛军。西陽太守邓岳、氵寻陽太守褚诞等接踵而来，宣城内史桓彝已领所部驻守江边要塞，江夏相周抚决定起兵征讨，大军已经出发。
“过去申包胥是楚国的微臣，万里奔波不辞劳苦以报效国家，其忠义之举感动了诸侯。蔺相如开始也只是赵国的一个小卒隶，耻于国君被辱，在秦庭按剑而起。汉朝之末年，董卓作乱，劫持献帝迁都，肆意迫害忠良，关东州郡的豪杰相继而起，会盟以讨贼。广陵功曹臧洪，本是郡中一位小吏，登坛歃血盟誓，热泪纵横，慷慨悲壮，使当场之人受到极大的鼓舞。何况今天我们这些人居高位，守州郡，列于名邦，世受国家之恩呢！不期而会，不谋而同，齐心灭贼，这样才对啊。
“祖约、苏峻二贼的兵力合起来，也不过五千，而且外要防胡虏的乘机入寇，内要对付城中无粮之饥，后将军郭默已于阵前消灭了敌军达千余人。逆贼虽然破坏了都城宫室，可城中原宿卫之兵当时就解散了，不为敌军所用。而且祖约一性一格多疑气量狭小，刻薄不仁，苏峻这小子唯利是图，残暴凶狠，他们之间貌合神离，只不过是临时的相互利用。江左诸郡兴起讨贼义师，以攻其正面，胡人乘机从背后发起攻击，我们再切断水路漕运，使敌人缺乏粮食等军需物资，这样内虚外孤，他们还能长久吗？“
诸公一起讨伐，是为了卫国雪耻。征西将军陶侃，德高望重，忠义显著，功勋卓越。各镇首领齐心协力，有断金之锐，大家一心一意，统一行动，报仇雪恨，匡扶社稷，不顾生死。温峤虽是怯弱无能，愧守一方，但依赖忠诚贤能之士的扶佐，文武臣僚的协助，君子尽智献忠，小人出力，高蹈林泉之人布衣而从戎，打柴种地的躬身前来听命，他们或带着家僮私仆，或携着自家的刀槍棍杖，人们的一腔忠诚，写也写不完啊，这哪里是无德的温峤所能办到的。现今士大夫怀忠抱义，庶民百姓感戴皇恩。再有护军将军庾元规公，是帝之大舅，德隆望重，率后将军郭默、冠军将军赵胤、奋战将军龚保三将，与我温峤并肩作战。得到他们的支持，使人又悲又喜，如同朝廷依然存在一般。诸将各自统帅其部，不要耽误了军机。赏赐的诺言如日月一样高悬。有能斩祖约、苏峻的人，封五等侯爵，赏布万匹。人以忠为德，以仁立身，各自远隔万里，仅此一书，忠义之责就不再讲了。”
当时陶侃虽答应亲自领兵东下，但一直没有动静，并又让已来江州的龚登回师。温峤又给陶侃写了一封书信。信上说：
“我听说军队出发只能前进不能后退，人数只可增加而不应减少。近日已将讨伐檄文传布远近，也在盟府之中宣布，等月半之后大举征讨，南康、建安、晋安三郡之军正在路途之中，火速赶来会师，只等你来行使指挥之权，便大军齐发。现你把龚登之军调回，使远近诸郡为之疑惑，成败之由，就在此一举。
“我才薄而任重，实在是仰仗着你的厚一爱一，秉承着你的规范。至于说首倡举义，当是不敢推卸的责任。我与你现如常山之蛇，首尾一体，相互依存，是唇齿一般的关系。恐怕有不明白的人不了解这深奥的道理，认为你对讨贼之事不积极，这舆论一旦传出，要追回来就难了。我与仁公一起受朝廷重托，担方岳之任，休戚安危，理应同当。况且你我往来密切，情深意厚，士人都这样议论，如果我一旦遭遇危急，就指望仁公全师驰援，何况今天是同赴国家之难呢。
“我今天偏领一州之地，州中文臣武将无不盼望你的到来。假如我江州失陷，祖约苏峻派人占据此地，荆州西对强大的胡虏，东抗祖、苏逆贼，再碰上饥荒，将来的危险恐怕远远超过我今天面临的危险。从国家大义方面来讲，社稷颠覆，君主受辱，臣应以死报之。仁公进一步想，为大晋之忠臣良将，承齐桓、晋文之义，保国卫家，大功当铭于天府之上；退一步说，也只当慈父雪自己一爱一子之恨。
“祖约、苏峻凶恶无道，囚禁士人，剥衣令其一裸一体。近日逃奔而来的，其惨状不忍目睹。骨肉分离，痛感天地，众心一致，切齿向敌。今日之进剿，犹如以石击一卵一。如出兵迟缓，再把士卒召还，会使人心离散，将使大事败于将成之时。希望仁公深察明鉴，不负三军之望。”
当时苏峻杀害了陶侃的儿子陶瞻，陶侃被激怒，遂亲领大军与温峤、庾亮一起向京师进发，总共有士卒六万，旌旗相望前后达七百余里，金鼓之一声震于百里之外，大军直一逼一石头城，屯于蔡洲。陶侃驻扎查浦，温峤屯兵于沙门浦。当时祖约占据历陽，与苏峻首尾相呼应，见到温峤大军势力强盛，对其同一党一说：“我早先就知道温峤会像齐孟尝、赵平原、魏信陵、楚春申这四公子一样行一事，今天果然如此。”
苏峻听说温峤大军将到，一逼一迫皇帝大驾迁到石头城。当时苏峻军中多是骑兵，而江南的军队多是水兵，倚仗舟楫，不敢轻易与骑兵交锋。用将军李根之计，占据白石山筑营垒巩固自己的阵地，让庾亮于此固守。敌人步骑万余人来攻，不胜而退，出兵追击斩首二百余级。温峤又在四望矶筑营垒以一逼一近敌方，他说：“贼兵定会来争夺，我们设下埋伏以逸待劳，是制敌的妙方。”当时各路义军多次失利，温峤军中无粮，陶侃生气地说：“使君当初说不愁无兵无将，只要老仆我来领头就行了。现几次战败，你的良将在哪里？荆州面临强胡西蜀两大劲敌，备有余粮以防不测，在这里再无饭吃，我就带兵回荆州，再想别的办法，等今年过了再讨贼也不算晚。”温峤说：“不对，自古以来的教训，取得胜利在于人和心齐。汉光武帝胜于昆陽，曹孟德公攻克官渡，以寡敌众，都是因为仗义而战。苏峻、祖约这小丑，为海内人人所痛恨，今日之举，取决于关键一战。苏峻有勇无谋，依仗小胜骄横不可一世，自认为无敌可挡，今天与之决战，可一鼓擒之。怎能舍弃即将到手的成功，萌生退兵之念呢！况且天子落入贼手，社稷倾危，四海忠臣，肝脑涂地，我和你并受国恩，现在正是为国效力之时。今天如果取胜，则是我们君臣共同的福气，若是失败，身为飞灰，也不足以报答先帝的恩德，今天之事，没有回头的可能，已骑到猛兽背上，还能下来吗！影响了斗志破坏了大事，义军的矛头将会指向你了。”陶侃无言可答，就没有离去。
温峤于是修建了行庙，大设坛场，设祭告于皇天后土祖宗之灵，亲自登坛宣读祝告之文，语气激昂泪流满面，三军将士不敢抬头观看。当日陶侃指挥水军进攻石头城，庾亮、温峤率一精一兵一万从白石山这里挑战。当时苏峻慰劳将士，饮酒大醉，在阵前马突然摔倒，被陶侃部将所杀。苏峻之弟苏逸及其子苏硕闭城不出。温峤乃重建行台机构，布告天下，凡是过去臣吏二千石、台郎御史以下都来报到，于是来者云集。司徒王导奏明皇帝，任温峤、陶侃录尚书事，贼将匡术献出一台城投降，被苏逸攻击，向温峤求救。江州别驾罗洞说：“现在洪水猛涨，赶去援救恐怕不方便，不如去攻打榻杭，榻杭之敌军若被我打败，匡术之围也就解了。”温峤采纳了，于是就击败了石头塬敌军。奋威长史滕含抱着天子跑到温峤船上。当时陶侃虽被推为盟主，而实际谋划安排都靠温峤。等乱平贼灭，温峤被封始安郡公，食邑三千户。
当初，苏峻之一党一徒路永、匡术、贾宁中途都率众归降，王导准备奖励他们，温峤说：“匡术这些人率先叛乱，罪大恶极，后来虽然改悔，但也抵不了先前的罪行。让他免受大刑，就非常宽大了，怎能再予以奖赏。”王导只好作罢。
朝臣议论要把温峤留在朝中辅政，温峤因先帝已托付了王导，推辞返回江州。又看到京都残破不堪，物资缺乏，于是筹借了一批物资，添置了宫廷的器用，这才返回武昌。走到牛渚矶，见水深不可测，都传说水下多怪物，温峤就叫人点燃犀角下水照看。不一会儿，只见水中怪物前来掩火，奇形怪状，还有乘马车穿红色衣服的。这天夜晚梦见一个人对他说：“我和你幽明有别，各不相扰，为什么要来照我们呢？”看样子很愤怒。以前温峤牙齿有病，这时把牙拔了，因此中风，到达镇所不到一旬而逝，终年四十二岁。江州老百姓听到他去世的消息，无不相对而泣。成帝下册书说：“朕以卑微之身，继承大位，不能弘扬大道，使天下太平，致使狂贼滔天，社稷不稳。只有公英明深识，抚民经世，担心朝纲紊乱，痛恨一奸一寇的暴行，倡导举义，五州响应，首启征讨，消灭贼寇，王室危而复安。三光暗而复明。功垂宇宙，勋盖天地。正要依靠栋梁以拯救华夏，天不怜惜我，使公英年早逝，朕心中万分悲痛。褒扬美德铭记功勋，是先王的典则，今追赠为侍中、大将军、持节、都督、刺史，郡公如故，赐钱百万，布千匹，谥为忠武，祠以太牢。”
当初葬于豫章，后朝廷追怀温峤的功德，要在元帝、明帝陵北为他造大墓。陶侃上表谏道：“已故大将军温峤忠诚显于圣朝，勋义感于人神，不是我的笔墨所能表述的。他临终之前，写信和我告别，我藏于书箱之中，常常取出观看，每读一次，就会中夜抚胸难眠，临餐难以下咽。‘人之将死，其言也善’，温峤就是如此。现将温峤之书信抄录呈上，望陛下躬垂御览，以明温峤死不忘忠，身入黄泉，追恨国耻。将臣努力，救济艰难，使亡者有知，结草衔环，怎会乐于今天的劳费之举呢。愿陛下慈恩，停止移柩改葬，让温峤棺柩免受风波之危，灵魂安眠于地下吧。”皇帝下诏采纳了。其后温峤后妻何氏卒，其子温放之运送棺柩还都，下诏葬于元帝建平陵之北，并赠温峤前妻王氏及后妻何氏始安夫人印绶。
温峤之子温放之承袭了爵位，年轻时任清要之官，后一直迁升到给事黄门侍郎。因家中贫困，京中花费大，求出任交州，朝廷同意了。王述给会稽王司马昱上表九虎说：“放之是温峤的儿子，应该予以优待，现遣往岭外，这样声望与职位就可以统一了。”当时竟没有采纳。温放之到了南海，威恩兼重。朝廷要征讨林邑，交趾太守杜宝、别驾阮朗不服从调遣，温放之以损丧士气的罪名杀了他们，接着领兵进发，灭掉林邑而还，后死于任上。其弟温式之，封新建县侯，位至散骑常侍。
江州老百姓听到他去世的消息，无不相对而泣。