有一年，彭玉麟路过安庆，忽然有人拦马喊冤，状告当地恶霸李秋升。李秋升是李鸿章的堂侄儿，仗着权倾朝野的李鸿章的势力横行乡里、夺人妻女，当地老百姓敢怒不敢言。经调查，彭玉麟掌握了足够证据，把李秋升抓来审讯，李秋升竟然藐视彭玉麟不敢把他怎么样而供认不讳。彭玉麟断然下令：“此人不除，安庆难安宁。”这时，安徽巡抚闻讯，风疾火急地赶来求情，彭玉麟开栅迎接，密令手下速将恶少斩首。巡抚还在字斟句酌，恶少业已命赴黄泉。事后，彭玉麟致书李鸿章，只是轻描淡写：“令侄坏公家声，想亦公所憾也，吾已为公处置讫矣。”李鸿章阅毕对彭玉麟恨之入骨，却还只得回信道谢！

彭玉麟任职期间还先后弹劾处置了腐败无能官吏一百余人，其中不乏高官。此外，彭玉麟的一个外甥曾任知府，由于贻误军机也被他杀了。他的所作所为在当时的民间流传下一句佳话：“彭公一出，江湖肃然。”安庆候补副将胡开泰召娼杀妻，彭玉麟怒而杀之；湖北总兵衔副将谭祖纶诱劫朋友发妻，还杀人灭口，州、县官员与他沆瀣一气，连总督都袒护他，但彭玉麟照样绳之以法而斩之。

彭玉麟以一介书生投身湘军水师，由于他智勇双全，在攻打田家镇、湖口等战役中屡立战功，便逐步擢升至水师统领，成为湘 军水师统帅。先后被朝廷授为金华知府、广东按察使、安徽巡抚、太子少保、漕运总督、水师提督、兵部右侍郎、署两江总督兼南洋通商大臣、兵部尚书。他视富贵如浮云，一生中曾六辞高官。所以当时民谚有“彭玉麟拼命辞官，李鸿章拼命做官”。

第一次是辞去安徽巡抚（相当于安徽省长）之职。当时是在咸丰十一年，彭玉麟官职是安徽布政使（相当于副省级）衔水师统领。曾国藩任两江总都，把所属三个省份的巡抚任给他的三个亲信，任彭玉麟为安徽巡抚。他却一连三次辞谢，其理由是已习于军营而疏于民政，请朝廷勿弃长用短。朝廷真只好收回成命，改任他为兵部侍郎，依旧留在前线督带水师，他这才坦然接受。

第二次是在同治四年二月，朝廷任命彭玉麟署理漕运总督。漕运，就是解往京师粮食货物的水上运输业。漕运总督掌管鲁、豫、苏、皖、浙、赣、湘、鄂八省的漕政，是众人所垂涎的天下一流肥缺，多少人梦寐以求，谋之不得，而彭玉麟却视之如草芥，两次上书谢绝，理由除了不懂漕政外，又加上性情褊急、见识迂愚，不会与各方圆通相处。自称“臣以寒士来，愿以寒士归也。”对于彭玉麟固请力辞不愿为官的行为，清廷很感奇怪，当时官场里的人也极不理解，甚至有人出面向清廷建议，以他不受命，近乎矫情而处分他。曾国藩闻讯，出面为他说情，他说：“查彭玉麟自咸丰三年初入臣营，坚与臣约，不愿为官，嗣后屡经奏保，无不力辞，每除一官，即具禀固请开缺。咸丰十一年，擢任安徽巡抚，三次疏辞，臣亦代为陈情一次，仰邀允准。此次亲奉恩旨，署理漕运总督，该待郎闻命悚惶，专折沥陈。顷来金陵，具述积疾之深，再申开缺之请，臣相处日久，知其勇于大义，淡于浮荣，不愿仕宦，份出至诚，未便强为阻止。”清廷看了曾国藩的这篇奏折，才冰释狐疑，准予彭玉麟之所请。　

第三次是在同治七年六月，彭玉麟上疏请辞已当了六七年的兵部侍郎。原因是当年从军时，三年母丧只守了一年，现在国家安定，他理应解甲归田，将剩下的两年补满。这次朝廷看他情恳意切，便同意了他的请辞。

第四次是彭玉麟离职休养三四年后，朝廷又任命他为署理兵部侍郎兼同治帝大婚庆典宫门弹压大臣。待到庆典一结束，他立即上疏请辞署理兵部侍郎。朝廷接受后，又交给他一项差使，即每年巡视长江水师一次。

第五次彭玉麟是在光绪七年七月，朝廷任命他为署理两江总督兼南洋通商大臣。两江辖地广阔，又兼物产丰茂，南洋通商大臣一缺更是权大责重，一向非名宦宿臣不能任命。朝中重臣曾国藩兄弟、李鸿章、刘坤一等人都曾任过此职。让66岁的彭玉麟出任两江总督，说明朝廷对他的倚重，但他就是不领这个情，接旨后即上疏请辞，隔日后又再次上辞疏。朝廷无奈，只得把此要缺交给左宗棠。

第六次是在光绪八年，朝廷任命彭玉麟为兵部尚书（相当于国防部长）。与过去一样，他接旨后即请辞，朝廷未准。不久，中法战争爆发，朝廷命他率领旧部将士并增募新军，迅速前往广东部署海防。他认为此时是临危受命，不宜再辞，便以衰病之躯奉旨赴粤，带领所部驻扎南海前线，整修虎门要塞，加强沿海完备，遣部将防守钦州、灵山。多次上疏主战，战后疏请严备战守，以防后患。中法战争胜利结束后，光绪十一年三月，他便上疏请辞兵部尚书之职，朝廷未予接受。他又于这年八月、第二年八月、第三年七月、第四年六月接连四次上疏请求辞职。鉴于他的执着，朝廷只得接受。

“不要命”、“不要官”之外，彭玉麟还有一大美德，即“不要钱”。咸丰四年(1854)冬，彭玉麟率湘军水师配合陆师攻陷了太平军的要地田家镇后，清廷奖给他4000两白银，他却转而用于救济家乡。他在给叔父的信中说：“想家乡多苦百姓、苦亲 戚，正好将此银子行些方便，亦一乐也。”还要求他叔父从中拿出一些银两在家乡办所学堂，期望为家乡“造就几个人才”。他要求自己和家人却甚为严苛。当他得知儿子花费2000串铜钱修葺了家中老屋之后，即去信严辞斥责：“何以浩费若斯，深为骇叹。”说他一贯将“起屋买田视作仕宦之恶习，己身誓不为之。不料汝并不来信告示于我，遽兴土木；既兴土木之后，又不料汝奢靡若此也。外人不知，谓吾反常，不能实践，则将何颜见人!”其实，他儿子修葺后的老屋也不过是三间土墙瓦屋而已。

彭玉麟自律甚严，但对他人却十分阔绰，他自己的钱，常常用于周济穷困的亲友，赠予凯旋的部下，还积极赞助公益事业，现在衡阳城内的船山书院就是他一手捐建的。彭玉麟在去世前将为官几十年的官俸、养廉、经费等等加起来上百万两的收入全部捐出来做了军费。

清代书画有两绝，一为郑板桥的“墨竹”，二为彭玉麟的“梅花”。彭玉麟工书善画，尤精于画梅，所画梅花风骨凛然，虬枝如龙，花似血溅，人誉之为“兵家梅花”，时人多以为神品。其画梅之爱好来自于他以罕见的痴痴柔情演绎的旷世之“梅姑之恋”：彭玉麟小时候曾经住在安徽安庆的外婆家里，最喜欢跟外婆的养女梅姑一起玩耍。梅姑虽然只比彭玉麟大一点点，但是从辈份上讲，她是彭玉麟的小姨。两人青梅竹马，两情相悦，私定终身。但两人的恋情因为八字不合遭到家长的反对。后来彭玉麟跟着全家搬回衡阳去，他和梅姑不得不忍痛分别，而这一别就是14年，彭玉麟已娶妻成家。

在彭玉麟30岁的那一年，他听说舅舅在安庆去世了，外婆和梅姑没有人赡养，于是他赶紧就派了自己的弟弟去安庆，把外婆和梅姑接到衡阳来住。而梅姑来到彭家没多久，彭玉麟的妻子嫉恨彭玉麟与梅姑的关系，唆使彭玉麟的母亲把梅姑嫁出去了。彭玉麟曾经考虑要阻止这件事情，但是因为决断迟了，错过了最后挽回的时机。梅姑出嫁四年以后，死于难产。彭玉麟伤心得捶胸顿足，在梅姑坟前立下誓言，要一生画梅，以万幅梅花纪念她。彭玉麟后来在诗中写到“前机多为因循误，后悔皆以决断迟。”

彭玉麟说到做到，他画了整整40年，才完成了以万幅梅花纪念梅姑的承诺，而且他丧妻后终生未娶。他画的梅花：干如铁，枝如钢，花如泪。他辞官隐居期间，一是在湖口的水师昭忠祠旁边建厅，遍栽梅花，号称“梅花坞”，即今天石钟山的著名旅游景点梅花坞；二是在家乡筑“退省庵”，在庵里吟诗作画，画梅数量达万幅余，而且每幅必自题一诗，无一雷同，而句意必有所托。每成一幅，必盖一章曰“伤心人别有怀抱、一生知己是梅花”。可见彭玉麟对梅姑的爱是那样的刻骨铭心，也可见他这个人的痴情奇绝、遗世独立。

光绪十六年（1890年）三月，彭玉麟以平民之身病逝于衡阳城内的退省庵，终年75岁。他死后被御赐为太子太保，建专祠纪念，赠谥号刚直。著有《彭刚直公奏稿》、《彭刚直公诗集》。曾任两广总督和湖广总督的张之洞评之为“加官不拜，久骑湖上之驴；奉诏即行，誓翦海中之鳄”，并为他写下一首五言长诗：“神州贯长江，其南际涨海。江海幸息浪，砥柱今安在……”彭玉麟的同时代人，曾任翰林院编修的著名学者俞越称其为“咸丰、同治以来诸勋臣中始终餍服人心，无贤不肖交口称之，而无毫发遗憾者”的唯一一人”，评价之高，足见彭玉麟名声之重。时任湖北布政使的陈宝箴在悼念彭玉麟的挽联中写道：“不要钱，不要官，不要命，是生平得力语，万古气节功名都从此。”(刘继兴)