治河
光绪十三年八月，郑州十堡（即石桥）黄河决口南泛，为害严重。先是署河南山东河道总督李鹤年、河南巡抚倪文蔚主持堵口，朝廷复派礼部尚书李鸿藻到工督修，至光绪十四年五月，口门埽占失事，功败垂成。李鹤年等均革职。七月，皇帝命吴大澄署河南山东河道总督，接办堵口大工，于当年八月到任视事。他认为河工堵口收发料物弊端甚多，乃只身微服，混杂在送料民工中，背运秸料，进行私访。发现发料短缺，克扣工钱，大澄有意率众与管料官员争吵，该官员正拟将大澄推下鞭杖时，他的随从立即站出高呼：他是河帅，谁敢动手？这时大澄喝令对管料的官员予以杖责，并带枷在工地示众，以儆效尤。

大澄对堵口工程筹划有方，措施得当。对在工的官吏，分工明确，严限完成。他誓言：如依限不能完成者斩，自己也将以身殉职。在工人员无不凛然，于是日夜赶堵，于当年十二月合龙。该工程较拨发款银节约60余万两。 

大澄任河督时，对郑州、中牟、开封一带险工甚为重视。他说：中河厅头堡大王庙顶冲之石堤，……八堡之人字坝、托头坝（中牟境），下南厅七堡之顺二坝，十九堡之盖坝（开封境）均甚紧要，是防御省城之门户。他提倡用水泥砌筑砖石坝，加固工程，这是黄河上使用水泥修工程之始。

郑州十堡大工完成后，因河势南趋，行将塌至堤身。大澄审时度势，在荥泽八堡（今郑州李西河一带）老滩前，筑石坝一座，工竣立一石碑，碑文是：“老滩土坚，遇溜而日塌，塌之不已，堤亦渐圮，今我筑坝，保此老滩，滩不去则堤不单，守堤不如守滩。”阐明了他的固滩保堤的治河思想。

光绪十五年他奏请用新法测绘黄河图，自河南省阌乡县（今灵宝境）金斗关到山东利津铁门关海口，测量河道长1021公里。次年图成，呈光绪帝浏览，命名《御览三省黄河全图》。

保疆
光绪六年三月(1880年4月) 吴大澄为三品卿衔，赴吉林随同铭安帮办一切事宜，旋即改为“督办”。吴大澄于6月行抵吉林，即与吉林将军铭安商酌防务事宜，于整军吏、守边强边等方面多有建树。

吴大澄与吉林将军铭安于吉林建立边防军队。改原有八旗兵，废除世袭制，改为招募制，共建防军马步13营，5000人。次年防军增至9000人，后统称靖边军，经过严格训练，己“悉成劲旅”。于珲春开始修筑东、西炮台。为防御沙俄从水上入侵，还创建图们江、松花江水师营。同时设立招垦局，移民垦荒，推行实边政策。他经过实地勘查，确定以珲春和三岔口所属边地为招垦中心，设立珲春招垦局，下设五道沟和南岗分局。招垦范围广泛，且规定许多优惠政策。为给垦民、商旅和军队提供方便，1880年底，修筑从宁古塔至吉林省城长达600里的大道及北、东线大道，建有百余座木桥，同时还增加许多驿站，加强了边疆的防务力量。

1885年6月8日，吴大澄会同珲春副都统依克唐阿重勘东部边界。经吴大澄、依克唐阿再三辩驳，据理力争，终于达成协议。于1886年10月12日正式签订《中俄珲春东界约》及《中俄查勘两国交界道路记》。含补立“土”字牌，添立“啦”、“萨”、“玛”字界牌和一至十八记号；收回黑顶子；争得图们江口通航权等，从而捍卫了祖国的神圣领土。矗立在珲春市区的龙虎石刻及具清代建筑风格的五角碑亭，就是珲春人民为纪念爱国大臣吴大澄谈判胜利而建立的。石刻正面篆书阴刻“龙虎”二字，左下竖刻“吴大澄书”，字体流畅，气势磅礴。吴大澄于谈判期间曾多次书写“龙”、“虎”二字，抒发其“龙骧虎视”的大无畏的爱国精神。

光绪十八年授湖南巡抚。中日甲午战争起，他率湘军出关收复海城，因兵败革职。 

大澄善诗文，精于金石，著有《愙斋诗文集》、《愙斋集古录》、《古籀补》、《古玉图考》、《恒轩吉金录》等书。