曾国藩对于追随者的教育，也以勤为重要内容。认为“若事事勤思善问，何患不一日千里？”要求追随者做到勤，以勤立身，以勤兴业。吴大廷负责操练海上水师，是中国早期的海军训练，凡事皆是初始，没有模式可依。他写信鼓励道：
阁下殚精竭虑，身任其劳。……各船演习诸技渐臻纯熟，凡事患在不为，不患不能。西洋技艺所以绝古今者，由其每治一事，处心积虑，不臻绝诣不止，心愈用则愈灵，技愈推则愈巧。要在专精，非其材力聪明果远过于中国。
这里强调的就是一个“勤”字，勤训练则可以达到熟练的境界，与才力、智力没有多大关系。就是在这样的鼓励下，曾国藩手下很多才力一般的追随者脱颖而出，成为优秀人物，做出了耀眼的成绩。
严格内敛的俭
对于俭，曾国藩有深刻的认识，他认为：“凡世家子弟，衣食起居无一不与寒士相同，庶可以成大器；若沾染富贵气，则难望有成。”一个人要想成就大事，俭是非常重要的；一旦沾染了富贵习气，要想有成就很难了。他曾对儿子约法三章：不许坐轿，不许使唤奴婢做取水添茶的事情；拾柴收粪之类的事情，必须一件一件地认真去做。指出：“俭字工夫，第一莫着华丽衣服，第二莫多用仆婢雇工。”他认为：
凡仕宦之家，由俭入奢易，由奢返俭难。尔年尚幼，历不可贪爱奢华，不可惯习懒惰。无论大家小家，勤苦俭约，未有不兴，骄奢倦怠，未有不败。
所以，曾国藩治家，第一注重的就是俭朴。由家而推及官场，他非常反对官员的奢侈生活。经历了与太平天国的战争，湖南很多人家家庭富裕了，风俗习气也随之改变，为此曾国藩非常痛恨，并且想力挽颓风。他说：
吾乡近时风俗侈靡，一变向来勤朴之旧，实缘乡人从军日久，职官太多之故。推论缘起，即鄙人不能辞其咎。今欲力挽颓俗，固须林下诸公身示俭约，诱进以诗书。而凡为达官于外者，尤宜约束子弟，不使习为豪华以相炫耀，庶可渐移锢习。然由俭入奢易，由奢入俭难，仍未知其果能挽救也。
对于官场的颓风、奢侈之风，曾国藩认为大官的表率作用很重要。杨昌濬曾经写信给他，想整顿官场奢靡的风气，曾国藩非常肯定他的想法，1870年5月他回信说：
承示浙中近事，并及官场习气渐就奢靡，尊意欲转移积习，与僚属约诸事务从节省，此实时要务。大抵官场风气，每由微而渐趋于著。凡事稍从其费，则渐于奢而不觉；凡事稍从其省，则渐趋于俭而亦不觉。若由大吏率之以诚，持之以久，成效亦不难立睹。
由此可见，曾国藩的俭朴，不仅仅是他注重自己一人之俭，一家之俭，更注重整个官场、社会的俭。他不仅注重身体力行，也重视俭的思想教育。不仅影响了他的后代，也影响了他周围的一批人，甚至对江苏等地的社会风气也有所感化，形成了一种俭的氛围。
曾国藩有一封家书可以看出，他在北京做官时期的清廉俭朴。他写道：
我仕宦十余年，现在京寓所惟有书籍、衣服二者。衣服则当差者必不可少，书籍则我生平嗜好在此，是以二物略多。将来我罢官归家，我夫妇所有之衣服，则与五兄弟拈阄均分。我所办之书籍，则存贮利见斋中，兄弟及后辈皆不得私取一本。除此二者，予断不别存一物以为宦囊，一丝一粟不以自私。此又我待兄弟之素志也。恐温弟不能深谅我之心，故将我终身大规模告与诸弟，惟诸弟体察而深思焉。
这里讲的确是实情。曾国藩在京城期间，生活条件一直比较艰苦，日子过的清贫。他担任翰林院编修，收入微薄，入不敷出，常常借钱度日；担任“副部级干部”后，年工资500两银子，加上其他的收入，基本上能够满足生活所需。1852年他离开京师的时候，他既借了钱给别人，也欠别人的钱。曾国藩回家吊丧，给儿子纪泽写的一封信，专门谈到家中财物的处置问题，信中写到多年欠西顺兴、杨临川、王静安、李玉泉、王吉云、陈仲鸾等人账不少，要求纪泽处置的财物也只有一些家用木器、书籍、日用品以及书法帖子等，此外并无长物。
真正有钱是他任两江总督的时候，清朝两江总督的养廉金每年是15000两，加上工资收入，曾国藩一年的收入在20000两左右。然而，作为湘军统帅，经过他手的银钱粮米数额是巨大的，特别是到了1860年后，清朝转而支持湘军，湖南、湖北、江西、安徽、江苏、上海甚至四川、广州每月都要给他提供军费，有时由他支配的经费高达数百万。然而就是这样有钱，曾国藩也是过着俭朴的生活，保持清廉的本色，始终坚持不贪财，不苟取，不奢侈的基本准则。
他家用钱有一个规矩，就是一个月要开支多少先拿出来，使用时不可超支，只可结余。家里储备的钱只够一年的用度，多的不积累。他给家中寄钱，也不多寄，有一次连200两银子都没有。他给儿子们规定：
尔辈以后居家，须学陆梭山之法，每月用银若干两，限一成数，另封秤出。本月用毕，只准赢馀，不准亏欠。衙门奢