不久，咸丰下诏，福济免职，调回京城听用，任命大学士翁心存的儿子翁同书为安徽巡抚，督办皖省军务。
福济离开庐州时是千谢万恩，李鸿章却是心灰意冷，仿佛被人抽了脊梁骨，一脸惨容，整天丧魂落魄。
李鸿章与翁心存也算是旧相识，翁心存是孙锵鸣的恩师。李鸿章会试时的座师便是孙锵鸣，如此算来，翁心存成了李鸿章的太师傅。李鸿章、沈葆桢高中进士时，孙锵鸣就请翁心存给李、沈二人看过骨相。李鸿章也经常去翁老师府上，但他和翁心存就是搞不到一块去。倒是同榜进士马新贻与翁心存打得火热，李鸿章平时就看不起马新贻，尤其是马新贻拍马溜须那一套，李鸿章一看就倒胃口，故而跟翁心存也走得越来越远。
翁同书担任安徽巡抚还不到一个月，陈玉成即指挥太平军攻下庐州。若非部属贾臻早有准备，翁同书也会步江忠源的后尘而去。翁同书逃出庐州，不再理会李鸿章，带着贾臻等远走寿州。李鸿章也自觉无趣，改投滁州，到明光镇才停止行进，将母亲安置下来。
李鸿章像被人抛弃了一样，在明光镇住了一段时间，想起沈葆桢，便离开明光来到江西广信。
沈葆桢见他一副失魂落魄的样子，说道：“你在安徽混不下去，何不去建昌投靠曾大帅？”
李鸿章迟疑了一下，小声答道：“前段时间接到家兄来信，说曾老师还在家丁忧。”
沈葆桢笑着说：“曾大帅已重新出山了，不日即到建昌大营。”
李鸿章拜谢而去，回家告知老母。老母知道后非常高兴，命李鸿章备好车马，一同前往建昌大营。
之后，李鸿章又收到大哥李瀚章从湘军粮台转过来的书信，也让他去江西建昌投师。李鸿章一看大喜，立即收拾行李前往建昌大营。
李瀚章见母亲和弟弟一起到来，在江西粮台门口迎接，将他安置下来与自己同吃同住。李瀚章自从解任湖南善化知县以后一直跟随曾国藩，在湘军粮台效力，遇有战斗，亦督队指挥作战。李瀚章办事谨慎，又廉洁自律，深得曾国藩信任。
李鸿章来投，曾国藩十分高兴，传令接见。
李鸿章被亲兵盛四领进大帐，见到曾国藩，跪下行了门生拜见老师大礼，不少湘军将领在一旁观看。曾国藩端坐在椅子上，一动也不动，注视着李鸿章。
礼毕，曾国藩问：“少荃，京师一别，六年不见，你在安徽过得怎么样？”
“回恩师，学生过得不好。”李鸿章如实说，“咸丰三年初，学生随工部侍郎吕贤基大人回安徽办团练，十一月底，吕大人战死舒城，后投座师福济，在军前效力。这几年在家乡庐州一带镇压会匪，与长毛、捻匪作战，胜少败多，累军功署了个按察使衔。庐州兵败，福大人回京，翁同书任皖抚，我与此人向来不和，处处受其制约，后来又跟了胜保。胜保胸无韬略，视汉官如猪狗，非打即骂，我受尽冤枉气，经常给大哥诉苦。大哥写信让我来投恩师，说东南半壁唯有恩师一人是中流砥柱。故而学生多次写信给哥哥，表示要来江西投恩师，这也是家父临终前的遗嘱，望恩师收留。”
李鸿章说到此处，已是声音哽咽了。
曾国藩见李鸿章言辞恳切，真心来投，眉毛微微一扬，不动声色地问：“少荃到此是带勇作战？还是充作文员？”
李鸿章已注意到曾老师这一表情变化，知道曾老师的痒处所在，装着一副心甘情愿的样子说：“学生也想带勇作战，怎奈这些年战绩不佳，在安徽屡战屡败，不敢再拿湘军将士性命开玩笑。学生听福中丞说老师的文章奏折写得一等一的好，学生只想在这方面下功夫，跟老师学习。”
曾国藩眉头舒展，一捋长须，爽快地说：“好啊，我身边正缺一个文员，从明天开始你就到大营当差。”
李鸿章出了湘军大营，马上搬到建昌大营住了下来。曾国藩让他负责文案，草拟奏章批复公文，李鸿章虽然是这方面的高手，但是他不敢大意，小心翼翼地跟着曾国藩。
曾国藩见李鸿章办事认真，经常在其他幕僚面前表扬他：“少荃天资聪明，文笔犀利，观点独特，对文牍奏章有独特见解，青出于蓝而胜于蓝。”
李鸿章心里沾沾自喜，表面却非常谦虚：“学生以前跟随吕大人、福中丞，对奏折一事茫然无所知。今到老师帐前，如同明灯指路，收获匪浅。”
李鸿章在建昌大营待了一段时间，很快熟悉了文案，跟大家都比较熟悉了，走遍湘军大营，曾老师的幕僚中只有自己是按察使衔，职务最高，开始对其他文员武弁的态度未免有些傲慢。湘军什么都好，唯独这营规纪律让他经常头疼。
曾国藩继承了祖父的习惯，起居很有规律。他又将这个习惯带到军中，常对文员宿将说：“我的祖父有‘八字诀’‘三不信’，我有‘八本’‘三致祥’。八字诀是：孝宝早扫书疏鱼猪；三不信是：不信药医，不信地仙，不信僧巫；八本是：读书以训诫为本，侍奉双亲以取得欢心为本，养生以少怒为本，立身做人以不乱说话为本，平时居家以不晏床为本，当官以不爱钱为本，行军作战以不骚扰百姓为本；三致祥为孝顺、勤奋、宽恕，这些都能让人吉祥如意。”
曾国藩每天天不亮就起床，天刚亮就开始吃早饭，领兵打仗也是如此。他规定湘军大营的核心成员都要跟他一起吃早餐，听他点评昨天发生的事情，安排今天的事务，这叫“早课”。李鸿章是曾国藩的弟子，当然也不例外。
李鸿章平时比较懒散，起居没有规律，喜欢晚上做事，白天睡觉。正是这一点害苦了李鸿章，他经常赖在**不按时吃早餐，还经常编造各种理由搪塞。实在找不到理由，就是头疼脚痛肚子疼，总之，理由很多。
一次两次也就算了，时间一久，大家有看法，都在注意这个李大个子，看曾国藩如何处置。
众所周知，李鸿章有才气不假，但他身上也有虚伪之气，曾国藩也不能接受，于是决定治一下他的臭毛病。
咸丰九年九月十六日，曾国藩给胡林翼写信说：“少荃奸诈虚伪难改，每天黎明时诸将都要集中一起吃早餐，大家坐在一起讨论。吃一顿早饭，如同上了一回早课。安徽人的习惯与湖南人不同，每日早餐，李鸿章都会头痛、脚痛、肚子痛，在军营内影响较坏。他是署名的安徽按察使，又是我的学生，这点小事他都做不好，将来还能有什么大出息。一个省风气的好坏在于督抚、司道等少数几位官员身上，他们的言行举止对一省的官绅士民都起到表率作用。”
胡林翼比较了解李鸿章，回信说：“虚伪奸诈之心藏在胸中，让人黑白颠倒，正邪不分，唯有笃实至诚，才能消除大家的虚伪奸诈之心。涤帅常讲去伪存真，诚实可以破巧诈。”
曾国藩认为胡林翼说得很有道理。
这天早晨天还没亮，亲兵春二过来**，李鸿章说：“头疼，不起来吃早餐了。”然后继续睡觉。
又过了一会儿，亲兵尊叔前来喊他起床，李鸿章又找借口说：“肚子痛，不舒服，不想吃早餐。”再也没有理睬尊叔。
也不知道过了多久，亲兵队长韩正国过来喊：“涤帅有令，请少荃务必一起吃早餐。”
李鸿章一脸不高兴，又无可奈何，提着裤子、披上衣服、履着靴子，装作有病的样子磨磨叽叽地来到餐厅。只见满堂文武一个个正襟危坐在桌子前面，没有一人敢动筷子，大家都在看着他。李鸿章感觉到很不好意思，随便找了一个角落坐下来，李鸿章抬头看了老师一眼，见老师一言不发，一双三角眼正在冷森森地盯着他，李鸿章心里直叫不好。
曾国藩见李鸿章坐了下来，点了点头，埋头吃饭。大家一见大帅动了筷子，才端碗举筷。
曾国藩吃完后，走到李鸿章面前一字一顿地说：“少荃，你既然拜我为师投身湘军，就要遵守湘军的规矩，我这里的规矩就是一个‘诚’字。”说完，拂袖而去。