一切安排妥当后，这年的六月初，元璋便亲率徐达、冯国用、冯国胜、邵荣、汤和、花云、常遇春、邓愈、耿君用、廖永安、俞通海等将领各引舟船南下，以此揭开了渡江战役的序幕。
借着夜幕的掩护，征南船队准备出河口入长江，向上游进发。这时，只见船队后面几十里处黑云蔽天，没一会儿便雷电交加，大雨倾盆而下。于是，船队不得不暂时靠岸驻停。
这似乎不是什么好兆头，大伙的心里不禁有些发虚！元璋也有些暗暗着急，他只得再次向上天祈祷，希望赶快云销雨霁。不过，元璋表面上仍显得泰然处之，一如平常；众人见他如此，很快便安定了下来。
所幸第二天天气就好多了，黎明时分，将要入江时，元璋特意把船队分成两支：一支右军由西南方向，一支左军由东北方向，以钳形攻势杀向牛渚矶a。在分派任务时，元璋特意对邵荣说道：“咱亲自率领左军，右军就交由邵将军负责吧！”
邵荣拱手道：“请副帅放心，我邵某不攻上牛渚矶，愿提头来见！”
“邵将军好魄力！”元璋又转而对大家强调道，“采石是一个大镇、重镇，那里的守备一定相当严密。可是整个牛渚矶前临大江，防线过长，元军难为备御，而今我们兵发牛渚矶，其势必克！”这既是给大家打气，也是要大家做好克服困难的心理准备。
当时西北风顺，舳舮齐发，云帆蔽江。见此盛壮情景，军士们无不欢跃，群情一片激昂。元璋与徐达、廖永安等人一路，当他们快到达牛渚矶时，风力越发强劲，船只很快便靠上前去。
离岸还有十几丈时，只见元兵都在矶上严阵以待，弓弩齐张，甚至他们头上的盔缨都能看得清清楚楚；而船上的元璋所部一时间竟也未敢轻举妄动，顷刻之间，战场上出现了一种奇特的静穆！
短暂的沉默之后，突然，岸上一个元军小头目大喊了一声“贼兵来了”，双方才好似猛然从梦中醒来。霎时间，一片箭雨从岸上铺天盖地地射出，船上众人纷纷举起盾牌遮挡住身体，急风暴雨般的声响过后，船头上落满了箭杆！
船上众将士爆发出一阵阵呐喊，喊杀声中，船队顶着箭雨，快速向岸边冲去。打头的几条船上的将士换乘小船陆续登岸，很快就与元军战成一团，由于后续部队登陆速度太慢，兵力不足的义军被元军压制在滩头上，一时无法打开局面。
徐达的船尚排在后面，他远远看到岸上情形有些不利，于是命令常遇春等人换乘小船立刻去支援，必须一鼓作气杀出条血路来。元璋正在船上着急之际，但见常遇春飞舸而至，元璋于是大声向他喊道：“如今可不正是你一展身手之机？成败皆在此一举！”
a今安徽当涂西北长江边，北部凸出部分即为采石矶。书中提到的“太平路”即今当涂一带。
常遇春手持一支能刺能啄的长戈，他挥舞了一下长戈向元璋示意，乃应声而起，奋戈直前。
常遇春先从身边的兄弟手上取过弓箭，瞅准了几个元军头目，将他们一一射翻，可谓箭无虚发。他身边的十几个人都跟着大声吆喝起来，其他将士受此鼓舞，也跟着欢呼起来！
元军的士气受到了打击，常遇春随即带着蓝玉及手下十几个兄弟一气冲到了岸边。元军很快扑了上来，围住了他们，常遇春见状，奋起一跃跳到岸上，顿时便如虎狼入了羊群，杀得元军纷纷后退。蓝玉等人也乘机上岸，开始接应其他人马登岸。
元璋在船上看得分明，只见一身披挂的常遇春一往无前，身中数箭却浑然不觉，大呼着左冲右突，真如说书里常言的威震逍遥津的张文远，或者单骑陷阵的李唐王的绝世风采，可惜就是缺少了一匹般配英雄的宝马！
“看来有朝一日定要给遇春配上一匹宝马了！”元璋这样想着，便有些走了神儿，待他回过神来时，只见遇春一人就已杀得元军遗尸遍地，好不壮观。包围他的元军无法抵御其锋芒，纷纷躲闪，顿时慌乱起来。元璋忍不住大声赞叹道：“好个常遇春，果然是个打先锋的料！”
后军人马受此激励，纷纷下水登岸，一齐向矶上涌去，元军越发惊骇，纷纷后退。
登陆区域越发扩大，徐达、花云、冯国胜等部也趁势杀上了牛渚矶，局面逐渐落到了元璋部的掌控之中，经过一个多时辰的激战，力不能支的元军终于溃退而去。大家乘胜追击，直扑采石，此时右军在邵荣的带领下也已成功登陆，左、右两军的主力会合后，居然不到半天时间就成功地攻占了采石。
采石不一日即告失守的消息一经传出，沿江元军堡垒无不震动，竟有不少望风而逃者。元璋闻讯不禁欣喜道：“看来首战取得大胜的意义确实非同小可！”
大部分将士不仅不知道元璋整个渡江作战的计划，甚至连夺占太平路的计划都不知道。为了让手下将士努力奋战，战前动员时，元璋只是告诉大伙说：“眼前咱们的粮食出现严重短缺，只有过江狠捞一把才能解决粮荒，否则都得饿肚子。”因此大多数将士都以为此次进占采石，只是为了抢些元军囤积在此的粮食财物，于是大伙把能带走的东西都打包后，便嚷嚷着要起身返回。
其实元璋早就看中了长江南岸的太平路这片富庶、险要的重镇——它南靠芜湖，东北接集庆路，地势开阔，又东倚丹阳湖，而湖周围的丹阳镇、溧水、宣城等处皆物产丰富。若能据此以为基本地盘，那是再理想不过的；如果仅仅抢些粮草就回，那就等于捡了芝麻而丢了西瓜，简直是愚蠢透顶！
元璋先去找郭天叙、张天祐二人沟通，他首先问郭天叙道：“主帅，你还要不要回滁州？”
“当然要回啊，不然家属怎么办？”郭天叙不假思索地说道。
“如果家属的事情可以妥善解决呢，你还想不想回滁州？”
郭天叙望了望张天祐，张天祐沉吟半晌后道：“其实，如果我等真能在江南立住脚，这江南自古繁荣，也是不错的选择嘛！但是万一立不住脚呢？保有滁州一带的地盘，也是必要的！”
元璋态度坚决道：“舅父，那恐怕是很难的，一则长江限隔南北，互相难以救助；二则如果坚持要保住滁州一带，就须投入很大的力量，这就牵制住了我们南下的一部分手脚！所以，要江南还是要滁州，只能二选一！”
郭天叙和张天祐都陷入了艰难的抉择，郭天叙突然问道：“如果执意留在江南，那将士们会答应吗？”
“此事请主帅放心！”
郭天叙显然有些动心了，他突然想通了一个问题，便笑问：“这整个南下计划，是否都是你小子事先故意给我等设好的局？”
元璋笑道：“局不局的在其次，如果没有主帅和舅父两位的首肯，咱哪里敢擅自做主？又如何能擅自做主？”
张天祐拍了拍元璋的肩膀，下定决心道：“好！元璋，我们都遵从你的安排，只要能打下金陵，咱们就不走了！”
过后，郭天叙和张天祐又把元璋的想法向邵荣做了通报，邵荣并无异议，但是他心想：“那姓朱的如此滑头，把我等玩弄于股掌之上，你们两个如果还不及时醒悟，那早晚会把性命赔进去的！”
不过邵荣也知道，跟着郭、张二人走下去绝没有什么好下场，所以也就没有跟他们点破，只得任由其自生自灭；一旦郭、张二人不在了，那他们的旧部就得由自己与郭天爵接管，而郭老三摆明了就是一个傀儡，自己与元璋分庭抗礼也就有了实力。
邵荣是个有心人，他觉得元璋可以取法之处甚多，所以处处模仿元璋等人的作为，因此在治军和用兵方面也有了长足进步。目前，他各方面的能力已不输徐达，前番他率领右军顺利攻下牛渚矶，也是其才能的一次集中展现。元璋看在眼里，又喜又忧。喜的是己方又多了一名可以独当一面的大将，将来势必有助于进一步在江南开拓；忧的则是未来自己同邵荣的关系，所谓“一山难容二虎”，邵荣又绝非甘居人下之辈，将来如何了局，也是难说的。
自己跟邵荣的问题太过敏感，元璋觉得跟谁都不能说，就是秀英都不行，因为秀英太仁慈，必然反对自己的“小算计”。他还在等待一位特殊人物的出现，那个人将会在这方面替他分忧。