祖逖目睹国家动荡，国土沦丧，内心燃起了重振朝廷、收复失地的豪情壮志。他所招募的志士仁人，皆是勇猛刚烈、忠诚无畏之士，祖逖待他们如同手足兄弟，视若己出。当时，扬州正遭受严重的饥荒，这些志士们为了生计，时常深入豪门大户中劫富济贫。祖逖对此心知肚明，却以平和的语气关切地询问：“你们又是否在南塘之外，再次为民除害了？”若有人不幸被官府擒获，祖逖总会设法营救，使他们脱离险境。尽管有人因此非议他，他却置若罔闻，泰然处之。

当时，皇帝初到江南，根基未稳，无暇顾及北伐之事。祖逖心怀国家，毅然向皇帝进言：“晋室之乱，非君王失道，乃是藩王内讧，自相残杀，使得北方的夷狄趁虚而入，肆意践踏中原。如今，中原遗民饱受欺凌，人人渴望奋起反击。若君王能振奋国威，委派将领，如我这般有志之士为帅，各地豪杰必定群起响应，即便是沉溺于绝望中的人们，也将重燃斗志。如此，复国雪耻之望，指日可待。望大王勉力为之。”皇帝深受感动，遂任命祖逖为奋威将军，兼任豫州刺史，赐予粮米一千斛，布匹三千，但铠甲兵器则需自行筹措。

于是，祖逖带领着昔日共赴江南的部曲庄户百余家，踏上了北上的征途。当船只行至江中，祖逖手持船楫，誓言铿锵：“我祖逖若不能恢复中原，再渡此江，便如这滔滔江水，一去不复返！”言辞坚定，悲壮激昂，在场众人无不为之动容。渡江之后，他们在江阴驻扎，开始铸造兵器，招募士卒。当兵力达到两千人时，他们继续北上，踏上了收复失地的征途。