1355年，朱元璋准备攻打和州，突然一名土匪前来投靠，见面后非常嚣张，张口就要大军的先锋印。朱元璋十分不屑，笑他是难民来军中求饭吃。不料这位狂人十分强横，随后的战斗让他大吃一惊。

常遇春是安徽凤阳府人，朱元璋的老乡，家里世代务农。他天生力大无穷，家里人觉得他是种田胚子，经常带他下田种地。他不愿意将来老死田间，决定拜师学习武艺。家里穷的没钱交学费，他就给武馆打零工。

常遇春长大后身材魁梧，性情刚毅，胳膊长度不输猿猴，射箭骑马很有天赋，他还学成一身高强武艺。元末乱世，民不聊生，各地的义军纷纷扛起反元大旗造反，常遇春毫不犹豫加入绿林大盗刘聚的队伍。

可是刘聚根本无心反元，他只是利用反元名义不断扩充队伍，带着手下四处劫掠，彻头彻尾的土匪而已。常遇春想要的是建功立业，不想当一个烧杀抢掠的土匪，决定另谋出路，有人告诉他“朱家军”的名声不错。

这一次，常遇春再也没有随便加入，而是带着手下亲自去和州考察实情。他发现朱家军军纪整肃，从不骚扰百姓，将来必成大器。这一年25岁的常遇春主动投奔朱元璋，朱元璋让他从普通士兵做起。

常遇春进入军营后，直接跟朱元璋说：“我武艺很好，可以做你的先锋，无往而不胜。”

朱元璋得知常遇春做过土匪，看不起他，然后说到：“你只是想要活不下去，才来我这里混口饭吃，你要是真心想跟着我，那就从一名普通士兵做起。”

1355年，朱家军的粮草已经不足，他准备渡江攻打南京，常遇春再次提出充当先锋，朱元璋毫无犹豫地拒绝了。城外的采石矶是元军防御要塞，朱元璋派兵攻打多次都没拿下来，此时朱家军的粮草和战船损失严重。

常遇春再次请命充当先锋，朱元璋说到：“这是你立功的最好机会。”

常遇春的左手拿着盾牌，右手拿着铁剑，挡住蝗虫般的飞箭后，乘着小船靠近采石矶。元军想要用长矛刺死常遇春，可是他顺势抓住长矛跳上岸，独自一人杀入敌军阵地，朱家军通过这个破口成功拿下采石矶。

朱元璋通过此战看出常遇春的勇猛，不但给他迅速升职，还让他跟着徐达一起征战。常遇春曾经跟朱元璋等人喝酒时说：你只要给我十万兵马，我就可以帮你平定天下。徐达等人不以为意，一直拿常十万的话笑他。

1356年，常遇春跟徐达攻克镇江，徐达在牛塘被吴军围困，他率军突入城内大败吴军，救出徐达，顺便拿下常州。常遇春正式进入朱元璋小队伍，他被封为中翼大元帅，不断为朱元璋开疆裂土，连克宁国、池州等地。

1359年，常遇春在九华山前大败陈友谅，俘获敌军3000人。他对徐达说：“此劲旅也，如果不杀必为后患。”

徐达不愿意杀降将，拿不定主意，赶紧上报给朱元璋。朱元璋的命令还没下来，常遇春已经将这些降兵坑杀了，只留一个士兵让他回去给陈友谅报信。此事激怒了陈友谅，陈友谅派兵被常遇春伏击，再次损兵折将。

朱元璋知道后非常不高兴，不过他只是将徐达责骂一番，让他管好自己的将领。原来常遇春吃过一次不杀俘虏的亏，原来他有次接收北元的降兵后，结果这些降兵转身就反叛，他差点因此身死道消。

朱元璋早期其实还有一个大将邵荣，他的战功不输徐达、常遇春，但是邵荣野心做大，联系其他将领兵变。事情败露后，朱元璋想免邵荣死罪，常遇春却说：“做臣子的都造反了，怎么还能免死？我不能和邵荣共存”。

当时，朱元璋流着泪把邵荣杀了，可是他心里更加看重常遇春。常遇春逐渐成为朱元璋军中二把手，他手中的士兵早已超过十万。常遇春曾经被当做笑话的十万大军，果真势如破竹的灭掉陈友谅，击败张士诚，灭掉北元。

1369年，常遇春北伐残元，大获全胜，朱元璋让他班师回朝。大军刚刚路过柳河川，常遇春突然暴病，朱元璋派去的军医还没赶到，年仅四十的常遇春已经病死。军医只说是突然脱甲感染伤寒，至今成为一桩悬案。

朱元璋得知消息后，顿时失声痛哭，亲自写诗悼念他：

“朕有千行生铁汁， 平生不为儿女泣。

忽闻昨日常公毙，泪洒乾坤草木湿。”

朱元璋将常遇春封为开平王，谥号忠武，不仅让画师为他绘制身穿龙袍的全身画像，还亲自出席常遇春的葬礼。

1370年，朱元璋开国三年后分封六公二十八侯二伯，常遇春被封为郑国公，位列第三，功勋仅排在李善长和徐达之后。朱元璋让常茂继承常遇春郑国公的爵位，还将常遇春的女儿嫁给太子朱标，成为皇太子妃。

常遇春的早死算是躲过了朱元璋的清算，但是他的两个儿子和内弟蓝玉都没有好下场。常茂被常遇春托付给好友冯胜照顾，常茂却被岳父冯胜亲自绑到朱元璋面前抵罪，因此被发配到龙州，年仅24岁暴毙。

常遇春的女儿嫁给朱标后生了两子，谁想因病早逝。常遇春外孙朱允熥本可以成为名正言顺的皇孙，可是朱元璋担心朱允熥日后会被舅公蓝玉掌控，不仅改立朱允炆为皇孙，还将蓝玉夷灭三族，顺手清洗明朝一代武将。

常遇春在《倚天屠龙记》中，只是护送张无忌去蝴蝶谷求医的大汉，可是史书当中，常十万才是开挂的主角，勇猛无敌，横行天下。