胡大海，字通甫，泗州虹县人，身材魁梧，面黑如铁，智力出众。
元至正十三年，胡大海来到滁州，归附朱元璋。朱元璋让胡大海当前锋，跟着渡江，与诸将一起四处征战，三年后，因为战功被封为右翼统军元帅，担任宿卫，护卫朱元璋的安全。
元至正十七年，胡大海跟着朱元璋攻克宁国，副院判邓愈留下戍守，接着胡大海攻取徽州，平定附近州县。
元将杨完者率十万大军来攻，胡大海在城下奋力抵抗，将其击败。不久，胡大海与邓愈、李文忠从昱岭关进攻建德，在淳安击败元军，于是攻克建德路。
随后再次击败杨完者，招降溪洞兵力三万人，被提升为枢密院判官，后来，攻克兰溪，跟着朱元璋攻取婺州，被提升为佥枢密院事。
元至正十九年，胡大海率兵攻下诸暨，张士诚的守将夜里逃走，万户沈胜降而复叛，胡大海将其击败，生擒四千多人，朱元璋下令改诸暨为诸全州。
随后胡大海攻打绍兴，再次击败张士诚军队，朱元璋认为宁、越是战略要地，让胡大海负责镇守。
张士诚的部将吕珍围攻诸全，胡大海率军救援，吕珍提高上游水位，打算以水灌城，胡大海反灌吕珍的营帐。吕珍陷入困境，在马上折箭起誓，请求各自退兵，胡大海答应了。郎中王恺认为吕珍狡猾多端，不能轻信，不如趁机袭击。
胡大海认为不能言而无信，既然已经答应放他走又攻打，胜之不武。于是胡大海下令退兵，众人均佩服胡大海的威信。
不久，胡大海率军进攻处州，击败元将石抹宜孙，随后占领处州路下辖的七个县。
元至正二十年闰五月，陈友谅率舟师大举进攻应天，朱元璋让胡大海分兵攻取信州，以牵制敌人的侧后方。
胡大海采用王恺的计策，亲自率兵前往，于是攻克信州，朱元璋下令改为广信府。广信粮食缺乏，有人劝说胡大海回师，胡大海说：“这里是闽、楚襟喉之地，怎可放弃？”于是下令修筑城墙，深挖护城河驻守。
此前，粮草供应紧张，朱元璋的军队攻下郡县后，将士们直接向当地百姓征粮，被称为寨粮。百姓负担沉重，胡大海把这种情况禀报朱元璋，朱元璋于是下令停止寨粮。
不久，胡大海被提升为江南行省参知政事，负责镇守金华。
起初，刚攻下严州，苗将蒋英、刘震、李福从桐庐前来归附。胡大海喜欢他们的骁勇善战，把他们收到麾下。
元至正二十二年，蒋英、刘震、李福图谋作乱，早晨进入浙东分省官署衙，请胡大海到八咏楼观弩。胡大海出来后，蒋英让他的部众跪在胡大海面前，假装诉说蒋英的过错。胡大海没来得及回答，回头看蒋英，蒋英从袖子里取出大槌袭击胡大海，胡大海应声倒地，他的儿子胡关住、郎中王恺全都遇害。
蒋英等人投奔了张士诚。后来，李文忠进攻杭州，守将捉住蒋英投降。
胡大海擅长带兵作战，常说：我是一名武将，不知书本知识，只知道三件事：不杀人，不掳掠妇女，不焚毁房屋。”
因此，胡大海所到之处，附近各地纷纷归附，听说他去世的消息，众人无不落泪。胡大海喜欢结交儒士，所到之处便寻访知名的儒士。
刘基、宋濂、叶琛、章溢被朱元璋礼聘，是胡大海所推荐的。胡大海被追封为越国公，配享太庙、肖像功臣庙。
起初，朱元璋攻克婺州，为了节省粮食，颁布禁酒令。胡大海的儿子第一个违反禁令，朱元璋一怒之下，打算依法处置。当时胡大海正在领兵出征，都事王恺请求宽恕其罪，让胡大海安心。
朱元璋说：“宁可让胡大海背叛我，不可使法令废弛”，从此胡关住成为胡大海唯一的儿子，后来与胡大海一起遇害。
胡大海的养子胡德济，字世美，不知是哪里人，胡大海带着他来归附朱元璋。胡德济跟着攻打婺州，作为诱敌之兵，在梅花门大败元军，生擒起将领季弥章，从此成名。
攻下信州后，朱元璋任命胡德济为行枢密院同佥，让他负责镇守。陈友谅的部将李明道前来攻打，胡德济与之拼力激战。胡大海率兵来援救，夹攻李明道，生擒明道和宣慰王汉二。
胡大海遇害后，处州降将李祐作乱，院判耿再成被害，张士诚闻讯后，派他的弟弟张士信进攻诸全。
胡德济从信州前往救援，趁对方不注意进入城中，与知州栾凤、院判谢再兴分门防御。半夜时分，胡德济出其不意，突然发动猛攻，闯入张士信的大营，将其击败，被擢升为浙江行省参知政事，移师驻守新城。
张士诚的部将李伯升率大军来攻，胡德济据城固守，请求李文忠救援。李文忠疾驰而至，率兵来救，与胡德济夹攻，击败李伯升。
当时胡德济有的部将悄悄把家人带到新城，李文忠怀疑是胡德济让他们这么做的，于是下令诛杀其都事罗彦敬，想稍微惩戒一下胡德济。
胡德济的部将听后动怒，纷纷来告诉胡德济，胡德济从容地说：“右丞下令诛杀彦敬，是因为作战衣有缺陷，再言此事者斩！”
朱元璋听说此事后，下令褒奖胡德济，而责怪李文忠失了众将士的心，而且说：胡德济的宽容大度，你比不上。于是擢升胡德济为浙江行省右丞，并且赏赐胡德济骏马。
不久，朱元璋让胡德济镇守杭州，改任左丞。
后来，胡德济跟随徐达出征定西，胡德济与王保保交战失利，徐达斩其数名部将，派人把他押送到京师。朱元璋顾念他往日的功劳，将他释放，不久，重新任命他为都指挥使，镇守陕西。
