胡大海帅以归太祖。从攻婺州,为诱兵,大破元兵于梅花门外,擒其将季弥章,由是知名。既下信州,明太祖以胡德济为行枢密院同佥,使守之。陈友谅将李明道来寇,胡德济与力战。胡大海来援,夹击之,擒明道及其宣慰王汉二。及胡大海为蒋英所害,处州降将李佑之亦杀院判耿再成以叛。张士诚闻浙东乱,遣其弟张士信寇诸全。胡德济自信州往救,乘懈得入城,与知州栾凤、院判谢再兴分门守。夜半,出敌不意,砍士信营,破走之。擢浙江行省参知政事,移守新城。张士诚将李伯升帅步骑大入寇。胡德济固守,乞师于李文忠。文忠驰救,德济出兵夹击,大破之,详文忠传。
胡时德济所部有潜移家入新城者,李文忠疑德济使然。诛其都事罗彦敬,欲微戒德济。将士皆怒,走告胡德济。胡德济怡然曰:“右丞杀彦敬,自为广信作战衣有弊耳,再言者斩!”于是明太祖召德济褒谕之,而责李文忠失将士心。且曰:“胡德济之量,汝不及也。”擢浙江行省右丞,赐骏马。未几,改左丞,移镇杭州。从大将军徐达出定西。胡德济军失利,徐达斩其部将数人,械至京师。帝念旧功,释之。复以为都指挥使,镇陕西,卒。