张湘祥出生于福建龙岩。16岁时,张湘祥是中国男子举重队里最年轻的队员,也是唯一一个利用业余时间练习举重被选入国家队的运动员。
2000年的奥运会,张湘祥发挥稳定,获得了男子举重58公斤级第三名的好成绩。悉尼奥运会的出色表现,让17岁的张湘祥成为雅典奥运会上的夺金热门人物。就在张湘祥备战雅典奥运会时,一场疾病让他几乎与死神擦肩而过。张湘祥在这样消极的情绪和困惑中度过了四年,而他的队友杨帆、邱乐、毛角在国内外各种大赛中表现出色。2008年的全国举重奥运选拔赛上,张湘祥以一个冠军向人们示意,他又回到了这片熟悉的赛场。