汉武帝曾劝他学习孙吴兵法，他回答说：“为将须随时运谋，不至学古兵法。”汉武帝为奖励他的军功给他建造了豪华的宅第，他却说：“匈奴未灭，无以家为也。”
元朔六年(公元前123年)，十七岁的霍去病被汉武帝任为骠姚校尉(故霍去病又称霍骠姚)，随卫青击匈奴于漠南(今蒙古高原大沙漠以南)。
斩获敌人2028人，其中包括相国、当户的官员，同时也斩杀了单于的祖父辈籍若侯产(籍若侯乃封号，名产)，并且俘虏了单于的叔父罗姑比，勇冠全军，以一千六百户受封冠军侯。
历史上很多知名将领最后结局都不是很好。在古代，最忌讳的就是功高震主。历史上从不缺乏这样的例子。关于霍去病之死，普遍说法就是病死。至于这是不是真相，已经无从查证。
