霍去病的一生同样充满了传奇色彩。其实他是一个私生子，是平阳县的一个小吏与公主府的一个女奴所生，但是由于这名叫做霍仲孺的小吏不敢承认自己的所作所为，霍去病也因此就成了一个私生子了。
建元二年（前139年），卫少儿的妹妹卫子夫得幸汉武帝刘彻。元朔元年（前128年），卫子夫被立为皇后。霍去病因此在年幼时成为当时最重要的外戚家族的一员，过上上流社会的生活。霍去病在少年时代就“善骑射”。武帝很喜欢他，让他做了自己的近臣侍中。
元朔六年（前123年），年仅十八岁的霍去病被武帝任命为剽姚校尉，命其随大将军卫青出击匈奴，参与定襄北之战，独自率领八百骑兵一路狂追匈奴兵数百里，并且俘虏了匈奴兵数千人，包括一些王公大臣，还包括单于的叔父罗姑比，这样的战绩可谓是勇冠全军，霍去病因此一战成名，被封为冠军侯。
元狩二年（前121年），武帝任命十九岁的霍去病为骠骑将军，进行河西之战，在春季攻势中，杀死匈奴折兰王、卢侯王，歼灭其精锐，浑邪王子及相国、都尉等全部被俘。夏季攻势中，俘获得单于单桓、酋涂王，收降其相国、都尉以下的降者二千五百人。随后，霍去病先将浑邪王单独送往长安，再统领其部众四万余人归汉。
元狩四年（前119年），霍去病率五万骑兵，大破匈奴军，俘虏匈奴屯头王、韩王等三人及将军、相国、当户、都尉等八十三人。并乘胜追杀至狼居胥山，兵锋一直逼至北海。经此一战，匈奴被汉军在漠南荡涤，匈奴单于逃到漠北，“匈奴远遁，而漠南无王庭”，匈奴势力大为衰退。
元狩六年（前117年），因为匈奴伊稚斜单于拒绝对汉称臣，汉武帝再一次进行战争动员，决心歼灭单于主力。然而在准备过程中，或许是多次领兵出征的劳累，长时间处于艰苦的环境，霍去病却因病早逝，年仅二十四岁。
除了在军事上的成就，霍去病也是忠心耿耿。他曾冒死上书希望汉武帝封三个皇子为诸侯王，为皇帝分担政务。之后他还曾去拜见过他的生父，并且为生父置办田地，把同父异母的弟弟也带着身边培养，可谓是一个忠孝两全的模范。
