战国初期，中山国的国君荒淫无道。魏文侯打算派兵前往讨伐，正在物色一位领兵的大将。有人推荐乐羊能文能武，有勇有谋，品质又好，可以担当此任。但也有人反对说：“乐羊之子乐舒在中山国做官，让乐羊带兵”去讨伐中山国，怎么能放心呢？

魏文侯召见乐羊说：“我有心让你率兵去收服中山国，可就是你的儿子是中山国的大官，这事情可有点不好决定啊！

乐羊答道：“作为您的臣民，为国立功是我义不容辞的责任，怎么能为了父子的私情，而把国家的利益放在一边呢？我要拿不下中山国，请您惩处我好了！”

于是，魏文侯拜乐羊为大将军！乐羊带着人马，直奔中山国。他用火攻的办法，把中山国的大将鼓须打败，一口气追到中山国的都城下，将城团团围住。

中山国君姬窟逼着乐舒从城楼上向乐羊喊话，劝说乐羊退兵。乐羊怒不可遏，指着乐舒大骂了一通，并叫他及早献城投降。乐舒央求说：“ 请能宽恕我段时间，容我与国君合计合计。”乐羊答应以一个月为限，逾期不降就要攻城。

姬窟以为乐羊看在儿子的面子上，不见得真会攻城。一个月的期限到了，他让乐舒要求再宽限一个月，乐羊又答应了，又过了一个月，乐舒还要求再宽限一个月，乐羊又答应了。就这样，三个月的时间拖延过去了。这时，魏国宫廷里议论纷纷，不少人在魏文侯面前吹冷风，说乐羊的坏话。但魏文侯对乐羊的信任毫不动摇，并派人到前线去慰劳乐羊，犒赏将士。

又一个月的限期过去了，姬窟仍无献城的表示。于是，乐羊下令发动总攻。姬窟将乐舒五花大绑地推上城楼，把刀架在他的脖子上，向城下喊话道：“如不停止攻城，乐舒就没命了！”乐舒也大声呼喊父亲救命。乐羊并不为之心动，他弯弓搭箭，对着儿子就要射去。这时，姬窟慌忙把乐舒拉下城楼杀了。乐羊身先士卒，带头冲锋，一举攻下了中山国，杀了暴君，安抚了百姓，留下五千人驻守，自己带着得胜人马回朝。

魏文侯领着满朝文武大臣，到安邑城外迎接。他拉着乐羊的手说：“为了收服中山国，你舍了亲生儿子，寡人实在过意不去啊！”乐羊说：“国而忘家，公而忘私，这正是做臣子的义务。”魏文侯在宫中大摆宴席，为乐羊庆功，并赏给他一只封得非常严实的箱子。回到家中，乐羊打开箱子一看，里面装的都是皇亲国戚、朝中大臣要撤职查办他的奏章。他边看边流泪，感慨万千地说：“要不是国君用人不疑， 哪会有我今天的成功呢！”