传说，殷商末代的商纣王是个穷奢极欲、残暴无道的昏君（参看《助纣为虐》）。“西伯”（西部诸侯之长）姬昌，即后来的周文王，因为反对纣王曾被囚禁，想了很多办法才得以出狱。当时，周的都城在岐山（今陕西省岐山县），周文王回到岐山后，下决心要推翻商朝的统治。他首先聘得军事家姜尚（即姜太公）为军师，积极练兵备战，又兼并了邻近的几个诸侯小国，势力逐渐强大起来。接着，又将都城东迁至丰邑（今陕西省户县附近），准备向东进军。可是，迁都不久周文王逝世了。

周文王的儿子姬发继位，即周武王。姜太公继续担任军师。武王的同母弟姬旦（即周公），异母弟姬奭［shì ］（即召公）是武王的两个得力助手。同时，武王还得到了其他几个诸侯的拥护。于是，武王正式宣布出兵伐纣。大军在孟津（今河南孟县之南的一个黄河渡口）渡过黄河，向东北挺进，直逼商朝的朝歌（今河南淇县东北）。因为商纣王已失尽人心，军队也多不愿为他送命，于是逃的逃、降的降，起义的起义，朝歌很快就被攻克。纣王自杀，商朝就此灭亡。以后的八百年，便成了周的天下，称为周朝。

当周武王攻克朝歌之初，对于怎样处置商朝遗留下来的权臣贵族、官宦将士，能不能使局面稳定下来，武王心里还没有谱，因此有些担忧。为此，他曾同姜太公等商议。汉朝人刘向编撰的《说苑·贵法》里有这样一段文字记载：

“武王克殷，召太公而问曰：‘将奈其士众何？’太公对曰：‘臣闻爱其人者，兼爱屋上之乌；憎其人者，恶其余胥。咸刘厥敌，使靡有余，何如？’”

大意是说：周武王打败了殷商，召见姜太公，问道：“该怎样对待他们的人员呢？”太公答道：“我听说，如果喜爱那个人，就连带喜爱他屋上的乌鸦；如果憎恨那个人，就连带夺来他的仆从家吏。全部杀尽敌对分子，让他们一个也不留，您看怎样？”

原文中所谓“余胥”，是指地位最低下的小吏，奴隶主贵族的管家之类。（余，末等的意思；胥；胥吏。）

汉朝人伏胜编撰的《尚书大传·大战》里也有类似的记载：

“纣死，武王惶惶若天下之未定。召太公而问曰：‘入殷奈何：’太公曰：‘臣闻之也；爱人者，兼其屋上之乌；不爱人者，及其胥余。’”

这段记载，与《说苑》所载内容相仿。不过“余胥”一词写作“胥余”，两者的含意也不一样。“胥余”已不属胥史等级，而是胥吏以外，比“余胥”更加低下的奴隶或刑徒了。例如商纣王时的“太师”箕子，因对纣王不满，被囚禁而装疯，甘当奴隶，所以《庄子》称他为“胥余”。

此外，《韩诗外传》、《六韬逸文》也都有关于周武王和姜太公上述那段谈话的记载，内容基本相同。由于这个传说，就产生了“爱屋及乌”这句成语。

我国自古流传一种迷信习俗，以为乌鸦是“不祥之鸟”，它落到谁家的屋上，谁家就要遭遇不幸。我国最古的一部诗歌集《诗经》的《小雅》部分，题为《正月》的一首诗里，就有“瞻乌爰止，于谁之家”。可见古人多厌恶乌鸦，而绝少有人爱它的。所谓“爱屋及乌”，是说：由于爱那个人，因而连他家屋上的乌鸦都不以为不祥，不觉得讨厌了。这句成语，一向被人们用作推爱的比喻。因为深爱某人，从而连带喜爱他的亲属朋友等人或其他东西，就叫做“爱屋及乌”，或称这样的推爱为“屋乌之爱”。

唐代诗人杜甫在《奉赠射洪李四丈》（射洪，地名，在今四川；李四丈即李明甫）的诗中，开头两句是：“丈人屋上乌，人好乌亦好”。宋朝人周敦颐的《濂溪诗》中有：“怒移水中蟹，爱及屋上乌”。宋朝人陈师道的《简李伯益》诗中也有“时清视我门前雀，人好看君屋上乌。”都是用的“爱屋及乌”这个成语典故。