朱元璋建立大明王朝之后，任命的第一位宰相程度最高。开国后，他被封为韩国公，列为文臣第一。

李善长当宰相时，刘伯温的职务是御史中丞兼太史令。这种安排，明显表现出朱元璋对刘伯温生了戒心。刘伯温是一流人才，学识与执政能力均在李善长之上。正因为如此，朱元璋才提防他。朱元璋离不开刘伯温的学问，但又害怕刘伯温用自己的学问来对付他。因此，他给刘伯温的定位是：只允许议政，不允许执政。

所谓议政，就是当顾问。有事儿的时候，找你来问问；没事儿的时候，你就一边儿待着去，权力中枢那个地儿，叫你看得见摸不着。

当了皇帝，朱元璋的猜忌心日渐严重，老害怕那些手握重权的开国功臣谋反。有一天，他把刘伯温找来密谈，就撤销李善长宰相职务的事征询刘伯温的意见。刘伯温当即表示反对。他说：“李善长资历老，又练达，能调和诸位大将及勋旧的矛盾，适合当宰相。”朱元璋大惑不解，问道：“李善长多次构害于你，欲置你于死地，你怎么还为他说话？”

朱元璋此话事出有因。却说洪武元年，朱元璋率兵渡淮北狩，留皇太子监国。刘伯温协助李善长处理政务。刘伯温认为，宋、元两朝都是因为宽纵官吏腐败严重导致失国，因此主张吏治从严。此时，恰逢有人揭发中书省都事李彬贪污纳贿。主持监察工作的刘伯温派人调查核实后，立即下令将其逮捕收监，并说服皇太子批准，将李彬诛杀。

这件事在当时影响非常之大，盖因李彬是李善长的外甥。刘伯温执法不留情面，李善长对他恨之入骨，一直设法将刘伯温弄死。若不是朱元璋对李善长起了疑心而阻止他的阴谋，刘伯温恐怕早就没命了。因此，朱元璋以为只要把废除李善长的想法告诉刘伯温，刘伯温就会拍手称快，没想到这个倔老头子居然投了反对票。

面对朱元璋的疑问，刘伯温顿首答道：“朝廷换宰相，就好比大房子换立柱。立柱必须是一根又直又粗又长的大木头，方可支撑房梁的重量。皇上首先得找一根新的大木头，方可把旧的立柱换掉。如果用一堆小木头捆起来充当大木头去换立柱，那么，这座房子最终会倒塌。”

这场谈话到此为止。刘伯温的“立柱说”，让朱元璋明白了“束木为柱”的危险。所谓束木，就是大大小小的朝廷官员，他们是大明王朝这座大房子的檩子、椽子、棒子、桩子，但不是最能承受重量的立柱。

后来，李善长终究还是被朱元璋杀掉了。朱元璋找了三个在他看来可以当作立柱的人，再次向刘伯温征询意见。

刘伯温仍是摇头，分析说：“杨宪这个人，与我私交深厚，按理说我应该帮他在皇上面前说好话，但这个人有相才，无相器。”

朱元璋问：“何为相才？何为相器？”

刘伯温答：“相才指才能，相器指气度。杨宪这个人有宰相之才，却无宰相的气度。好与人计较，不能做到心静如水。”

朱元璋问：“那汪广洋呢？”

刘伯温答：“这个人心胸偏浅，甚于杨宪。”

朱元璋又问：“胡惟庸如何？”

刘伯温打了个比方说：“犹如用腐木做了个车辕，谁还敢驾这样的车呢？”

朱元璋有点不高兴，说：“我选的宰相，没有哪个比得上你老先生。干脆，这个宰相你来当好了。”

刘伯温有些恐惧，小心回答：“臣疾恶太盛，又耐不得细繁。若强当宰相，必然会辜负陛下的大恩。天下这么大，何患无才，唯愿明主悉心访求。只不过，方才说到的这三个人，的确都不能当宰相。”

刘伯温的这次议政，肯定有违圣意。此次谈话之后，杨宪、汪广洋以及胡惟庸先后拜相受到重用，但不久又相继被朱元璋诛除。事后，朱元璋承认刘伯温识人更高一筹。他并不因此对刘伯温更尊重一些，反而增大戒心。

一个人把什么都看得这么透彻，对猜忌成性的朱元璋来说，绝不是一件让他愉快的事。