刘伯温可谓是中国历史上最具传奇色彩的军师之一了，他辅佐朱元璋建立帝业，功劳卓著，而且从不居功自傲，又没有身居高位，且退身以自保，但却仍然未能得到善终。
刘伯温大名叫刘基，伯温是他的字。他出身于浙江青田一个官僚世家，从小就非常好学，博览群书，在元朝还中过进士，当过官。刘伯温为官清廉正直，但在当时已经极端腐败的元末社会，正直守法的人很难得到重用，才高之士更是处处受到排挤，经过官场上的三起三落之后，刘伯温心灰意冷，开始思考自己将来的出路。
1358年，朱元璋攻下了婺州（今浙江金华），为了巩固新生政权，他迫切需要获得当地武装力量和名流士绅的支持，但地方上的名门望族叶琛、章溢和刘伯温等人躲在山里结寨自保。朱元璋慕名去请刘伯温出山，直到1360年三月，刘伯温才答应朱元璋并抵达应天府（今南京），随后宋濂、章溢、叶琛等人也相继归附朱元璋。为了安置刘伯温等四人，朱元璋还特意建了“礼贤馆”。
刘伯温归附时，朱元璋的力量还不算太大，正是执行“高筑墙、广积粮、缓称王”策略的时候。1360年五月，陈友谅大军压境的，朱元璋部下人心惶惶，刘伯温为他出谋划策，最终将陈友谅打得大败而逃。
此后又在鄱阳湖一战中，陈友谅彻底溃亡，随后朱元璋又按照刘伯温的战略构思，向东击败张士诚，北伐中原，成就帝业。
朱元璋当了皇帝之后，大封创业功臣。当年跟随他起兵的人大多是淮河流域一带的人，都是朱元璋的老乡。明朝建立后，这些人因为地理和亲缘关系，渐渐形成了以左丞相李善长为首的淮西集团。刘伯温也是开国元勋，对建立明朝做过重大贡献，可是由于淮西集团见朱元璋对刘基特别信任，非常嫉妒，常在朱元璋面前诋毁刘伯温。所以，朱元璋最终只封刘伯温为诚意伯，而且是伯爵中俸禄最低的一个，李善长却被封为韩国公。
有一天，朱元璋召刘伯温进宫商议撤换宰相李善长的事情，让刘伯温发表自己的看法。刘伯温连忙说：“李善长是从龙功臣，为大明立下了汗马功劳，而且能够调和诸将，万万撤换不得。”朱元璋说：“他多次要害你，你为什么还以德报怨呢？我看你既有大功，又忠心诚实，可以取代他当宰相，怎么样？”
刘伯温一听这话，吓出了一身冷汗，连忙跪下，说：“使不得，换宰相如同换房屋的大梁，得用大木头，加入用小木做大梁，支撑不了多久，房子就会倒塌。”随后朱元璋又说了几个人的名字，有与刘伯温关系紧密的，也有跟他有仇的，刘伯温说这些人都不行，没有一个合适当宰相的，他自己也不愿意当宰相。
此后，刘伯温当御史中丞的时候，主管稽察文武大臣不法之事，正好李善长的部下李彬贪赃枉法的案子东窗事发了，刘伯温秉公执法，不顾李善长的多次求情，如实汇报朱元璋，并将李彬正法了。因此，刘伯温再次得罪李善长和淮西集团，他们纷纷状告刘伯温专断独行，连皇帝朱元璋也按不下这件事，最终把刘伯温打发回了原籍。
但即便如此，刘伯温还是没有得到安宁。在浙江和福建交界处，有个地方叫淡洋，是个两不管的地方，盗卖私盐的人都躲到这里来了，地方官吏怕上司责难，于是隐瞒不报。刘伯温知道后，派长子刘琏直接向朱元璋汇报，请求在那里设置巡检司。
这时候换了胡惟庸当宰相，他指使手下官吏去诬告刘伯温，说淡洋这个地方有王气，刘伯温想占据这个地方给自己建造坟墓，当地百姓不让，他就请朝廷在这里设巡检司。朱元璋虽然不太相信，但听说刘伯温想在有王气的地方建造坟墓，心里就不太自在，再加上胡惟庸一党在旁煽惑，更心生疑虑，便把刘伯温的俸禄取消了，当做警告。
刘伯温听到消息后，连忙赶到南京谢罪。朱元璋看了刘基表白心事的诗作，知道他确实没有什么野心，也就放心了，但还是把他留在京城里居住，不让他再回原籍老家居住。洪武八年（1375）初，刘伯温病死，享年65岁，谥号文成。