洪武四年，李善长因病辞官归居，太祖赐临濠地若干顷，设置守坟户一百五十家，赐给佃户一千五百家，仪仗士二十家。
一年后病愈，太祖便命他负责修建临濠宫殿，将江南富民十四万迁徙濠州耕种，让李善长管理他们，留在濠州数年。
洪武七年，太祖提升李善长之弟李存义为太仆丞，李存义之子李伸、李佑都为群牧所官。
洪武九年，太祖以临安公主下嫁其子李祺，授为驸马都尉，初定婚礼，公主严修妇道，李家受宠显赫，时人极为羡慕。
李祺与公主结婚一个月后，御史大夫汪广洋、陈宁上疏说："李善长恃宠自纵，陛下因病几乎十日不能上朝，他不来问候。
驸马都尉李祺也六日不来朝见，召他至殿前，又不认罪，这是对陛下极大的不敬。"
李善长因此获罪，被削年禄一千八百石，不久，太祖又命李善长与曹国公***一起统领中书省、大都督府、御史台，同议军国大事，监督圜丘之工程。
洪武十三年，胡惟庸因谋反被诛杀，受牵连而处死者甚多，但李善长仍然如故。
御史台缺中丞，李善长暂理御史台事务，多次向太祖提出建议。
洪武十八年，有人告发李存义父子实为胡惟庸的党羽，明太祖下诏免死，将他们安置在崇明，但李善长没有表示感谢，太祖因而怀恨在心。
洪武二十三年，70多岁的李善长却与妻女弟侄七十余口，一起被冤斩，故居被抄毁，从此以后，李善长的故居与后裔成为未解之谜。
崇祯十七年，南明弘光帝追补开国名臣赠谥，获追谥"襄愍"。
洪武二十三年，李善长已经七十七岁，因为年老约束不了部下，曾想建造府宅，从信国公汤和那里借卫士三百人，汤和悄悄告诉他所听到的事。
四月，京城有百姓受株连而被发配到边疆，李善长屡次请求赦免其亲戚丁斌等，太祖大怒，将丁斌治罪。
丁斌以前在胡惟庸家做的事，他供出李存义等过去与胡惟庸互相交往的情况。
于是太祖下令将李存义父子逮捕审讯，他们的供词牵连到李善长，供词上说："胡惟庸企图谋反，派李存义暗地里劝说李善长。
李善长惊叱道‘：你这么说到底为了什么？你们一定要慎重，否则九族都要被灭。‘;
不久，又派李善长的老友杨文裕去劝他说：‘事成之后，当以淮西之地封你为王。‘;
李善长惊骇不已，仍不同意，却又颇为心动，胡惟庸于是亲自去劝说李善长，仍然不同意。
过了一段时间后，胡惟庸又派李存义去劝说，李善长叹道：‘我已经老了，我死之后，你们好自为之。‘;"
有人又告发李善长说："将军蓝玉率军出塞，到捕鱼儿海时，俘获胡惟庸私通沙漠使者封绩，李善长却匿而不报。"
于是，御史竞相上奏弹劾李善长，而李善长的奴仆卢仲谦等，也告发李善长与胡惟庸之间互相贿赠，经常偷偷私语。
这些证言显示，李善长虽是皇亲国戚，知道有叛逆阴谋却不揭发检举，而是徘徊观望，心怀两端，大逆不道。
当时正好有人说将要发生星变，会有灾祸发生，占卜的结果是灾祸应当降临在大臣身上，于是，太祖便连同其妻女弟侄等全家七十余人一并处死。
吉安侯陆仲亨、**侯唐胜宗、平凉侯费聚、南雄侯**、荥阳侯郑遇春、宜春侯黄彬、河南侯陆聚等人，都同时受胡惟庸牵连而死。
不久，被牵连的还有已故的营阳侯杨璟、济宁侯顾时等若干人，太祖亲自下诏罗列他们的罪状，加在狱辞里面，纂成，布告天下。
李善长之子李祺与公主被迁徙至江浦，过了一段时间后死去，李祺之子**、李茂，因公主之恩未被牵累判罪。
**任留守中卫指挥，李茂任旗手卫镇抚，但被取消世袭韩国公的权利。
李善长死后第二年，虞部郎中王国用上奏："李善长与陛下同心，出生入死打天下，勋臣位列第一，生前封公，死后封王，儿娶公主，亲戚拜官，他作为人臣，名份已经到了极点。
即使他想自图不轨，尚且未曾可知，而今说他想帮助胡惟庸谋反，则是极为荒谬，大错特错了。
人们疼爱自己的亲生儿子，一定胜于兄弟之子，已经安享万全之富贵的人，一定不会去想侥幸获得万一之富贵，这是人之常情。
李善长与胡惟庸，仍然只是儿女亲戚，而对于陛下则像对子女一样的亲近。
假使李善长帮助胡惟庸谋反成功，也不过是位列勋臣第一而已，太师、国公、封王而已，娶公主、纳王妃而已，难道还会胜于今日吗？
而且李善长难道不明白天下是不能侥幸取得的吗？元朝末年，欲取天下者无限，却都莫不为此粉身碎骨，覆宗绝祀，能保全自己脑袋的有几个人呢？
李善长自己也亲眼所见，为什么还要在衰倦之年去重蹈覆辙呢？凡是去这么做的必然有深仇大恨促使着他，在大势已去的情况下，父子之间可能会相互扶持以求逃脱灾祸。
而现在李善长之子李祺与陛下有骨肉之亲，没有丝毫芥蒂，他何苦突然这么去做呢？
如果说天象告变，大臣受灾，杀了他以应天象，则陛下更加不能这样做。
臣惟恐天下百姓听说之后，会说像李善长这样的有功之臣尚且得到了如此下场，国家也会因此而分崩瓦解啊。
现在李善长已死，再说无益，但愿陛下将此作为将来的教训。"太祖收到上奏，竟然没有加罪王国用。
崇祯十七年，南明弘光帝追补开国名臣赠谥，李善长获追谥"襄愍"。
李善长是教书先生出身，他的加盟，对朱元璋意义重大，朱元璋称帝后，曾问群臣，谁的功劳最高？
大臣王国用上书道："善长与陛下同心，出万死以取天下，勋臣第一!"朱元璋也称非常认同。