洪武十三年，胡惟庸被处死后，胡惟庸案远没有结束，对于胡惟庸的罪状一直都在搜集查证。

    洪武十八年（1385），有人告发李存义和他的儿子李佑，不仅是胡惟庸的至亲，还曾经伙同胡惟庸谋逆。胡惟庸虽已被诛，李存义也必须连坐。这可是祸从天降，并且为祸不轻，李家揣揣不安。但是朱元璋对此事并未严惩，还特别下诏，李存义与李佑都免于死罪，只是被贬到崇明岛闲住。可能是因为李善长为功臣元老，朱元璋念及旧情，因而特地从轻发落。按理李善长受到如此殊遇，应该上书谢恩，但是李善长对此事全然不予理会，这种态度令朱元璋感到非常不快。

    胡惟庸案的查证一直都在继续着，并且有了新的进展。洪武十九年（1386）明州卫指挥林贤通倭事发，经审讯得知，他是奉胡惟庸的命令下海通倭的，胡惟庸谋反案有了进一步的证明。洪武二十三年（1390），又捉拿到奸人封绩。封绩本是元朝的旧臣，后来归降于明，据说他经常往来于蒙、汉之间，曾经为胡惟庸给元嗣君送过信，胡惟庸在信中称臣，并请元嗣君出兵为外应。其实早在洪武二十一年（1388），大将军蓝玉出塞时，在捕鱼儿海地方就捕获过封绩，但是由于李善长施加影响，并未上奏，就把封绩给放了。直到这次，由于封绩再次被捕入狱，李善长终于也被牵连进来了。

    恰在此时，李善长为了娱老，大兴土木，因缺少工人，向信国公汤和借用卫卒三百名，以供营建。以营卒为工役，这种事情本是常事。但汤和胆小怕事，又不敢得罪李善