与此同时，还有一支政治势力在洪武朝更为隐秘地积蓄着力量，那就是宦官。从朱元璋的一些言行看，他对历代宦寺之祸有着清醒的认识，并保持着高度的警惕。洪武元年三月，朱元璋见史书所载汉、唐之末宦官乱政的情况，深为之前的君主们所叹息。《明太祖实录》中记载的朱元璋严禁宦官预政的训诫即达七次之多。洪武十年五月，有一久事内廷的宦官谈及政事，朱元璋当天就把他斥还乡里。洪武十七年，他铸铁牌置宫门中，文曰：“内臣不得干预政事，犯者斩。”此外，他还不准宦官识字。表面上看，朱元璋的举措是对宦官乱政建立了一个严密的防火墙。因此，后世诸如《明史》等著作都认为明代的宦官之祸源于明成祖朱棣。

朱棣泉下如有知一定大呼冤枉，他其实是当了老爹的替罪羊。事实上，根据《明太祖实录》的记载，早在洪武元年，朱元璋就派遣宦官到北平犒赏北征将士，这为以后宦官监军、分镇开了先例。洪武元年十一月，也就是1368年，一个叫马仲良的宦官就奉旨前往广西招抚当地的土司，这是明代内官参与政治活动最早的记载。第二年四月，宦官金丽渊出使高丽——这是内臣奉旨出使外国的开始。此外，宦官参与茶马贸易、监督商税、插手刑狱，在洪武朝都有事例。

而派遣宦官监视臣下则更早，在朱元璋称帝前，有一次赐傅友德酒宴，命叶国珍陪酒，并拨付妓女十几人，然后派宦官窥伺。叶国珍命令妓女们穿上华丽的服装，自己与妓女混坐在一处。宦官回来汇报，朱元璋命令士兵把叶国珍和妓女锁在马棚里，并削去了妓女的鼻子，叶国珍也挨了几十鞭子，因为叶国珍的行为触犯了朱元璋等级贵贱的思想。

洪武十二年十二月，占城国派遣使节向明朝进贡，擅权已久的丞相胡惟庸没有把这件事上报朱元璋。一名宦官见到了占城国使者，给朱元璋打了小报告。受到蒙蔽的朱元璋大怒，两名丞相胡惟庸和汪广洋顿首谢罪，这件事可以说是胡惟庸案的缘起。第二年，胡惟庸因谋反的罪名被诛九族，朱元璋从此不再设丞相，直接领导六部，强化了皇权。据野史记载，当时还有一名叫云奇的宦官曾经揭发胡惟庸意图行刺的罪状，在权力中心发生大洗牌的重要关头，宦官扮演了极其重要的角色。

为了子孙后代永坐江山，朱元璋对于可能威胁到皇权的“祸因”全部排除，功臣殆尽、文吏束手、后妃外戚不干政。然而，权力集中于一身，而一人又不可能治天下，他身边的帮手就只有那些出身低贱、身体残疾、知根知底儿又没有宗族势力的宦官了。尽管深知宦官必然误国，心口不一的朱元璋还是抬高宦官的品级，扩大他们的规模。到洪武末年，宦官机构已有21个，为后来管理宦官的庞大机构“二十四衙门”打下了基础。

对待宦官，他可以说是又爱又恨，一个叫冯坚的小吏上疏要求控制宦官人数，他破格提拔冯坚为左佥都御史；他的外甥曹国公李文忠提出裁省内臣，他又勃然大怒，说：“欲弱吾羽翼，何意？此必其门客教之。”意思是，你要削弱我的权利，是何用意？这一定是你的门客教你的。于是他把李文忠的门客全部杀掉，李文忠也惊惧而死。

一手任用一手又严防，在朱元璋这里并不矛盾，但是，他高超的统治艺术和勤奋的治国实践却无法遗传给他的子孙。到了后代子孙那里，宦官不仅干政，而且政治地位也得到了进一步提升。