石田三成投靠到德川家康帐下之后，由家康出面调停，向加藤清正等七人说项，好好责训了三成一顿，平息了七人的怒气，然后将三成遣返他领地佐和山去，算是结束了这次的纠纷。三成经过这次的教训后，理应对家康感恩图报才是，但他仍然心中耿耿；虽然不敢明目张胆地再施出什么阴谋诡计，但暗中不断地与各方强豪联系，俟机而动。不过在表面上，对家康十分恭顺服贴，因此家康也获得了一时的安静。
庆长四年九月初九，重阳佳节，家康为了向秀吉的嗣子小秀赖致敬，特地由伏见赶来大阪，暂时寄宿在原来石田三成的邸宅，这时空出无人。他除了向秀赖贺节之外，又去拜谒了秀吉的正室，由秀吉封为北政所的八重夫人。她住在大阪城内的西之丸。夫人看见家康到来，十分欢喜，立刻恳切地希望家康留下，情愿自己回到京都去，而将西之丸让出给家康居住。家康原本不肯，后来由于增田长盛的密告，才知道北政所另有隐情。原来夫人察觉小秀赖的生母淀君帏幕不修，似乎和她的老侍女的儿子大野治长有苟且，夫人自己不便追究查办，只望能远离是非之地，不闻不问，而倘若家康能挺身出来，替丰臣氏整饬家声，正是感激不尽。家康考虑再三，这事虽然棘手，但此时除了他之外，更无人能插问。他受秀吉知遇，义不容辞，答应了下来。夫人移轩去了京都之后，他便打算搬进西之丸，将政治中心由伏见移转过来，而命他次子秀康守住伏见。他这一布置，当然都被淀君和大野治长所侦悉，并使他们有了警惕。淀君知道家康此来，必然会有行动，不如先下手为强，乘家康还未就绪的时候，就将他干掉。恰好前田利家的儿子利长，在他父亲亡故之后，承袭了父亲的地位，对于家康的权势十分眼红，十分嫉妒，另外还有几位小心眼的人也都想去掉家康而后快，大家集合了起来，准备在家康入城的时候，将他刺杀。他们这一奸谋，又被增田长盛告密，揭发了出来。家康便以迅雷不及掩耳的手段，将大野治长流放到下野去。前田利长由于他母亲前田利家夫人哀哀求情，并且甘愿自做人质，被遣送到江户去，才免于处刑。淀君只有暗暗叫苦，从此把家康恨如切骨，誓不两立。
一代名将，越后的上杉谦信死后，由他的义子景胜嗣位，归顺了秀吉。在北条之役后，由秀吉转封，以会津为中心，领有仙道、奥羽一大片土地，成为北部的重镇，同时也被秀吉遴选为顾命的五大老之一。秀吉死后，他闻讣奔丧，在大阪整整居住了一年。由于领内诸事待理，辞别了秀赖和家康回到领地。他回去之后，免不了整修领内的城堡、桥梁、道路，以及招訓兵丁，更新各种装备武器，竟惹起了误会，谣传他有反意。他部下的将佐很多是越后出身的老人，追随他到了新任所，仍不免眷念故乡，不时前往探望，而越后的父老每逢故人来访，总是吐些苦水，对新来的统治者表示不满，因此新人与旧人之间常起龃龉。新人自然又会告到家康那里，认为旧人有并吞的企图。
家康接到各处的情报之后，焉能不理，要求景胜解释，而景胜又认为这种无谓的风说，根本不值得申辩，未加介意，因此更引起各方对他的狐疑。家康屡次派人劝他上京，他都支吾其辞，未肯遵行，越发使得事态严重起来，终于不得不下令限定日期，命他亲来京中当面陈辩，如果逾期不来，便证明他确有谋反的企图，将明令讨伐。上杉景胜对于这样的威胁哪里能屈服。他写了一封极为傲慢的长函，申述他抗命的理由，并且指摘家康处事不公，函中最后一段写道：今世之人，昨尚图谋不轨，今已腆颜上京，并迅蒙赐官爵，一旦权势交加，即不知天下有羞耻事而到处周旋，此即为当今世风，非景胜之所能也。
家康接到这封绝交书之后，勃然大怒。最后这一段明明是讥讽他，使他万分难堪，便立刻下令讨伐。几位文臣奉行，以秀吉的墓土未干，不宜大动干戈，前来谏阻。但还有少数几位没有返归的秀吉旧部武将，却一个个摩拳擦掌，都自愿追随家康，再去立功。于是在庆长五年六月十六日，家康由大阪出发，准备回到他自己的领地江户，聚集大军，然后北伐。
小嗣主秀赖闻讯后，亲来送行，馈赠了一份厚礼，黄金二万两、白米二万石。这份赏赐证明了小嗣主也赞同他的行动，从此师出有名是奉命讨逆，而不是和上杉景胜闹意气。他途经伏见城，是他奉秀吉遗命留驻处理政务的旧地，免不了要重游一番，走进秀吉以前大会群臣的千席大厅时，不禁仰天大笑，秀吉所创立的基业似乎要落到他手里了。
原在伏见留守的，是他的次子秀康，这时命他随行同往江户，改派另一员老将鸟居元忠进驻。元忠十二岁时，就来三河城伺候他，跟随他一同受苦，后来又东征西讨立了不少战功，现在又老又跛，但豪气不减，奉命留守，充满信心，绝不负所托。二人挥泪而别。家康率领众兵将，缓缓前进，到了七月初二才到江户。这一行程费了十七天。
在这十七天当中，起了极大变化。敦贺城主大谷吉继，以前蒙石田三成推荐，十六岁时就当了秀吉的近侍。大谷为人聪慧机敏，很受秀吉宠信，累官晋为刑部少辅，声名很好，秀吉死后归依家康，因患癞病影响了视力，辞官返里。这时奉了家康的召集令，率领所部，预备驰赴江户，道经佐和山，派人邀请他的老友三成前来相聚，不料三成坚请他相访。三成抓住机会，和他密商推翻家康的计划。大谷大吃一惊，本不赞同，但禁不起石田的反覆劝诱，动以情谊，大谷终于答应下来，做了三成的军师。
三成得到了大谷的资助之后，逐步进行他反家康的阴谋，他早与毛利辉元有过默契，互通音问。这时他联合了所有的奉行（他的老同僚），共同致函毛利，推他为总大将，并且迎接他到大阪来，占据了家康处理政务的西之丸，然后发布了讨伐家康的檄文，内中先叙明了对丰臣秀吉的恩义，拥戴秀吉的后嗣秀赖，同时举发了家康违反秀吉所订的大法十三条罪状，这全是三成所策划，他成为政变的幕后主脑。
三成进一步，将追随家康北征众客将留在大阪的家小，全部拘禁了起来，要挟她们函劝她们的丈夫倒戈反正，否则便将她们处死。
家康接到苦迭打的噩讯后，很能沉得住气，大会众将，将石田三成的行动，毫无保留地报告出来，附加说道：诸君有愿意去帮助石田三成的，请便，我绝不留难！座中褔岛正则立刻大叫道：家康！大家都知道你奉秀吉的遗命，竭忠尽智辅佐幼主，我绝不受石田三成这浑小子的蛊惑，我愿意当先锋去灭了他！然后他又说道：老婆孩子的生死，我管不了许多了！于是众将异口同声，都誓死悉力去对付石田。褔岛本来是秀吉手下的勇将，在贱岳之战中，是七支枪之一，夙负盛名。他粗暴凶狠，朝鲜战役里也曾大显身手，不过他的军功多次都被石田所抹杀，因此恨透了石田，对家康却特别尊敬，秀吉死后自愿投来家康麾下，作为家康的客将，这次随行北来，有此表示，使得军心大振。
家康的处境仍然相当困扰，究竟先去克服上杉，还是返旆西向，与石田决一雌雄？一时不免彷徨，于是他设筵邀请了众客将，提出这一问题，众客将一致表示：向西！褔岛正则斟满了一杯酒，一饮而尽，说道：我一定斩了石田三成和小西行长，拿他的头来下酒！家康大喜，说道：好！就请各位先行，我跟着就来！还选了一匹骝马赠送给了福岛，令他为先锋。
西向的政策决定了之后，家康便再布置对付上杉的军事行动。他暂取守势，命令他的次子秀康监视上杉方面的动静。另一面派人与伊达政宗联络。伊达政宗自从归顺了秀吉之后，略微收敛了一些他的野心，朝鲜战役中，也在蔚山、晋州几处立过功。在上杉有不稳的情况传出时，他便急急忙忙赶回他领地，他的领地恰好是在会津盆地之北，拊上杉之背。他个性急躁，讨伐上杉的令下，他已经忍不住领兵占据了白石。家康的使者传命，请他注意战况，保持实力，不可妄动，劝他暂时退归原防，许以重酬。伊达居然都依了。
家康部署已定，慢慢率领他自己的精锐，回师西向了。
这时石田三成也在积极动员，除了招兵买马加强他自己的军力之外，另外联合了他所有的僚友共同起事，其中拥有最大武备、士卒最多的，是在朝鲜战役中当过元帅的两位主将。其一是浮田秀家，是五大老之一；另一是小早川秀秋，是秀吉夫人最小的胞弟，自幼就为秀吉夫妇所抚养钟爱。秀吉老友小早川隆景无后，由秀吉推劝，将秀秋收为养子，因此承袭了小早川的姓氏。在二十岁时，秀吉第二次发兵征韩时，被任命为统帅。在蔚山之战中，奋不顾身，突入敌阵，杀死了十数人，大破明军。
三成虽然是以小秀赖之名，号召秀吉旧部，共同讨伐家康，但他到底官卑职小，为人一向刻薄，除了小西行长以外，没有人真心愿听调度。不过自从毛利辉元被推为总大将，进入西之丸后，反家康的形势已成，箭在弦上，不能不发，只好继续干下去。由各地集合而来的有几万人，于是首先要求伏见城开门投降。奉家康之命留守的鸟居元忠当然不肯。血战十余日后，元忠以下众兵将全部殉难。家康的第一个据点被击破，三成大喜，以为家康不堪一击。
实际上，三成的阵营虽然人数不少，却是个离心离德乌合之众。三成倚为长城之一的小早川集团，便十分靠不住。小早川在朝鲜战役里，被三成参了一本，说他身为统帅，竟甘冒矢石，与士卒抢功，不识大体。等他班师还朝的时候，被秀吉痛责一番，认为他轻率幼稚，不配当主将。当时幸而有家康在旁为他百方纾解，才没有降罪，但仍然将他的领地削减了三分之二。害人的人早将此事忘得一干二净，但是被害的人却铭心刻骨地记得牢牢的。小早川在表面上参加了三成的所谓西军，暗地里和家康有了联络。小早川以外，专门探人隐私的增田长盛更是施展了他两面人的绝技。表面上他是三成长年的僚友、死党，却将三成的种种行动，一五一十地暗暗传递给家康。
家康得到西军联营的情报，洞若观火，他乐得缓缓前进，徐图候变。他由庆长五年七月二日返旆西向，到了九月十四日，两军才在关原地方遭遇，展开大战。
三成没有指挥大兵团的经验，全凭他个人的智慧来假想敌情。他的如意算盘是先守住家康必经之地的大垣城，由浮田秀家的主力吸住家康的大军，然后再由毛利辉元由大阪亲率援军，斜刺里猛攻夹击，必然能使家康崩溃，但他的计划却被增田长盛泄漏了出来。家康的大军避开了大垣域，直扑大阪。
三成的计划全部落空。他不得已只好急急忙忙变卦，退出大垣，在豪雨之夜转入关原四周的高地。西军仍然占了地利，只可惜三成早就失去了人和，在西军里只有小西行长是他生死之交，其他诸将几乎没有一个甘心为他效命，其中很多还和家康有旧谊，甚至连毛利系里的大将都按兵不动，作壁上观。
十五的辰时，家康的先锋褔岛正则首先进攻，于是激战开始。杀到正午，双方伤亡惨重，但胜负未决。忽然，占据在关原西南角高地上的小早川秀秋的部队由山上冲下，直扑他的友军大谷吉继的阵地，西军登时大乱，显然的小早川倒戈了。半盲的大谷虽然也抵抗了一阵，终于切腹自杀，全军覆没。兵败如山倒，西军大溃，接战才四个时辰，关原大战在遍地残骸中结束了。
三成被他的部队亲随遗弃了之后，单骑一度逃到伊吹山里去。想到小时候，曾经在近江的三重院大寺里读过书，便去投靠，不料碰了钉子。又到附近的庙宇里请求收留，也被拒绝，不得已回到山林中躲藏起来，饿了几天之后，找到了一些野果实，吃下去之后，竟然下痢，苦不堪言。好不容易遇到了以前一个熟人，知道近处山里有个洞窟可以藏身。但不久又被人发现，他明白从此天涯更无存身之处，逃也无用，他便慨然地力劝救他的故人，索性将他告发了，还可以领些奖金。就这样他束手就擒了。
他的好友小西行长也被人在伊吹山中发现，他对发现他的老百姓说：我是小西摄津太守，把我押送到家康阵营里去，可以领奖金！但老百姓不肯，您还是快逃吧！他说：我逃什么！我应该切腹自杀，不过我是基督徒，不能那么做，只好请你押我去家康的大营！老百姓只好依了他，得到奖金黄金十枚。
三成在行刑前，口渴要求喝口水，但是刽子手哪里能在这时弄得到水，身上恰巧有个柿饼，也可以解渴，三成却不要。他说：柿饼会生痰不能吃！刽子手说：马上你的头都要掉了，还管什么生痰不生痰！三成答道：心怀大义的人，时时刻刻都留心自己的身体，一直到首级落地的那一刹那。
三成、小西同时在十月初一押到大阪、堺，和京都三处巡游一周之后，当众枭了首。