湘赣根据地是在井冈山根据地基础上发展起来的。1929年1月红四军主力下山后，红五军在彭德怀指挥下进行井冈山保卫战。在优势敌人的四面包围下，红五军被迫突围，前往赣南与红四军会合。留在边界的工农武装力量在朱昌偕、何长工、宛希先等领导下，坚持与敌人斗争。5月，红五军重返湘赣边界，与地方革命武装一起开展武装割据。至年底，在宁冈、莲花、永新、遂川、泰和等县恢复和重建了革命政权。1930年1月，中共赣西特委成立，江西红军组成红六军（不久改为红三军），军长黄公略，政治委员刘士奇。在赣西革命斗争恢复和发展的同时，湘东各县革命斗争也有较大发展。经过第一、第二次反“围剿”，湘东和赣西根据地连成一片。1931年10月，湘赣省党的第一次代表大会和第一次苏维埃代表大会召开，成立以王首道为书记的省委和以袁德生为主席的省苏维埃政府。至此，湘赣根据地形成。

在湘鄂赣边，1928年11月，彭德怀、滕代远率平江起义部队主力转往井冈山后，黄公略率红五军一部留在边区，坚持游击战争。到1929年四五月间，将割据区域扩大到浏阳、平江、铜鼓、修水、万载等县。8月，由湘赣边返回的彭德怀部红五军与黄公略部会合，共同开展边界的武装斗争。到1930年四五月间，红五军已发展到5000余人，在湘东北的平江、浏阳，赣北的修水、铜鼓、万载，以及鄂东南的大冶、阳新、通山、通城、崇阳的广大地区，建立起较为巩固的根据地。6月上旬，按照中共中央的指示，红五军第五纵队同鄂东南根据地的部分赤卫队合编为红八军，何长工任军长，邓乾元任政治委员。同月，彭德怀、滕代远根据中央的命令，在湖北大冶宣布成立红军第三军团，下辖红五军和红八军，由彭德怀任总指挥兼前委书记，滕代远任政治委员。随后，由湘鄂赣边独立师和一部分游击队组成的红十六军，也划归红三军团建制。