国民党政权建立后，用法律、行政、特务、军事等手段残酷地镇压任何革命活动，集中一切反革命势力向共产党人和革命群众进攻。中国共产党被宣布为“非法”，加入共产党成为最大的“犯罪”。为了彻底消灭共产党，1928年2月召开的国民党二届四中全会通过《制止共党阴谋案》，其中称：“凡经审察确为属于共党之理论方法机关运动者，均应积极铲除，或预为防范。”2月29日，国民党中央政治会议第一三○次会议通过《暂行反革命治罪法》，规定对“意图颠覆中国国民党及国民政府，或破坏三民主义而起暴动者”，分别处以死刑、无期徒刑或有期徒刑。上述内容被写进同年3月公布的《中华民国刑法》。

在这种情况下，中国共产党的许多优秀干部，群众运动的领袖，成千上万的共产党员、共青团员，革命的工人、农民、知识分子以及党外革命人士倒在血泊中，党的活动被迫转入地下。据党的第六次全国代表大会时的不完全统计，从1927年3月到1928年上半年，被杀害的共产党员和革命群众达31万多人，其中共产党员2.6万多人。汪寿华、萧楚女、熊雄、陈延年、赵世炎、夏明翰、郭亮、罗亦农、向警予、陈乔年、周文雍等党的著名活动家，为了人民的解放事业先后英勇牺牲。在极其险恶的局势下，党的队伍中的一些人在政治上、思想上陷入混乱状态，党内存在着相当严重的消极情绪。一些不坚定分子动摇悲观，登报声明脱离共产党和共青团。有的人甚至公开向敌人忏悔，攻击共产主义和共产党，出卖党的组织和同志，成了可耻的叛徒。据1927年11月的统计，党员数量由大革命高潮时期的近6万人急剧减少到1万多人。

但是，英勇的中国共产党人并没有被国民党的屠杀政策所吓倒。他们冲破反革命的高压，在黑暗中高举着革命的光辉旗帜。许多共产党人以自己的鲜血和生命，捍卫了共产主义的信念。全国农民协会秘书长夏明翰在就义前的绝命诗中写道：“砍头不要紧，只要主义真。杀了夏明翰，还有后来人。”广州起义领导人之一的周文雍在狱中写道：“头可断，肢可折，革命精神不可灭。壮士头颅为党落，好汉身躯为群裂。”中共湘鄂赣特委书记郭亮在牺牲前夕写给妻子的遗言是：“望善抚吾儿，以继余志。”江西弋横起义第六路指挥邱金辉临难时被绑在木十字架上，敌人极其残酷地在他的左右肩胛用刀挖洞插上蜡烛，头顶插香点燃，并用火烧其心窝，但他毫不畏惧，高呼“杀死我一个，杀不绝共产党人，革命一定要胜利”，最后壮烈牺牲。

在严重的白色恐怖下，真正的革命者仍然坚持斗争。一些追求进步的人士，在革命的危难时刻加入到党的队伍中来。如年逾半百的老教育家徐特立、著名文学家郭沫若和在国民革命军中担任领导职务的贺龙、叶剑英、彭德怀等，都在这时加入了中国共产党。

注:

 [1]1929年7月，东北地方当局在南京政府的授意和支持下，破坏1924年中苏共管中东铁路的协定，以武力强行接管中东铁路，解除苏方人员的职务，引起中苏之间的武装冲突。12月，中国方面战败，中苏签订《伯力协定》，恢复中东路7月以前状态。这次事件史称中东路事件。