1920年秋至1921年春，董必武、陈潭秋、包惠僧等在武汉，王尽美、邓恩铭在济南，毛泽东、何叔衡等在长沙，谭平山、谭植棠、陈公博等在广州，相继成立了共产党的早期组织，开展共产主义的宣传和组织活动。上海共产党早期组织的成员施存统、周佛海到日本留学，不久在日本组织了东京共产主义小组，成员有10多人。在法国，也由张申府、吴明、周恩来等组成了巴黎共产党早期组织。
中国共产党早期组织的名称并不统一，但它们都是不久后组成统一的中国共产党的地方组织，后来被习惯地称为共产主义小组。成立共产党早期组织的地方，多是受到新文化运动和五四爱国运动影响较深、产业工人较为集中、已经出现了一批选择了马克思主义的知识分子的中心城市。
