中共旅欧支部是在我国第一代共产党人赵世炎、周恩来等亲自组织和领导下建立起来的,是当年留法勤工俭学的重要成果。1919年“五四”运动以后,我国广大爱国青年学生在十月革命的鼓舞下,为了寻找革命真理,以求改造中国,纷纷赴法勤工俭学。到1920年底,全国赴法学生达1600多人,在这支队伍中,著名的领导人有:赵世炎、周恩来、蔡和森等同志。他们中间,有我国最早的一批具有初步共产主义思想的知识分子,也有当年“五四”运动的杰出的领导人和积极分子。
1922年6月,旅欧中国少年共产党成立。1922年冬,参加“少共”中的共产党员组成中国共产党旅欧支部,同时,“少共”中够党员条件的同志正式转为中国共产党党员。1923年2月17日至20日,“少共”在巴黎召开了临时代表大会,正式通过把“少共”改名为旅欧共青团。
中共旅欧支部和旅欧共青团,设在巴黎南部意大利广场戈德弗鲁瓦街17号的一家旅馆内,党团机关是合在一起的,领导机构也是统一的。当时,团组织是半公开的,发表声明、宣言以及参加旅欧华人各团体活动时,都是用“旅欧共产主义青年团”的名义;党的组织是秘密的,不公开活动,直到1925年4月1日,刊物上才第一次出现以“中国共产党旅欧支部”的名义,发表《为孙中山先生逝世告旅欧华人》。这种组织机构的特点,一直保持到中共旅欧支部的结束。
旅欧党团组织建立时,党团员只有30多人。1923年2月增加到72人。1924年间,发展到200多人。