中国共产主义青年团的组织源头，主要是青年群体。即青年群体的形成是青年团产生的组织基础。新文化运动的兴起是青年团产生的思想基础；马克思主义的传播是青年团产生的理论基础。五四运动标志着中国青年新的觉醒，由“五四”开始的青年运动的实践，是青年团体产生的重要条件；五四运动之后，中国青年运动出现了一个全新的局面，中国青年要求改造社会的呼声越来越高，建立一个以马克思为理论指导的青年政治团体，成为历史的要求；马克思主义与中国青年运动相结合，是青年团产生的重要条件。十月革命及俄国共青团的影响是中国青年团产生的外部条件。中国共产党的诞生不仅直接缔造了青年团，而且为青年团的建立提供了领导保证。

    五四运动后，中国青年要求改造社会的呼声响彻祖国大地，各地青年纷纷成立社团，宣传新思潮、新文化的刊物如雨后春笋，大量涌现，仅一年时间，就出现400多种。其中具有不同程度的社会主义倾向就有200多种。在五四运动中，青年知识分子看到工人阶级表现出来的伟大力量。一些具有初步共产主义思想的知识分子开始到民间去，在工人中开办学校，组织工会，促进了马克思主义与中国工人运动的结合。马克思主义与中国工人运动的结合，为中国共产党和中国共青团的创建作了思想和组织上的准备。

 

    同时，湖南、湖北、浙江、安徽、四川等地，很多青年对旧社会不满，要求思想解放。他们脱离家庭和学校，探索改造社会的新道路。从自发的革命意识到自觉的革命行为，需要科学的理论指导和有效的组织动员。因此，中共早期组织成立后，随即组建了青年团早期组织。

 

    1920年8月，在共产国际的帮助下，上海首先建立了共产主义小组。在这个党的早期组织的筹建过程中，共产党的发起人李大钊、陈独秀等人就对发展中国青年运动、在青年中培养和挑选预备党员的工作给予了极大的关注。因此，上海共产主义小组一成立，陈独秀便指派小组内最年轻的成员俞秀松组建社会主义青年团。8月22日，上海社会主义青年团由俞秀松、施存统等8人正式发起建立。

 

    1921年7月，中国共产党成立后，派出了许多党员去加强对各地团的早期组织的领导工作。1922年5月5日，中国社会主义青年团第一次全国代表大会在广州市东园开幕，中国共青团正式成立。1925年1月26日至30日，中国社会主义青年团在上海召开第三次全国代表大会，会议发表了《大会宣言》，并将“中国社会主义青年团”正式更名为“中国共产主义青年团”。

 

    继上海青年团早期组织成立之后，1920年秋至1921年春，北京、武汉、广州、长沙等地的革命青年分别在李大钊、董必武、谭平山、毛泽东等人的领导下，也在当地建立了社会主义青年团的早期组织。

 

    1921年7月，中国共产党成立后，就立即研究了在各地建立和发展社会主义青年团，并且将它作为党的预备学校的问题，派出了许多党员去加强对各地团的早期组织的领导工作。这时代表中国共产党和青年团出席共产国际三大和青年共产国际二大的张太雷从莫斯科归来。他带回了青年共产国际关于建立中国青年团组织的指示。中共中央局随即决定由张太雷等人主持正式建立青年团的工作。从1921年11月到1922年5月，全国有17个城市建立了地方青年团组织，团员总数达5千多人。