为了加强对日益高涨的工人运动的领导，统一上海各工会的组织，党中央决定成立上海总工会。1925年5月2日，李立三就根据党组织决定，召集24个团体代表开会，组成了上海总工会筹备会。5月18日又在会文路荣业里开筹备会成立大会，通过了工会章程，选举李立三为会长的筹备董事会。24日左右，总工会在宝山路开始活动， 在宝山路宝山里公开挂牌办公。