租界当局的暴行震动了全上海。中共中央印发告工人、兵士、警察的传单共五六十万份，激起上海各阶层民众同仇敌忾之心，很快上海民众几乎全都轰动起来。各社会团体纷纷召开紧急会议，讨论应对之方。5月31日下午，上海商界团体分头集会，商议对五卅惨案的态度。由中小商人组成的各马路商界联合会总会主张罢市声援学生，上海总商会则迟疑不决。总商会由上海商界头面人物组成，中小商人往往惟其马首是瞻，若要实行总罢市，必须有总商会的命令。故上海总商会的态度关系到总罢市能否实行。最后在示威群众的强烈要求和逼迫下，总商会副会长方椒伯（会长虞洽卿时在北京）签署总罢市的命令。次日，上海公共租界大小商店都停止营业。接着华界、法租界的商店也纷起响应。
在商界罢市的同时，上海大中学校学生亦从6月1日起开始罢课。接着，上海总工会发表宣言，宣布从6月2日起实行总罢工。据李立三回忆，他们最初先动员工人总罢工，但未能罢下来，等商人总罢市以后，工人总罢工才实现。由于运动因日本资本家枪杀工人顾正红和英租界巡捕枪杀示威学生、群众而起，故英国和日本成为反帝斗争的主要目标。截至6月13日，英资工厂罢工者共26处，3.6万余人；日资工厂罢工者共39处，6.3万余人；工部局所属系统罢工者8处，3600余人。总计外资企业罢工107处，13万余人。此外，中国工厂亦有11处、2.6万余工人参加罢工。全上海学生、工人和商人同时以罢课、罢工和罢市的方式投身于反帝斗争，迅速形成一股巨大的民族主义洪流。是时的上海，只见满街贴的是反帝国主义的标语、口号、图画；处处都有游行的、演讲的、募捐的、演戏的，人人都忙着反帝国主义的工作。针对这种形势，中国共产党又制定出新的动员策略：一是成立上海工商学联合会，作为反帝运动的总领导机关，将上海社会各阶层民众在民族主义旗帜下团结和统一起来；二是将五卅运动由上海扩大到全国去，形成全国性的反帝风潮。