1927年3月20日晚,北伐军东路军进入龙华,上海处于北伐军的包围中,发动起义的时机已经成熟。3月21日清晨,中共上海区委根据中央的决定发动第三次武装起义。
下午1时半左右,南市区打响了起义的第一枪。工人纠察队以小南门救火会钟声为号,兵分三路进攻,下午3时,各路工人纠察队、自卫团、海军起义人员在江南造船厂及高昌庙兵工厂前会师,包围驻厂的直鲁军海防卫队士兵,迫使敌军全部缴械投降,第三次武装起义首战告捷。
接着,虹口各厂工人纠察队,攻占虹口中心警察署,打退了敌人的猖狂反扑。沪东、浦东和吴淞、闸北的工人纠察队也各自完成了预定的起义任务。3月22日傍晚6时多,上海工人第三次武装起义获得了全胜。
这次武装起义,经过30个小时的英勇战斗,一共歼敌5000余人,缴获5000多支枪、若干门大炮和大量弹药、装备。在激烈的战斗中,有300余名工人和群众英勇牺牲、1000余人负伤。