1853年太平军攻克镇江，4月，英美等国以保护侨民为名组织“上海义勇队”，俗称“洋枪队”，后称万国商团。９月小刀会在上海县起义。清军派兵镇压。行至租界西护城河时被洋人拦阻。1854年4月3日，清军在租界东与洋人发生殴斗。万国商团前去支援，用大炮轰击清军营地。英国领事致书清军首领，令其后退西移。第二天，英军炮舰炮击停泊在黄浦江上的清军战船，并将船只全部扣留。下午英军与万国商团分几路向清军营地进攻，清军在死伤几百人后，被迫西撤。这场胜仗使租界当局认为依靠商团武装足以保证租界的安全，还将４月４日这一天定为上海万国商团的“建军节”，每年此日都要举行阅兵式。
　　1870年，万国商团由上海工部局接管，成为其常设机构。随后历年扩军，其最高指挥机构为总司令部，设总司令一名，副总司令若干名，下有骑兵队、野炮队、轻炮队、工程队、铁甲车队、步兵队等。到了20世纪30年代，编制达到1500多人。是一支国籍各异、装备精良、训练有素准军事化武装。
　　1941年12月8日，日军袭击珍珠港，太平洋战争爆发，日美、日英宣战。同日上午，日军进入原由英美控制的上海公共租界。日军表面上要求原租界工部局维持原状，继续管理市政，实际上一切全在日军控制之下。1942年1月5日，工部局总董李德尔(美籍)、董事明思德(美籍)等被迫辞职，1942年6月，工部局领导的万国商团解散。