淞沪会战时期，上海宝山重镇大场失守后，我军侧背失去了屏障，主力部队不得不撤向苏州河以南。10月26日，团副谢晋元奉命指挥八十八师五二四团一营掩护主力撤退。任务完成后，上级命令谢晋元率部守闸北的卫四行仓库。
四行仓库是中南银行、金城银行、大陆银行和盐业银行四家银行的仓库，称为“四行仓库”，位于上海市区的泥城桥北堍，是一幢七层钢筋水泥大楼，三面厚墙，仅南面有窗，钢筋混凝土结构，可抵御抗日寇本的中型山炮轰击。
当时四行仓库西面的乌镇路与北面的国庆路已被日寇占领;南面是苏州河，东面是公共租界，此时谢晋元营实为“四行孤军”。
谢晋元进驻四行仓库后，迅速组建工程队，设计一种分解式的钢筋水泥碉堡，再利用原有房屋、残墙及沙袋、钢板构建工事联结，做成一道道互相支援、火力交叉的纵深防御网。他要求营、连长仔细检查工事建筑是否坚固。一天中午，敌人突然向我军驻地猛轰，炮弹如暴雨般落下，掩蔽部附近一座最高的四层楼房被炸成平地，我军阵地却没有伤亡，有效地狙击敌人疯狂进攻。事后，孙云副班长说：“还是谢长官有经验，否则我们这一班人全牺牲了。”
趁打退敌人之机，谢晋元连忙指挥部队拉铁丝网，堆沙包，设火力点等。在修筑工事过程中，发现大楼南端连着一家烟纸店，店内有电话，且出店门有曲折小道与租界相通。这是孤军与外界联系的唯一渠道。
谢晋元在战斗间隙，谢晋元写信给孙元良师长，表示他抱着为国捐躯“必死决心”跟敌人战斗。
在谢晋元率军跟敌人激战后的间隙，女童子军杨惠敏不顾白天日军的严密监视，扯起一面大幅国旗，跳进苏州河泅过去，潜入四行仓库，把国旗送到谢晋元孤军手中。29日清晨，四行仓库屋顶上一面大幅国旗迎风飘扬。当时闸北一带只有太阳旗在飘动，这面唯一的中国国旗在仓库大楼楼顶升起，外引人注目，隔河观望的上海市民无不拍手欢呼，顿时欢声雷动。甚至不少市民从市郊等地赶来，向国旗欢呼致敬，为四行孤军助威，许多人热泪滚滚，久久不忍离去。迎风招展的国旗不仅震奋了我军官兵的心，而且震奋上海市民团结抗敌的决心。不久，上海乃至全国响彻《歌八百壮士》：
中国一定强!中国一定强!
你看那民族英雄谢团长，
中国一定强!中国一定强!
你看那八百壮士孤军奋守东战场!
四方都是炮火，四方都是豺狼，
宁愿死不退让，宁愿死不投降。
我们的国旗在重围中飘荡。