张作霖派往南下的奉军由张宗昌统率,共有三万人,于1924年12月间进驻徐州,原驻徐州的军队被调往砀、萧两县驻防。1925年1月7日,卢永祥抵达蚌埠,其旧部第十师由江北开赴南京。张宗昌率奉军第一军进驻浦口,原驻南京的齐燮元旧部第二师、第六师及补充旅奉韩国钧的命令,调往镇江、江阴驻防。10日,卢永祥、张宗昌进入南京,此时齐燮元在上海策动驻防的第六师和第十九师逼迫淞沪护军使宫邦铎去职,齐燮元掌握宫邦铎所部之后,即联络孙传芳部进攻驻防上海的张允明。齐燮元和孙传芳遂联手击溃张允明的部队,张允明逃入租界,齐燮元即自称淞沪联军第一路总司令,孙传芳称第二路总司令,宣言占领上海,拒绝奉军南下。
12日,段祺瑞责成卢永祥会同苏军总指挥秦洸戡乱驻扎在上海的齐燮元部和孙传芳部,并于13日下令孙传芳撤兵回浙。卢永祥在南京组织宣抚军,以奉军军长张宗昌为宣抚军总司令兼第一路军总指挥,参谋长臧致平兼第二路军总指挥,军务帮办陈调元兼第三路军总指挥,江苏全省水陆警备司令冷遹为戒严总司令。但苏军总指挥秦洸却在苏州遭到驻防在当地部队的攻击,苏州商会只好支付一笔钱请秦洸撤出苏州。上海的齐燮元部借机通过苏州,与常州、镇江的齐燮元旧部联合。14日,齐燮元和孙传芳联名通电,表示愿意撤出上海,并提出废除护军使及镇守使等名目,反对以后再设此类军职,兵工厂亦即日择地迁移。随后,北京政府同意将上海设为特别市,齐燮元和孙传芳所部遂退出上海。