当然，对于战争双方都是有准备的。在战前，苏军共向淮河沿线派驻了一个师一个旅，兵力为万余人。江苏的总兵力兵策上说是万人，实际上剔除了张文生的编制员额为6000人的第76混成旅后，实际员额为万人，五师四旅。李纯早就知道战争不可避免，于是他就发电向吴佩孚询问她的态度，而吴佩孚的回电是“此时不动，更待何时？”他又确认同盟的态度，我明确的向他表示，我想他提供军火，当然是要钱的，虽然便宜一点。此外，我还向他保证，如果徐树铮南下，那么同盟将会从后面进攻他。于是李纯就开始整编军队，因为废除镇守制度是会得罪一些人的，如不做应对，弄不好会在战时出问题，对于这一点，李纯这个老军阀不可能不知道。当李纯一边展开最后的“和平努力”一边磨刀霍霍的时候月4日，徐海地区议会“悍然”通过了“徐海地区约法”宣布徐海自治“选举”张文生为“元帅”总理军政事务。如此一来，双方再无路可退，因此，民国时报发表军事评论说“战争已经爆发了，只是没有宣布而已。”在新华社的采访中，针对战争问题，张文生表示“我们的友好邻居倪嗣冲不会坐视他的邻居的天赋自治权利受到侵犯的，强大的安武军不是李军能够相抗衡的，而且李军最近由于内部整编军心浮动，因此发动战争对于他来说是不明智的。”“江苏的分治由来已久，徐海民众珍惜他们长期以来的的权利，希望李纯尊重徐海地区的民意。虽然我们认为李纯仍然是个独裁者，但是我们认为，既然他认为自己是个民主人士，那就应该尊重民主的规则，尊重民众的权利。”他的谈话，通过新华社及其相关的报纸电台迅速传向全国，一时全国舆论哗然。月10日上午，在长期的争吵后，在泗阳与清江县的边界上发生了军事冲突。当日，双方都发表通电指责对方“进行军事挑衅”于是鉴于形势严峻，张军宣布进行自卫，而苏军自然也不甘示弱，宣布进行平叛，议会还通过决议“要求张军将士，认清形势，临阵反正，省府决不追究。”中国自“太平之乱”以来最大的内战就这样开始了。据后世史家推测，虽然从文献资料上难以确定到底是谁开第一枪的，但是从战争初期的形势来看，判定是张军先发制人，主动发动战争的更加可信夜，同时接到上级命令而向前开拔的苏军和张军在清江县的运河、黄河故道沿岸意外遭遇，双方都不明白对方的实际情况，但是显然都不能主动撤退，因为他们都害怕撤退引起混乱，于是一夜混战，双方各死伤1000多人。次日晨的时候，苏军通过审讯俘虏，终于明白了这是张军12000人的主力部队，他们想夜袭清江县城，夺占淮河渡口。于是，苏军就一边坚守，一边向南京发电，请求快速支援。但是，到下午的时候，苏军就发现在他们的身后出现了大股敌人，于是没过多久，苏军就开始混乱，战斗不到2个小时，苏军就开始溃退，待逃到清江县城，终于发现该城已经被张军给占了。后来的记载表明，安徽、山东在日本顾问冈村宁次的“妙计”下，秘密的向徐海地区各派出了3000人的“志愿”人员，这些人实际上是从皖鲁各军中抽调的人员，这支军队很快被编为“徐海自治军独立第1旅”冈村宁次生于1884年，是日本东京人，日本陆军士官学校毕业年，张文生和日本以及皖系的秘密协定签订后，冈村宁次被日本政府任命为日本驻青岛武官并成为张的军事顾问。冈村宁次认为除非要让李纯下台，否则徐海地区将不得不通过防御和友邻的协作通过军事防御迫使江苏当局承认徐海地区的现状。而最佳的防御线莫过于淮河一线，于是他制定了发起突然袭击，夺取淮河渡口，然后通过徐海防御、友邻协作，迫使江苏屈服的战略方针。但是，淮河沿岸苏军共有一个师一个旅，分别驻扎在淮北的清江和淮南的淮安，他们之间被淮河隔开。于是，冈村提出了诱使清江苏军出城，然后将其消灭在野外的计划，但是双方此时兵力相等，即使打得再好，大概也只能够将该部苏军击溃。冈村又献一“借兵”计划，于是所谓的“自愿”兵产生了，这些兵力对军力庞大的鲁皖来说根本不算什么，补充的兵员由于数量少根本不会影响原部队的战斗力，但是6000人的生力军足以在这个局部的战场上产生意想不到的后果。张军的原本计划是，第1师夜间袭击清江城，然后于清晨“溃败”在苏军主力追击后，秘密的第1旅突然从背后意想不到的杀来，然后第1师在杀个回马枪，争取全歼或者至少击溃苏军主力，然后乘势攻下清江城，夺占淮河渡口，然后相机转入防御。但是，没想到双方在夜里打了个遭遇战，第1旅等了半天也发现苏军和友军的部队。军事侦察后发现，苏军主力已经出城，只有少量留守，于是第1乘机夺占了清江城，然后开始寻找苏军主力，终于在天明十分他们摸到了苏军的后面。但是，一夜混战，苏军和张军第1师的战线已经没有规则，再加上第1旅也部署部严密、兵力也有限，于是只能够击溃苏军。苏军一路溃败，等到第二日，终于混乱的撤退过淮河，和在淮安的第74旅汇合，该旅本为通海镇守部队，4月底刚刚和原驻淮安的苏军第1旅换防，而他们的指挥官也调换了。该旅现在的指挥官鉴于部队舟车劳顿，在接到清江守军