1894年6月，朝鮮爆發東學黨起義，應朝鮮政府之請，聶士成奉命隨同直隸提督葉志超統兵2000人赴朝鮮平亂，駐牙山。
此時，聶士成要出國作戰，自然想起了他的心月復愛將羅冒。老上級的邀請羅冒自然無法拒絕，可是妻兒怎麼辦呢？經過再三考慮，羅冒向聶士成申請希望能帶著兒子羅大橋共同出戰。聶士成也听說了羅家父子在威名，當即就同意了。
于是，12歲的羅大橋成為了聶士成武衛軍中的一員。
7月，日軍在牙山口外豐島海面偷襲擊沉中國運兵船「高升號」，同時從漢城出動陸軍進攻牙山。聶士成根據敵眾己寡、地形不利防守的情況，建議葉志超主動將部隊撤至公州、成歡，利用成歡有利地形伏擊日軍。他和葉志超各率所部退守成歡、公州。在優勢日軍的進攻面前，他利用有利地形設伏，給日軍以重大殺傷。特別是羅家父子，在伏擊中大顯神威，總共干掉了12名日軍軍官。但因寡不敵眾，最終聶士成引軍撤至公州。此後，中日兩國政府正式宣戰，中日甲午戰爭爆發。
由于清軍在朝鮮牙山和平壤的失敗，大批從朝鮮平壤敗退下來的清軍，撤過鴨綠江之後，迅即沿安東九連城、虎山一線展開防線。被迫與日軍開戰的清軍，並沒有周密的準備，而處心積慮的日軍，從容地按照戰前的周密部署，在清軍敗退朝鮮後，兵分兩路向遼東大地殺來。
第一路在山縣有朋大將率領下，從朝鮮義州攻擊清軍的鴨綠江防線；第二路以陸軍大將大山岩為司令官，由海路在遼東半島東岸的花園口登陸，進犯大連和旅順。
鴨綠江防線之戰，是清軍面對日軍攻擊的首次保衛戰。當時部署在鴨綠江北岸的清軍共82營，約2萬8千人。清政府任命宋慶為諸軍統領，節制各軍。日軍進攻部隊是山縣有朋大將統率的第一軍，包括桂太郎中將的第三師團和野津道貫中將的第五師團，共3萬人。雙方兵力不相上下。日軍佔領鴨綠江沿岸後，兵分兩路進攻奉天（今沈陽）。東路直指遼陽，西路繞道岫岩、海城方向。
東線方向，清軍沿鳳凰城和摩天嶺布下兩道防線，但鳳凰城這個自古來就是戰略要地的地方，在10月30日落入日軍手中。通往奉天的最後一個天險摩天嶺出現在日軍的眼前。日軍驕狂無比，叫囂趕到奉天過新年。一開始，守衛摩天嶺的清軍將領是宋慶。由于當時旅順受到日軍攻擊，形勢危急，宋慶奉命回援旅順。宋慶一走，東路守軍改由聶士成指揮。突然的一次變動，摩天嶺守將換人了，有了聶士成，摩天嶺的天險才真正成為天險。
受命負責東線戰事，聶士成即調整戰線，自己堅守摩天嶺，從正面阻擊日軍，另一將領依克唐阿率部駐守賽馬，從側面牽制鳳凰城日軍。同時，命呂本元、孫顯寅、耿鳳鳴等將領率部分守各處，形成了防守縱深和便于策應的戰略態勢。
對于摩天嶺，日軍志在必得，一場大戰即將開始。
摩天嶺，也叫大高嶺、太高嶺或高嶺。山道險峻，可謂「一夫當關，萬夫莫開」。因此，此地無論古代、近代還是現代都戰事繁多，成為兵家必爭之地。
聶士成面對數倍于己的強敵鎮定自若。他堅信只要指揮得當，布置有方，借助摩天嶺的天險地利，一定能阻敵于險關前，打破日軍輕取奉天，威逼京城的美夢。他派孫顯寅、呂本元駐守連山關，成為摩天嶺的第一道防線，形成縱深防御的態勢。在摩天嶺的主陣地上，在要道處選擇了炮陣地，步兵陣地則形成戰壕網，可互相支援，作縱深支持。為迷惑日軍，在山林中布置數千面旗幟，還在密林中安排了眾多的戰鼓和號角，並動員附近的百姓前來助戰。摩天嶺周圍的百姓听說要在此大戰日軍，需要自己出力，踴躍報名，前來者有了數百之眾。
11月12日，日軍開始向摩天嶺進攻。日軍按照慣例，先派騎兵一部在前，大部隊在後跟進。騎兵一部進犯連山關口，孫顯寅、呂本元率部奮力抵御，連續擊退日軍多次進攻。經過一番苦戰，日軍稍退，旋即又如蜂而至，並形成包圍之勢，在敵強我弱的情況下，孫顯寅、呂本元率部突圍，連山關陷入日軍之手。
得到連山關之後，日軍即將此當作基地，稍事休整便開始了對摩天嶺的進攻。一個大隊的日軍毫無顧忌地向摩天嶺前進，突然，一聲巨響在日軍隊伍中炸開，接著是一陣緊似一陣的大炮的轟鳴聲。在爆炸聲中，日軍死傷無數。日軍驚魂未定，又听周圍戰鼓齊擂，號角轟鳴。緊接著，又見山林中旌旗飛動，似乎有千軍萬馬嚴陣以待。
日軍不斷沖鋒，每次沖鋒都在清軍打擊下潰退。特別是正面陣地上的大炮，讓日軍傷亡慘重。日軍妄圖奪取炮陣地，但炮陣地前有一片開闊地，聶士成下令數千槍手齊射，日軍成了活靶子。日軍向山下奔逃而回，聶士成指揮部隊追擊，動員而來的百姓也吶喊著從四面山上涌向日軍。日軍狼狽逃回到連山關。回到連山關的日軍請求派大部隊增援。此時的鳳凰城日軍正受到駐守賽馬的依克唐阿部的威脅，無兵可派，日軍只得龜縮在連山關，摩天嶺牢牢地守在清軍的手中。
聶士成精心謀劃的摩天嶺阻擊戰，成為了甲午戰中清軍的第一場勝仗。11月26日，摩天嶺地區普降大雪，聶士成決定雪夜突襲連山關。在做好各種偵察工作、模清了日軍的情況後，聶士成派人聯系從連山關敗退的孫顯寅和呂本元部，約定分兵兩路偷襲連山關。當晚，在日軍認為大雪不利于部隊行動時，聶士成率領數百騎兵突襲連山關，與孫顯寅和呂本元部取得聯系後，分兵向日軍發起攻擊，毫無防備的日軍被打了個措手不及，丟下數十具尸體倉皇逃往草河口。
收復連山關，是清軍與日軍開戰以來第一次收復失地。