海參崴失守，遠東總督阿列克謝耶夫被召回彼得堡質詢，遼陽會戰的失利，庫羅帕特金就很難再把責任推卸給阿列克謝耶夫了。
2月初，原維爾納軍區總司令奧斯卡·格里彭伯格上將抵達奉天，正式接任第二集團軍總司令一職。上任伊始，格里彭伯格就提出了對日軍進行反擊的計畫，他並不是只向庫羅帕特金提出了這個建議，順便還給彼得堡遞交了自己的計畫。
這讓庫羅帕特金極為反感這位新上任的第二集團軍總司令，他覺得對方提出的不是反擊日軍的計畫，而是試圖把他趕下台去。他怎麼會不了解對方的做派，畢竟他前來擔任遠東陸軍總司令的時候，也是用相同的方式架空了遠東總督阿列克謝耶夫對於陸軍的指揮權。
對於遼陽會戰，庫羅帕特金並不認為是俄軍的失敗，而只是一種戰略上的撤退，他認為相比起日本和中國的國力，俄國其實更強大，但是在遠東的俄軍並不是俄軍中的精銳之師，反倒是日本和中國拿出來的都是本國的精銳。
因此，把戰爭規模限制在較小的程度，實際上是不利於俄軍的，積蓄遠東俄軍的力量，然後以一場大型的會戰壓垮日中兩國的精銳之師，則勝利必定屬於俄國。於是在遼陽會戰後，庫羅帕特金就向彼得堡提出了增強遠東力量，然後在開春之後於奉天或哈爾濱地區決戰的主張。
但是，庫羅帕特金的避戰以積蓄力量，然後發出最強一擊的想法，不管是下面的幾位集團軍司令或是彼得堡，其實都不認同。除了第四集團軍的總司令因為資歷不足對遠東陸軍總司令的位置沒什麼想法外，第一集團軍的尼古拉·連納維奇上將、第二集團軍的奧斯卡·格里彭伯格上將、第三集團軍的亞歷山大·考爾巴斯上將，都有對庫羅帕特金取而代之的想法。
唯一讓庫羅帕特金感到欣慰的，是這三位將軍不僅瞧不起他，他們也瞧不起彼此，都覺得另外兩位是「惡棍、草包」。這也使得庫羅帕特金至少不會被三位將軍聯合抵制。比如，當奧斯卡·格里彭伯格上將對庫羅帕特金的避戰想法嗤之以鼻時，另外兩位將軍反而陷入了沉默。
但是在私下裡，其他兩位將軍也是不滿庫羅帕特金的消極作戰思路的，畢竟此時俄國軍校最為推崇的就是蘇沃洛夫，其次是拿破崙，庫圖佐夫雖然偉大，可他的戰術思想已經不流行了，現在整個歐洲最為流行的就是進攻戰術，只有進攻才能獲得勝利，幾乎已經成為了歐洲軍人思想上的鋼印了。
庫羅帕特金的計畫自然也遭到了彼得堡的駁斥，彼得堡對庫羅帕特金的批駁主要有三點：第一是中國和日本加起來的人口是俄國的三倍，從比拼人力的角度來說，其實俄國並無勝算；第二是嚴寒從來都是俄國人的朋友，俄國人什麼時候會害怕冬天打仗？第三是俄軍在遠東現在已經佔據了人力和火力上的優勢，庫羅帕特金到底要達到多少的優勢才肯發起進攻？
彼得堡還有沒有說出來的東西，雖然庫羅帕特金說遼陽會戰俄軍沒有輸，可國際輿論都認為戰線後撤的俄軍是輸掉的一方，這些輿論已經引發了俄國公債的下跌，這個時候庫羅帕特金強調遼陽會戰沒有失敗又有什麼意義呢？
面對上面和下面對自己的不滿，這個時候格里彭伯格上將又向彼得堡提出了一個反擊計畫，自然是引起了庫羅帕特金的憤恨的。因為彼得堡對格里彭伯格上將的支持，庫羅帕特金只能接受了格里彭伯格上將提出的對日軍的反擊計畫。
而此時彼得堡也傳來了太平洋第二艦隊主力艦隊抵達越南的消息，庫羅帕特金於是督促格里彭伯格上將儘快發起自己的反擊計畫，日軍在遭到攻擊時必然會大舉運輸兵力和物資增援前線，從而牽制一部分日本海軍的力量，為太平洋第二艦隊主力沖入旅順口提供一部分助力。
格里彭伯格上將欣然領命，於2月21日晚對黑溝台日軍發起進攻，擊潰了沒有防備的日軍，接著又開始進攻沈旦堡。但是，22日白天，第一、三集團軍並沒有協助第二集團軍發起任何策應攻勢，駐紮在沈旦堡的八千日軍騎兵，在秋山好古的帶領下擋住了喬治·斯坦博格中將率領的3.5萬兵力的進攻。
秋山好古所部的堅持，給了日軍調整戰線的機會，隨著日軍增派援軍反擊黑溝台並救援沈旦堡，俄第二集團軍和當面日軍就陷入了僵持。24日上午庫羅帕特金下令讓格里彭伯格上將撤退，因為他剛剛收到一個消息，羅傑斯特文斯基率領的第二太平洋艦隊主力被日軍突襲了，海軍已經沒法給與他們什麼幫助了。
格里彭伯格與西伯利亞第一軍團司令官斯坦博格都反對這一撤退命令，他們認為對面的日軍最多不過五六萬，而第二集團軍超過了八萬人，哪怕沒有海軍的支持，雙方打成消耗戰也是有利於己方的。
兩人發電給庫羅帕特金反對退兵，並再一次請求庫羅帕特金督促第一、三集團軍發動攻勢，防止日軍從其他方向抽調部隊增援黑溝台一線。但第一、三兩集團軍總司令連納維奇上將、考爾巴斯上將並不願意支持格里彭伯格上將，甚至認為當前夜晚零下10幾度的氣溫根本不適宜發動大規模會戰。
兩位將軍也許是有些私心，但他們的顧慮也不是不對，俄國人雖然適應寒冷天氣，但這是在備好了充足物資的前提下的適應，不是在缺衣少食的情況下表現自己的抗寒能力。
按照俄軍總參謀部制定的條例，俄軍每日的口糧：黑麵包750克，上好黃油30克，砂糖10克，精鹽10克，茶一包，奶油巧克力一袋，牛肉罐頭300克。但實際上除了黑麵包和鹽之外，其他物資只存在於紙面上。
此時俄軍事實的還是1874年制定的義務兵役制，士兵一年的軍餉只有2盧布10戈比，這就意味著距離家鄉越遠，他們在路上自己支付的花銷就越大，為了籌集路上的伙食費用，一些士兵甚至把自己領取的內衣和皮靴給賣了。
正因為如此，當遠東戰爭的局部動員令越過烏拉爾山脈時，抵抗徵兵令的人數比例就開始不斷提升了。在西伯利亞地區不服從徵兵命令的人數大概只有2%左右，但是到了歐洲地區就上升到了6-8%；這也是8000日軍騎兵能夠擋住3.5萬俄軍進攻的重要原因，因為俄軍士兵士氣非常之低落。
格里彭伯格覺得可以拿俄軍和日軍拼消耗，是因為他來滿洲沒幾天，還以為這是一場普通的對外戰爭，畢竟俄國大部分戰爭都爆發於歐洲地區，背靠著南俄和烏克蘭糧倉的俄軍是不用考慮缺乏衣食的問題的。但是比格里彭伯格來的更久一些的連納維奇上將、考爾巴斯上將卻是深刻的認識了俄軍物資匱乏的處境的，在彼得堡全力往滿洲運輸軍隊和彈藥的時候，壓根就沒考慮過數十萬俄軍要怎麼在滿洲生存下去。
這也是兩人雖然不認同庫羅帕特金的避戰思想，卻也沒有進行反對的原因。因為他們的部下現在能夠守住陣地就不錯了，缺衣少食的士兵在這樣的氣溫下做野外行動，和叫他們去送死也沒啥區別了。
至2月25日中午，庫羅帕特金先後發出三份命令，嚴命第二集團軍撤軍；在最後一份軍令中出現了「軍法無情」字樣；第二集團軍不得不撤退，當晚，格里彭伯格致電聖彼得堡，向尼古拉二世請辭。
28日格里彭貝格離開軍隊，並且拒絕與庫羅帕特金見面。此舉在軍中引起了強烈的反響，就連普通士兵都知道了高級將領之間存在分歧，各種謠言和猜測開始在軍中不斷出現，俄軍軍心更為混亂了。
彼得堡此時對於遠東爆發的一連串問題是無所適從的，尼古拉二世原本以為把遠東總督阿列克謝耶夫召回，讓庫羅帕特金放手指揮是可以挽回局面的，至少也能維持住談判所需要的僵持局面，而羅傑斯特文斯基率領的主力艦隊抵達了越南，接下來就可以試著和日本海軍重新爭奪制海權了。
但是彼得堡所期待的那個穩定局面並沒有出現，羅傑斯特文斯基才抵達金蘭灣沒幾天，彼得堡還在和巴黎進行公文往來，就俄國艦隊是否有權在越南港口進行停駐進行扯皮，結果這邊就爆出了羅傑斯特文斯基艦隊覆沒的消息。
很快，法國人就把羅傑斯特文斯基艦隊是如何被日本人消滅的消息傳遞給了彼得堡。2月19日，法國印度支那總督給羅傑斯特文斯基艦隊發電，要求他們加完煤炭和淡水後儘快離開越南沿海，但是在當晚，停泊於金蘭灣內的俄艦隊就遭到了日驅逐艦的突襲。
金蘭灣外港有一小島，把港口分為東西兩出口，東口小而西口闊，日驅逐艦隊由於在夜晚不熟悉地理，所發射的魚雷並沒有給停泊在港內的俄軍艦造成什麼傷亡，反倒是擊沉了三艘商船。不過金蘭灣並不是軍港，所以對於日驅逐艦隊的突襲，俄軍艦也幾乎沒有還手之力。
雖然受到了日軍的突襲，但羅傑斯特文斯基還是打算等待天亮後再集結艦隊衝出金蘭灣。可就在日本驅逐艦隊撤退的時候，一等巡洋艦「納西莫夫海軍上將」號、戰列艦「博羅季諾」號卻遭到了來自港內的襲擊，一群水鬼推動水雷襲擊了距離岸邊最近的兩艘軍艦。
「納西莫夫海軍上將」號重創擱淺，「博羅季諾」號運氣不錯，只是輕微漏水，羅傑斯特文斯基不得不下令各艦分別出港，然後在文峰灣匯合。這是災難性的決定，分別出港的戰列艦，也就意味著難以再集中戰力，雖然俄軍各艦成功離開了金蘭灣，但是天亮後，分散的俄艦就遭到了等候在外海的日第一、二、四戰隊的圍剿。
羅傑斯特文斯基中將的座艦「蘇沃洛夫公爵」號是最先被日艦隊發現並集火擊沉的，接著是亞歷山大三世號和博羅季諾號。除「鷹」號和「奧斯利亞比亞」號逃出包圍圈外，其他7艘主力艦及巡洋艦都被日聯合艦隊或擊沉、擊傷俘虜，「鷹」號和「奧斯利亞比亞」號最終在中立港被解除武裝，徹底的退出了此次大戰。
雖然俄太平洋第二艦隊還有第二、三分艦隊三十餘艘軍艦，但除了4艘老式主力艦外，已經沒有能力對日聯合艦隊造成什麼威脅了。
相比起俄艦隊的重大損失，日艦隻是傷亡了8人，無一艦喪失戰鬥力。因此東鄉平八郎向東京彙報時，心態非常的坦然，「兩支作戰艦隊在實力上不存在明顯差距，我相信，敵方的軍官和艦員以極大的熱忱和無所畏懼的精神為自己的祖國而戰。」