四月二十三日下午，俄、德、法三國公使約好一起到日本外務省送備忘錄。俄國公使的備忘錄稱：“俄國政府對遼東半島歸日本所有一節，不但認為有危及中國首都之虞，同時亦使朝鮮國之獨立成為有名無實。以上實對將來遠東永久之和平發生障礙。茲特勸告日本國政府，放棄確實領有遼東半島。”
隨後，俄國公使希特羅渥還警告說，日本要是永久佔領遼東半島，恐怕會招致衝突。德法兩國公使的備忘錄意思也差不多，德國公使哥特斯米德更是恫嚇說：“日本必須讓步，因為對三國開仗是沒有希望的。” 當時日本外務大臣陸奧宗光患肺結核請假休養去了，值班的外務次官林董沒見過這架勢，聽了這幾個大鬍子洋人的話，一時慌張得不知如何作答。
光說不練是不行的。為了給日本增加點壓力，俄國命令其太平洋艦隊在東海、黃海和日本海遊弋示威，並在神戶和煙臺各聚泊數艦，炫耀武力。另外，俄國將在東西伯利亞的五萬兵力全部集中到海參崴待命，做出一副開戰的樣子。德法兩國也派軍艦到黃海活動，大搞緊張氣氛，彷彿戰爭馬上就要爆發。
日本人這下慌了手腳，伊藤博文趕緊提請在廣島舉行御前會議。伊藤博文經過數夜的苦思冥想，提出了三種方案：
一、斷然拒絕俄、德、法三國要求；
二、 召開國際會議，將遼東半島問題交該會議處理；
三，接受三國勸告，將遼東半島交還中國。
對於第一策，伊藤博文實在沒有把握，光俄國人就夠日本人喝一壺的了。伊藤博文自己也說：“俄國人的艦隊有十二萬噸，而我方的軍艦連繳獲的都算上才八萬噸。不僅噸數不及，而且我艦在一年間連續奔波於海上，大部分受了傷。況且，他們還有四艘鐵甲艦，如用來切斷我之後勤供應，無論如何也不能打仗。”
但對於第三種方案，日本人又心有不甘，於是便決定暫從第二種方案，即召開國際會議來處理這個問題。但後來外相陸奧宗光見到伊藤博文後堅決反對這個方案，認為這個方案會導致問題複雜化，說不定中國會挾洋自重，乘機不批准條約，使得《馬關條約》成為一紙空文，這萬一弄不好，到嘴的鴨子可就飛了。
陸奧宗光的意思是，先拖一拖，摸清三國特別是俄國真實意圖再做決定。於是，陸奧宗光起草了一份備忘錄，答覆俄、德、法三國公使： “如中國政府同意：一、批准並在指定日期互換條約；二、償還附加賠款；三、在日本撤離後永遠拆除在旅順口的防禦工事；四、暫時佔領遼東半島作為擔保；五、中國政府承擔這一佔領費用。日本政府同意放棄永久佔領遼東半島。”
但是，俄國的態度並未轉變，仍舊嚴詰日本退兵。日本又想拉攏英、美、意三國組成反干涉的聯合陣線，但英、美認為日本佔領遼東半島對它們沒什麼重大利益可言，為此得罪俄德法三國，得不償失，代價太大，因而對日本的拉攏也無動於衷。
照會以後，俄、德、法三國公使不斷到日本外務省催促其作出答覆。俄國公使希特羅渥對日本外務次官林董說；“希望日本政府不要採取先發制人的手段，製造新的困難，與三國對抗。”法國公使哈爾曼也說：“日本在偽裝的局外人的好意衝昏頭腦之前，應該三思！”言外之意，是警告日本人別想用“拖下去”的辦法來解決這個問題。
此計不成，陸奧宗光又生一計。他再次向俄國送備忘錄說：“日本政府對於遼東半島之永久佔領權，除金州廳外，完全放棄。但日本與中國商議後，當以相當款項作為放棄領土之報酬。在中國完全履行其媾和條約上之義務以前，須佔領上述土地作為擔保。”同時，日本又向德、法兩國送了同樣的備忘錄。
俄國人不是傻子，日本想透過這種方式變相的永久佔領自己看中的金旅地區，豈能隨意鬆口答應？在和德、法兩國商量後，俄國人照會日本政府說對其提議很不滿意，並認為“日本佔有旅順口於事有礙，須堅持最初之勸告，決不動搖。”
陸奧宗光玩盡心思，到此才算明白，國家實力的大小決定自己在國際事務上聲音的高低，日本“如無以武力一決勝負的決心，單憑外交上的折衝是不起什麼作用的。”
懾於俄、德、法三國的淫威，陸奧宗光在得到天皇的批准後，本著“對俄、德、法三國完全讓步，對中國一步不讓”的原則，電告駐俄、德、法三國公使，宣佈放棄永久佔領遼東半島。俄、德、法三國駐日公使這才樂呵呵的表示非常滿意。
但是，歸還遼東半島是有條件的。隨後，俄、德、法三國又同