　交渉始まる

3月15日、小村は、交渉の叩き台として四項目を示した。これは、国王の王宮帰還と温和な人物を大臣にすることを両国が勧告する、ソウルの日本軍は減少させるが状況が落ち着くまでは駐屯するといった内容だった。ヒトロヴォーの提案をもとにしており、ロシアも十分に吞めるものだったと考えられる。
ところが、予想通り、ヴェーベルはこの提案に消極的だった。4月5日にようやく返事をしたが、現在の大臣で問題はないと日本の提案を拒否し、「親露派」内閣を維持する決意を見せた。
最も問題となったのは、両国の朝鮮における兵士の扱いである。小村案には、電信線を保護している兵士を憲兵に交替させるという項目があったが、ヴェーベルは憲兵も早く撤退すべきであると述べた。
また、20日には療養中の陸奥から、ロシアの駐屯兵は日本小兵数を超えないよう取り決めをしてほしいと訓令があった。そのため、小村は22日にヴェーベルに伝えたが、この追加案がヴェーベルの態度をさらに頑なにした。彼は、ロシアの兵数を制限するためには本国政府の了解が必要だと30日に返答したが、小村は、そもそもヴェーベルが日本と協力する気がないと考えていた。

　小村・ヴェーベル覚書調印

そこで小村は、現地交渉の難しさを陸奥に伝え、事態の打開を図った。日本政府から状況を聞いたロシア政府や外務省は、朝鮮で日本と争う事態を避けたかったので、すぐに日本案に同意し、ヴェーベルも受け入れた。その結果、5月14日に調印されたのが、小村・ヴェーベル覚書である。この覚書は四項から成り、以下のような内容であった。
一、国王の王宮への帰還を日露両国が忠告し、日本は壮士取締りを厳しくすること。
二、寛大温和な人物を官僚に任命することを、日露両国で国王に勧告すること。
三、釜山―ソウル間の日本の電信線保護のため、日本の護衛兵を置く必要があるが、現在駐屯している部隊はなるべく早く撤退し、代わりに憲兵を置く。ただし、その総数は決して200名を超えない。また朝鮮政府が秩序を回復したならば、各地より次第に撤退する。
四、万が一、朝鮮人から襲撃された場合に備えて、公使館や各開港場にある日本人居留地を保護するため、ソウルに二中隊、釜山と元山に各一中隊の日本兵を置く。ただし一中隊は200名を超えず、居留地襲撃のおそれが亡くなり次第に撤退する。

　小村の外交人生の大きな転機に

第一点と第二点は、国王の意思を尊重しているが、日露両国が国王の王宮帰還と、特定の派閥に偏った内閣の成立を阻止することで協力できるのを確認したのは日本側の収穫だった。
また、第三点と第四点では、日本兵の駐屯が認められ、13日には、第四項と同内容のロシアもまた公使館や領事館を保護するために、各地に日本兵の人数を超えない護衛兵を置くことが出来るが、襲撃のおそれがなくなり次第、撤退することで合意していたので、朝鮮での軍事力は、日露はほぼ平等になったのである。
現在の親露派内閣は維持され、国王の帰還もすぐに実現したわけではなかったので、ロシア優位の状況に変わりはなかった。しかし、閔妃暗殺事件と露館播遷の苦境を乗り越えて、閣僚構成への発言権や兵数でロシアと同等の権利を得たことは、小村にとって十分満足のいく成果だったといえるだろう。特に、現地のヴェーベルとの交渉が難航すると、すみやかに本国政府を動かして妥協を成功させたのは、彼の功績である。
小村は、覚書の調印後まもなく任を解かれて、5月13日に朝鮮を離れた。わずか半年の滞在に過ぎなかったが、朝鮮での経験は彼の外交人生に大きな影響を与えた。
露館播遷は、小村の心に深い傷を与え、自らを出し抜いたロシアへの不信感を植え付けた。また、内政の混乱や相次ぐ政変が起こる朝鮮が、独立国として不完全だと思わせるのに十分な状況であった。
このロシアと朝鮮への姿勢は、小村が外相になってからの外交政策にも貫かれることになるのである。