英語は文頭に 副詞の否定語句 を置くと、否定の意味合いが強調 されます。
Hardly had S done 〜 when S’ + V’ … は 〜するとすぐに…した」 という訳になります。
この英文の成り立ちを確認していきましょう。

元は I had hardly left the house when it began to rain. という英文です。
英文自体は、「私が家を出た」ときと「雨が降り始めた」ときとに「ほとんど時間差がない」ことを表しています。
動詞の形に注目すると「私が家を出た」が 過去完了形 になっていて、「雨が降り始めた」が 過去形 になっているので、「私が家を出た」ほうが「雨が降り始めた」より前に起こっていることがわかります。よって、「私が家を出た」その後にほとんど時間差がなく「雨が降り始めた」となり、「私が家を出るとすぐに雨が降り始めた」という意味になります。

そして、否定語 hardly を強調するために 文頭 に移動することで、
Hardly had I left the house when it began to rain. となります。
否定語 Hardly が文頭になったことで、その後ろが had I left と 疑問文の語順 になります。

Hardly had S done 〜 when S’ + V’ … は Hardly の位置に Scarcely 、when の位置に before を使うことができるので、以下の英文はすべて同じ意味になります。

「家を出るとすぐに雨が降り始めた」
Hardly had I left the house when it began to rain.
Scarcely had I left the house when it began to rain.
Hardly had I left the house before it began to rain.
Scarcely had I left the house before it began to rain.

Hardly had I sat down before my cell phone rang.
「座るとすぐに携帯電話が鳴った」

No sooner had I arrived at the station than I realized that I had forgotten my wallet.
「駅に着くとすぐに、財布を忘れてきたことに気づいた」

この英文は元々、I had no sooner arrived at the station than I realized that I had forgotten my wallet. の no sooner が文頭に移動した場合のものです。