late night を英語に訳すと？

この文はちょっと変です。そもそも「late night」は、人の生活について使うなら、だいたい早くても午後11時より後ですから、「evening」とは切り離したほうがいいです。

またこの文は、初めに「late night」を名詞句として使ったのに、形容詞句としての説明をしてしまったようです。会話の中で、ついそうなってしまったのかもしれません。

「late-night」なら、「夜遅くに行われている」という形容詞句で、続く名詞を修飾します。

Late-night means happening late at night.
「レイトナイト」は、「夜遅くに行われている」という意味です。

I always watch a late-night show before going to bed.
寝る前にいつも深夜トーク番組を観ます。

「A late night」なら、「遅くまで目を覚まして起きていた夜」のことで、名詞句です。

A late night is a night when a person stays up late at night.
「レイトナイト」は、夜遅くまで起きているときの夜のことです。

I’m tired today because I had a late night last night.
昨夜、夜更かししたので、今日は疲れています。

形容詞の「happening」は、「起きている」という日本語を使うと、「目が覚めて起きている」という意味に誤解されるかもしれません。「起こっている」とか「行われている」という日本語はいかがでしょうか。