”got a job on "と"got a job at"の 違いがわかりません。

どちらも正しいです。construction site を、広い場所のように平面としてイメージするときには on を使い、所在地のように点としてイメージするときには at を使います。話の内容によって使い分けますが、どちらも間違いのように思われることはありません。

これは、website についても同じことが言えます。コンピューター画面に映し出されているホームページとイメージすれば on を使い、URL のようなアドレスをイメージすれば at になります。