"Japanese History"と"History of Japan"ではどちらでもOKだと思いますが、"Japan's History"という表現も使えます。
また、日本の「海上保安庁」の英語での名称は以前は"the Maritime Safety Agency (of Japan)"でしたが、現在は"the Japan Coast Guard"となっています。
さらに、「日本〇✖連盟」というような団体の名称は英語では"the Japan Federation of 〇✖"とされるケースがよくあります。
使い分けるには英語に慣れるしかないでしょう。