本来はお考えのように"while I had been out"としなければならない:
① I telephoned Tom, who had called me while while I had been out .
しかし時間の前後関係が明らかな場合は過去完了形は使わずに過去形で済ますのが普通なので次のような書き方になる:
② I telephoned Tom, who called me while while I was out .
上記の①と②の表現を混同してしまったのがご質問の英文だということになります。