この文は関係代名詞は省略されている?

関係代名詞はもともと無いです。省略されていないです。
Jim was walking.
Jim was walking with a book.
Jim was walking with a book under his arm.
Jim が歩いていたことを修飾する言葉が付加されています。

もちろん、
Jim was walking with a book, which he held under his arm.
と、関係代名詞を使うことも出来ますが、長くなるので好まれません。