Whoseの使い方

They are extremely social, and までははしょって、
The groups (. ) form remain constant over long periods of time.を見ます。

whose を入れると
The groups (whose) form remain constant over long periods of time
となりますが、そうすると remain が the groups whose form の 動詞ということになりますが、そうすると whose form remain constant over long periods of time である the group がどうしたのか、という述語がないフレーズになってしまいます。つまり、この文全体の主語動詞の関係がなくなって、「その形態が長く保たれたところのグループが。」という文ではない終わりのない中途半端なフレーズになります。

they を入れると
The groups (they) form remain constant over long periods of time.
となりますが、そうすると
The groups (that they form) remain constant over long periods of time.
となって、主語は the groups その動詞は remain、つまりそれらの複数のグループが長くにわたってコンスタントに保たれてるんだな、っていうことを言う文章として成り立ちます。