whatは何で繋がっているのか

「what they call homeostasis」は、その前の「the good balance of the constancy」を言い換えています。日本語で言えば、「... いわゆる homeostasis ですね ...」のような挿入句です。

会話では、constancy の後に短いポーズを入れるので、問題ありません。でも、文字で書くときには、少し分かりにくくなります。話し言葉が文字に自動変換されるとき、たまにこういうことが起こります。

ご質問の文を直すには、次の３通りがあります。

(1)「what they call homeostasis」の前に、コンマを入れる。

When you lose the good balance of the constancy, what they call homeostasis, .....

(2) 「what they call homeostasis」を、かっこでくくる。

When you lose the good balance of the constancy (what they call homeostasis), .....

(3) 「what」ではなくて、「which」を使う。

When you lose the good balance of the constancy, which they call homeostasis, .....