By that, を英語に訳すと？

By that, のあとにheが抜けていますね。

またBy that と言っている以上、直前の文がわからないと意味がわかりづらいです。

その前の文が
A general practitioner in Gunma Prefecture lamented, "We GPs are getting hit with a double whammy."
（＝群馬県のある開業医は「我々はダブルパンチを受けています」と嘆いた）
となっていて、この「」内をBy thatで受けています。

そこでご質問の文を日本語にするとこういう感じです。
＝つまりこの医師は、自分自身がウイルスに感染する恐れと同時に、悪い評判が広まるということを言っている。