代名詞the one とthatの違いがわからない

代名詞の one は、前述の単数のものやひと（可算名詞）について再び述べる際に繰り返しを避けるために使う代名詞です。"the" one と "the" をつけて言う場合は、one でさされるものが特定のものであることになります。
You said you saw a nice dress here yesterday. Is this the one?

代名詞の that は、the one と同じく前述のものについて再び述べる際に繰り返しを避けるために使う代名詞ですが、That が the one と違うところは、前述のものが不可算名詞であっても使うことができることです。
The population of Tokyo is 14 million. What is that of New York City?
この that は population という不可算名詞を繰り返しています。