ここでのitはsomebodyです。
somebodyと言っているから、男性なのか女性なのかもわからないのでitを使っています。
①誰かが呼び鈴を鳴らした。
②その誰か が 誰であったのか わからない。
②の部分は
I don't know 「私はわからない」
という文の後ろに
who was it?(it = somebody)
「その誰か、は誰ですか」
という疑問文をくっつけます。
文の途中に疑問詞疑問文をくっつける時は、
疑問詞は先頭のままで、残り部分の疑問文の語順を、普通の文の語順に戻してやります。
つまり、was itを入れ換えてit wasにしてやれば良いです。
だから
I don't know who it was.
が正解です。