ごく、たまにですが、依然建て替えた際にあった昔の建物の登記がでてく場合があります。
そのままにしておくと、更に建て替えたとき新しい建物の登記ができないなどの弊害がある場合があります。
最悪、金融機関からの借入が出来なくなるなど大きな問題にもなっていきます。
基本は
・土地所有者の滅失登記申請
・解体工事した業者さんからの解体工事証明書
があれば申請できるのですが、
・土地所有者が以前のまま(相続が(所有権移転登記上されていない)
・解体工事をした業者が無い、わからない
などでしたくてもできない場合があります。
そんな時は土地家屋調査士などへの相談をお薦めします。
なんとかなると思いますよ。