Xitアプリ起動時に何故か強制終了していたので試行錯誤してこれが原因かわかりませんが、とりあえず解決しました。
・PCの環境
CPU:Ryzen 9 3900X
GPU:Radeon 5700XT
OS:Windows 10(2004)
Xitバージョン:Ver.4.20.2200.2
チューナー:Xit Brick XIT-BRK100W
光デジタルから音を出力していたののをUSB DACから出力すると正常に起動するようになりました。
試してみたところ、HDMIで音を出力しても起動時に強制終了してしまったので自分の環境ではUSB DACかイヤホンジャックから音を出力するしかないようです。