WM_MOUSELEAVEは、マウスがクライアント領域から離れた時に来るウィンドウメッセージ。
WM_MOUSELEAVE メッセージ (Winuser.h) - Win32 apps | Microsoft Learn
TrackMouseEventで、TME_LEAVEを指定する必要あり。
WM_MOUSELEAVE.cppで、
こうする。

クライアント領域から離れればbTrackingはFALSEになるので、クライアント領域に入れば再登録でき、またトラッキングできる。
Sample/winapi/WM_MOUSELEAVE/WM_MOUSELEAVE/src/WM_MOUSELEAVE at master · bg1bgst333/Sample · GitHub