La risposta breve è che con le funzioni native di CVI non è possibile nascondere il frame, tutti gli attributi relativi al frame sono validi solamente per i child panel, le finestre sono gestite dal sistema operativo. Lo stesso vale per il colore di sfondo: il trasparente non è consentito.
Detto questo, usando alcune funzioni SDK è possibile superare alcune di queste limitazioni: cerca sulla tua macchina l'esempio \samples\sdk\winshape\winshape.cws che mostra come avere delle finestra di forma arbitraria; è facile aggiungere una finestra rettangolare senza bordo ma considera che non si riesce a visualizzare la barra del titolo quindi non riesci a spostare la finestra.
