Du musst als Aufnahmequelle PCM setzen. Alternativ könnte auch der "Stereo Mix" oder "Mono Mix" als Aufnahmequelle funktionieren.
Ansonsten kannst Du halt auch Tonfolgen erzeugen und in ein File speichern. Dieses kann monitor dann auch auswerten. Du wolltest aber sicherlich "live" probieren. Dann den oberen Weg einschlagen.
Gruß,
Funkwart