Als Basis bietet es sich natürlich an, mal den Source-Code von monitor oder multimon zu studieren.
Damit kommt man dann schon ein gutes Stück weiter.
Weitere Hinweise gibt's z.B. hier (auch wenn's nicht direkt im FMS geht):
http://www.ele.uva.es/~jesus/rtty/
Dennoch ist es ne Knochenarbeit. Wenn man nicht viel mit C / C++ am Hut hat, wird's noch schwieriger. Viele Open-Source Projekte sind immer noch in C geschrieben.
@Moderator's: Vllt den Beitrag in "BOS-Funk" verschieben. Hat eigentlich nix direkt mit FMS32Pro zu tun.