なでしこはプログラム言語で、C言語のDLLと連携出来るので、やりたいことは大概
実現可能ですよね。ま、乗り越えるべき壁はたくさんありますが。なでしこのGUI
部分なんかは、結局CやDelphiで実装したものに皮かぶせたようなもんなので、
ユーザーインターフェースだけなでしこで、コアが別言語でもまあ、悪くはないと
思います。

ウィルス対策ソフトは、夜に出回ってるものは大体サーバーと常に通信して
最新のパターンファイルを取り込んでます。Windows上ではサービスとして動作
していて、定期的に全ファイル（の差分）のウィルスパターンをチェクしたり
リアルタイムでメール添付ファイルのウィルスを検出したりします。これらは
多分、Windowsのフィルタドライバで実装されていてシステムに深く依存しており
ファイルをオープンすればその下層で検出ルーチンが走る様になっているので
この辺りはハードル高そうですね。予想では、うぇいくさんの想像どおり
かなりの部分をWindows上のDLLを作成可能な別言語で記述することになると
思います。

あと、その手間考えればGPLのアプリ引っ張ってくるのもアリですよね。
GPLに手を入れたとしても、それを販売することは可能ですよ。但し
販売する場合にはGPLのライセンス提示と、GPL由来のファイルの開示
が義務付けられてます。例えば最近のスマホでAndoroidのものは、
コア部分がLinuxでGPLですが、販売出来ているのはそういうことです。

長くなりましたが、本気で作る！と思えば道はいくらでもありますので
仕組みや言語の勉強も含めてご健闘をお祈りします！😄