FlashPlayerでのマウス入力の判別は当方も研究中で「これが最適」と言うのが見つかっていないのが現状です。（もっと便利な方法があるのだよと言う方が居れば教えて頂きたいです。）
研究中とは言え一応「この方法を採用する」と言うのが見つかっては居るのですが、それを説明する前に「そこに至る逡巡」を説明してみたいと思います。

人の入力にはブレがある

プログラムの中ではマウスの位置は1秒以下のごく短い時間で繰り返し取得されます。
つまり、マウスの軌跡は一定間隔で取得された座標を直線で繋いだ「折れ線状態」で処理することになります。
また、プレーヤーがまっすぐ動かしたつもりでも厳密には直線ではありません。
さらに上記の例は左から右に動いていますが、ゲームシーンによっては逆の右から左、あるいは上下など様々な方向を処理する必要が有ります。

問題は入力のブレだけではない
マウスの軌跡の判定を行う時、入力のブレだけでなく実はもっと重大な問題が有ります。
それは、「何をもって○○と入力されたか」と言う判定基準をコンピュータに指示することです。
コンピュータはヒトのようにマウスの軌跡を認識して「円が入力された」「直線が入力された」などと判断しては居ないのです。いや、そもそも認識などしてはいないのです。

では、どの様にすればプログラミングとしてコンピュータで処理できるのでしょうか。

実は方法はあまり無く例えば、コンピュータで取得できる情報が「円運動の条件を満たしていたら円が入力された物として円運動入力時の処理を行う」と言う、古典的かつ力技的な方法しかありません。

では、マウス入力を円運動なのか直線的な往復運動なのかを区別することが出来る「条件」とは一体どの様な物なのでしょうか。

回転なのか往復なのか判別に困る例１

人は興奮してくると理性のタガが外れてマウスを無茶苦茶に動かしたくなる物です。
いわゆる「ガチャプレイ」です。
そうなると、同じ軌跡をたどろうとする意識も少なくなってきます。
また、最初のうちは円を描いていた軌跡もいつの間にか楕円になりさらに潰れて往復運動になる事も想定されます。
そう、トポロジー的には円運動、楕円運動、往復運動に差異は無いのです。それはつまり、「トポロジー的な手法ではこの問題は解決できない」と言うことを意味します。

回転なのか往復なのか判別に困る例２

マウスの左ボタンを押し込んだままその場で固定していたつもりでも力が加わっている以上、マウスカーソルは常に細かく動いた状態になります。それはセンサーによる測定値の誤差なのかもしれませんが、どちらにしてもマウスカーソルは細かく揺らいでいる状態になります。
これはプログラムから見て、プレーヤーの意思で細かく動かしているのか、停止しているのかの判別を困難にします。

画面をはみ出している入力

プレーヤが円を入力しようとしているにも拘らず画面をはみ出してしまった場合円と直線は区別が付かなくなります。

適切な判別のタイミングは？

この事に気づいた事が今回採用する方法を思いつくキッカケになりました。
入力の判定方法を探すにあたって、当然どの様な方法があるかインターネットも検索してみましたがヒントになる情報は見つかりませんでした。
それもそのはず当方が探していたキーワード（例えば「マウス 軌跡 判定」など）でヒットする情報は「入力が終了した軌跡に対して図形判定を行う」方法ばかりだったのです。
しかし、プレーヤは入力を始めるとき既に「描こうと思っている図形を頭に描いておりその入力に応じた動画がすぐ見たい」と思っているのです。ですから入力終了時に判断したのでは「遅すぎる」のです。

この事は、上記の要件を満たすためには「入力途中で円なのか直線なのか」を判別する必要がある事を示唆しています。
もっと突き詰めると「入力の全てを待って往復運動であるとか円運動であるとかを判別しても意味が無い」
さらに今までの逡巡も踏まえて言うと「円なのか往復運動なのか」では無く「プレーヤーは直線を入力しようとしているのか、曲線を入力しようとしているのかを判別すべき」なのです。

そしてこの事に気づいた事で、仕様をシンプルにすることが可能になったのです。