mencoder.exe は、マルチメディアプレイヤー 「MPlayer」 に同梱されている、動画を別の形式に変換するコンソールアプリです。
MPlayer のサイトよりダウンロードしてください。
http://www.mplayerhq.hu/design7/dload.html
ダウンロードしたアーカイブファイル内に mencoder.exe がありますので、そのファイルを AzFLVEnc.exe と同じフォルダにコピーします。
インストール作業などは必要ありませんので、ファイルをコピーするだけで OK です。