Movable Type のコードを確認してみたところ、通常はUNIXのcrypt関数を呼び出してパスワードを暗号化しているようです。そうすると、MySQL :: MySQL 5.1 リファレンスマニュアル :: 11.10.2 暗号化関数と圧縮関数や、8.4 crypt — Unix パスワードをチェックするための関数、を見てわかるように、MySQLではencrypt()関数を使えば、照合ができるという話になります。
ためしに、手元のMTOSのDBについて、確認をしてみました。select author_name, author_password from mt_author;とすると、DBに登録されているパスワードの値(ここではb5abcdefgとします)がわかります。crypt関数へsaltを指定してある場合は、先頭の2文字がその値になっています。ここでは、b5だとします。パスワード(ここではpasswordとします)とsaltの値を使って、select encrypt(‘password’, ‘b5’); と計算します。この結果がDBに登録されているパスワードb5abcdefgに一致していたら、認証ができたということになります。
こういうことがわかってくると、MTOSのユーザを使った認証ができたり、MTOSと他の認証システム(たとえばmod_auth_mysql)を連携させることができそうです。