ワンタイムパスワードのアルゴリズムとしては、MS AuthenticatorでもYubiKeyでも同じOATH-TOTPを使用している(厳密には、ログイン先のサービスがOATH-TOTPを採用)かと存じます。
従いまして、ワンタイムパスワードそのものに関するアルゴリズム強度の差異はございません。
YubiKeyがスマホのAuthenticatorと明確に異なるのは、スマホを必要としない点になります。
スマホを持ち込めないセキュリティレベルの高い環境などにおきましても、YubiKeyであれば持ち込み、PCにインストールしてあるAuthenticatorでワンタイムパスワードの表示を行うことができます。
YubiKeyそのものにおけるセキュリティ強度ではありませんが、使用環境のセキュリティレベルに対しては優位性があるものと考えます。
また、スマホは落下などの衝撃で破損すると使用不能になる可能性がございますが、YubiKeyは落下、水没に対して耐性がございます。