登場人物の顔を中心に、円が閉じるような退場の効果を「アイリスアウト」と言います。古いアニメのオチにあるトホホな表現でお馴染みです。
VideoStudioでこの効果を表現するには、別途ビデオマスクを作成する必要があります。ターゲットの映像を背景にマスクの位置を決めて、ビデオマスクとして白黒動画を出力します。
ビデオマスクはVideoStuidoX8から実装された機能です。この記事はX9を使って解説しています。

今回の効果では、素材として下記のマスク画像を使います。透過・非透過の２種類ありますが、どちらも同じくマスク画像として使えます。背景動画に位置を合わせる時は、透過PNGの方が作業しやすいと思います。
→マスク画像ダウンロード（zip 78KB）

マスク画像は当ページからダウンロードできます。

まずは動画マスクを作成します。マスクを掛ける（顔の部分を抜きたい）動画を背景としてビデオレイヤーに配置します。

マスク画像をトラックに配置して、丁度顔が抜けるようにモーションを付けます。画像の例では３つのパートにクリップを分割して、モーションを付けています。

モーションを付けたら背景の動画を非表示にします。

ビデオマスクを動画として出力します。再編集で使うのが前提なので、AVC/H.264形式でなるべく高画質に出力します。注意点として、マスクを掛ける素材とフレームレートが同一である必要があります。30fpsの素材にマスクを掛ける予定なら、30fpsの動画で出力します。

映像にビデオマスクを適用します。対象のクリップを選択して…

編集→マスク＆クロマキー→オーバーレイオプションを適用→ビデオマスク　に移動して、ウインドウ右側の「+」ボタンを押下します。

先ほど出力したビデオマスクを選択します。

アイリスアウトの効果ができました。

>
後は、ビデオマスクを掛けたクリップに適切なモーションを付けます。効果と共にセンターに移動するとらしくなります。