Charlie's volatile short

星空を含む場合は--aq-*を使うとよいで書いたように、ブロックごとに最適な量子化パラメータを推定して、同じ容量で画質を改善する機能がx264の一部ビルドに試験的に実装されていましたが、3月末に公式に取り入れられました。

一方、公式のものより更に改良を進めたVAQ2.0の試験公開も始まっていて、 どのビルドでどの機能が使えて、パラメータはどうすれば良いのかが 分かりにくくなってきたので、簡略にまとめてみました。

...

ビルド	--aq-sensitivity (可変にするブロック)	--aq-metric (精度)	--aq-mode (フレーム間処理の有無)	--qcomp (容量制御の度合)
Sharktooth版	可変。0だと全ブロック可変。無指定時15。	無い。	無い。	0でビットレート固定、1で品質固定。無指定時0.6。
Core59	固定値が使用され、指定はできない。	無い。	0～2	--aq-mode=2の時、指定値にゲタが履かされる。
Dark Shikari版 Core58+VAQ2.0 (α公開)	固定値が使用され、指定はできない。	0～3。	↑同じ。	↑同じ。

--aq-mode : フレーム間処理の有無

0. 機能停止。
1. フレーム内で帯域をやりくりする。--aq-sensitivity=0相当。
2. フレームを超えて帯域をやりくりする。

--aq-mode=2のとき、--qcomp指定値にゲタが履かされる

--aq-mode=2の時、内部で--aq-strength * 0.4 / 0.28が加算され、0～1の範囲に丸められた値が使われる。 --aq-strengthは無指定時1.0とみなされるので、--qcomp=0としても内部的にはqcomp=1.0相当になってしまう。 そこで、--qcomp=-2とかいう指定も可能ということになったようだ。

--aq-metric : 量子化パラメータ推定の精度

0. VAQ1.0相当。MB（マクロブロック）全体の輝度の分散を使う。
1. ブロックの中の1/4のピクセルに対して8x8ウィンドウ探索。VAQ1.0の12倍くらい遅い。
2. ブロックの中の1/4のピクセルに対して7x7ガウシアンウィンドウ探索。VAQ1.0の30倍くらい遅い。
3. ブロックの中の全ピクセルに対して7x7ガウシアンウィンドウ探索。VAQ1.0の120倍くらい遅い。

関連記事

• なんで暗部がざわざわするのか
• oreAQを試してみた
• x264 | VAQの効果はどのくらい？
• グレインノイズを残すには