在VVC中，與HEVC相比，增加了一個(gè)新的變換階段，稱(chēng)為低頻不可分離變換（LFNST）。主要條件是LFNST僅適用于亮度/色度分量的幀內(nèi)塊（啟用單獨(dú)的色度）。

LFNST的主要目標(biāo)是進(jìn)一步壓縮低頻初級(jí)變換系數(shù)之間的冗余，低頻初級(jí)變換系數(shù)是來(lái)自常規(guī)方向幀內(nèi)預(yù)測(cè)的變換系數(shù)。我們還可以添加，對(duì)于細(xì)長(zhǎng)的矩形，LFNST有助于將系數(shù)精確地集中在右上角。

那么它是怎樣工作的？LFNST應(yīng)用于前向初級(jí)變換和量化（在編碼器端）之間以及去量化和反向初級(jí)變換之間（在解碼器端）。LFNST包含2種模式：4x4LFNST（對(duì)于寬度/高度<8 的塊）和8x8LFNST（對(duì)于寬度/高度>=8 的塊）。

例如，讓我們考慮塊 X的 4x4 LFNST：

首先，我們需要將 X表示為一維向量：

之后，不可分離變換可以計(jì)算為：F = T? X （F和 X 是向量），其中T 是 16x16變換矩陣，F(xiàn)是具有變換系數(shù)的 16x1向量，可以使用以下方法將其重組為4x4 塊光柵掃描順序。

在LFNST中，使用了矩陣乘法的方法，因此為了節(jié)省存儲(chǔ)矩陣系數(shù)的內(nèi)存空間并降低計(jì)算復(fù)雜度，最好將矩陣維數(shù)最小化。這樣。主要思想是將N維向量映射到R維向量，其中N>R，N/R是縮減因子。對(duì)于8x8 LFNST，縮減因子為4，因此變換矩陣為16x64。但在VVC 的后期階段，它進(jìn)一步減少到16x48。因此，由于矩陣維數(shù)減少，存儲(chǔ)它們的內(nèi)存使用量從10Kb 減少到8Kb，而性能沒(méi)有太大下降。

對(duì)于解碼器端的逆過(guò)程，逆LFNST 矩陣是前向變換矩陣的轉(zhuǎn)置矩陣。

LFNST 有一些限制，不能在以下情況下使用：

1、塊大小大于64x64 或?qū)挾?高度CU 大于最大transform_block_size；

2、如果應(yīng)用ISP TU 寬度或高度小于4；

3、塊具有INTER 模式；

4、使用變換跳過(guò)；

5、塊4x4 和 8x8具有超過(guò) 8個(gè)第一有效系數(shù)；

6、第一個(gè)子塊中有一些系數(shù)；

7、如果只有1 個(gè)非歸零系數(shù)（僅DC）；需要注意的是，LFNST和 MTS是連接的：如果啟用LFNST，則只能應(yīng)用DCT-II 模式（MTS索引 = 0）。

LFNST 變換矩陣 T可以表示如下：

8 個(gè)不同的 16x16矩陣，用于 4x4LFNST（4lfnstTrSetIdx 和 2lfnst_idx 的笛卡爾積）；

8 個(gè)不同的 16x48矩陣，用于 8x8LFNST；所有這些矩陣都預(yù)先計(jì)算并存儲(chǔ)在編碼器/解碼器端。

選擇最合適的 LFNST矩陣取決于lfnstTrSetIdx，它取決于在比特流中傳輸?shù)腎ntraPredMode 和lfnst_idx。下面可以看到lfnstTrSetIdx對(duì)IntraPredMode的依賴(lài)表：

在這里你可以看到 LFNST如何在解碼器端工作：

這就是今天的全部?jī)?nèi)容。在我們的下一篇文章中，我們將繼續(xù)向您介紹VVC 轉(zhuǎn)型創(chuàng)新。您也可以在這里查看我們之前關(guān)于MTS 的文章。

審核編輯：劉清