Jeśli kiedykolwiek słuchałeś muzyki cyfrowej - zwłaszcza wszelkiego rodzaju stratnego formatu audio - to byłeś narażony na kwantyzację matematyczną To zakulisowe przetwarzanie cyfrowego sygnału jest dość powszechne i najczęściej stanowi integralną funkcję nowoczesnego oprogramowania audio lub sprzęt komputerowy (np. konwertery cyfrowo-analogowe). Ale kwantyzacja nie ogranicza się tylko do dźwięku. Termin i jego zastosowania odnoszą się również do innych dziedzin, takich jak fizyka czy obrazowanie cyfrowe.
W studiu nagraniowym mikrofony przechwytują analogowe fale dźwiękowe, które następnie przetwarzane są w formacie cyfrowym. Sygnał może być próbkowany przy 44,100 Hz i kwantowany z 8, 16 lub 24-bitową głębią (i tak dalej). Większe głębie bitów dostarczają więcej danych, co umożliwia dokładniejszą konwersję i reprodukcję oryginalnego kształtu fali.
Zasadniczo kwantowanie jest złożonym procesem zaokrąglania, które wiąże się z pewnym poziomem niedokładności. Komputery działają na zerach i właśnie dlatego konwersja analogowo-cyfrowa jest uważana za przybliżenie, a nie za dokładną kopię. Jeśli chodzi o muzykę, nie tylko kwantyzowany sygnał musi zachowywać prawidłową kolejność i amplitudę wartości, ale także czas musi być dokładny. Proces musi zapewniać utrzymywanie rytmu muzycznego, z uwagami równomiernie rozłożonymi i ustawionymi na tych samych bitach (lub ich częściach). W przeciwnym razie dźwięk może brzmieć dziwnie lub dziwnie dla słuchających uszu.
Ta koncepcja kwantyzacji może być obserwowana wizualnie za pomocą programu do edycji obrazów, takiego jak Photoshop. Gdy duży obraz ma mniejszy rozmiar, utrata informacji o pikselach wynika z matematycznego procesu obsługi tego zadania. Oprogramowanie wykonuje obliczenia i zaokrągleń, aby odrzucić niepożądane piksele, zachowując ogólną integralność, stosunek i kontekst obrazu - ograniczone proporcje są równie ważne dla zdjęć, jak rytm muzyki. Podczas powiększania i porównywania od rozmiaru wersji zdjęcia do oryginału krawędzie i obiekty wydają się być nieco szorstkie lub postrzępione. Ten wizualny aspekt kompresji stratnej podobnie odnosi się do typów cyfrowych plików audio. Więcej danych i / lub mniejsza kompresja powoduje wyższą ogólną jakość.
