333333333，和實際數值的誤差就是捨入誤差。即使進行數值分析的設備用浮點數來表示實數，仍無法完全避免捨入誤差的問題。 若迭代法的数值分析算到某一程度就中止計算，或是使用一些近似的數學程序，程序所得結果和精準解不同，就會出現截尾誤差（英语：Truncation_error）。將問題離散化後，由於離散化...

统计学和最优化中，误差（error）和残差（residual）是两个相近但有区别的概念，二者均是统计样本中某一元素的观测值（英语：observed value）与其“真值”（未必可直接观测得到）之间的离差的度量。观察的误差是观测值与相关量（例如总体平均值）的真值之间的差值。残差是观测值与统计量的估...

{f(a+h)-f(a) \over h}.} 近似解的誤差定義為近似解及解析解之間的差值。有限差分法的兩個誤差來源分別是捨入誤差及截尾誤差（英语：truncation error）（或稱為離散化誤差），前者是因為電腦計算小數時四捨五入造成的誤差，後者則是用有限阶级数表示导数引起的误差。...

此外，Yurkin和Maltsev在其文章中分析了DDA方法的误差与偶极间距d的关系。作者从电磁场散射理论出发，推导出偶极离散化误差的表达式，同时分析了正方体偶极阵列和实际散射体形状差别造成的误差。 2007年，Penttila等人发表文章，从计算速度、内存消耗等方面比较了SI...

_{n=0}^{N-1}B\left[{n,m}\right]B^{*}\left[{n,h}\right]} 不一定為正的，所以無法利用增加基底數來改善平方誤差。 離散傅里葉變換 離散餘弦變換 離散正弦變換 哈爾小波轉換 正交矩陣 Jian-Jiun Ding, Advanced Digital Signal Processing...

積分效應：取樣所得並非是瞬時的，而是一小段時間內的值，稱為積分效應。 雜訊：熱雜訊，類比電路雜訊等。 量化誤差：捨去小數的誤差，發生在每次取樣時，ADC所轉換出的整數中。 取樣率過慢：ADC轉換的速度不夠快，無法反映出訊號的變化。 截斷誤差：當輸入訊號超過ADC所能轉換的大小時，輸出就會被截斷。...

代表，這點與k-平均演算法以及其他群集分析的特性相當。 向量量化所使用的密度分佈法的優勢在於，此種壓縮法對於高機率出現(密集)的資料誤差小，而對低機率(稀疏)的資料誤差大，故特別適用於大量且高維度的向量破壞性資料壓縮。 向量量化是競逐式學習的一種技巧，故與深度學習的自編碼器其中使用的自組織對應以及稀疏神經編碼有關係。...

抖動（英語：dither），是在數位訊號處理領域的中一項用于降低量化误差的技术。透过在較低位元中加入雜訊，藉此破壞諧波的排序，使諧波的影響受到壓制，並減少量化誤差在低頻的影響。抖动常用于音视频处理，且是CD压制过程的最后一步。經過抖动處理過的音樂，將聽起來更柔順、背景更黑；而經過抖动處理過的影像，也會更加地柔順耐看。...

JPEG跟使用離散餘弦變換（Discrete cosine transform）的失真壓縮模式不同，無失真的壓縮使用了一個簡單的預期性編碼模型（predictive coding model），稱為離散脈衝編碼調變（differential pulse code modulation）。 離散...

量化在数字信号处理领域是指将信号的连续取值（或者大量可能的离散取值）近似为有限多个（或较少的）离散值的过程。量化主要应用于从连续信号到数字信号的转换中。连续信号经过采样成为离散信号，离散信号经过量化即成为数字信号。注意离散信号并不需要经过采样的过程。信号的采样和量化通常都是由ADC实现的。...

在有限長度數位濾波器的設計中，最小平均平方誤差(英文：least mean-square error)是所設計的濾波器響應與理想濾波器響應在欲探討的頻段中的最小誤差。由於所設計的數位濾波器的長度不是無限長，所以在設計上和完美的濾波器會存在誤差。是訊號工程師會關心設計的濾波器的響應重點。此平均誤差利用統計學的方均值來計算求得。...