ギブスの不等式

(自己)エントロピーよりも交差エントロピーの方が大きい不等式は

ギブスの（情報）不等式

と呼ばれる。情報不等式と呼ぶ本もあるが、情報不等式は沢山あるようなので、ギブスの不等式の方が一意性が高い．