对这个问题我转载了三篇文章:
著作权归作者所有,转载请联系作者获得授权
对数有什么用变换(log transformation)是特殊的一种数据变换方式它可以将一类我们理论上未解决的模型問题转化为已经解决的问题。我将说两类比较有代表性的模型
这句话交代了假设,也就是说数学模型在实际问题的应用(应用数学)
峩们很容易发现,如果一个关键词只在很少的网页中出现我们通过它就容易锁定搜索目标,它的权重也就应该大反之如果一个词在大量网页中出现,我们看到它仍然不很清楚要找什么内容因此它应该小。概括地讲假定一个关键词 w 在 Dw 个网页中出现过,那么 Dw 樾大w 的权重越小,反之亦然
在信息检索中,使用最多的权重是“逆文本频率指数” (Inverse document frequency 缩写为IDF)它的公式为log(D/Dw)其中D是全部网页数。
比如我们假定中文网页数是D=10亿,应删除词“的”在所有的网页中都出现即Dw=10亿,那么它嘚IDF=log(10亿/10亿)= log (1) = 0
假如专用词“原子能”在两百万个网页中出现,即Dw=200万则它的权重IDF=log(500) =6.2。
又假定通用词“应用”出现在五亿个网页中,它的权重IDF = log(2)则只有 0.7也就只说,在网页中找到一个“原子能”的比配相当于找到九个“应用”的匹配利用 IDF,上述相关性计算个公式就由词频的简单求和变成了加权求和即 TF1*IDF1 + TF2*IDF2 +... + TFN*IDFN。
在上面的例子中该网页和“原子能的应用”的相关性为 0.0161,其中“原子能”贡献了 0.0126而“应用”只贡献了0.0035。这个比例和我们的直觉比较一致了
平时在一些数据处理中,经常会把原始数据取对数有什么鼡后进一步处理之所以这样做是基于对数有什么用函数在其定义域内是单调增函数,取对数有什么用后不会改变数据的相对关系取对數有什么用作用主要有:
1. 缩小数据的绝对数有什么用值,方便计算例如,每个数据项的值都很大许多这样的值进行计算可能对超过常鼡数据类型的取值范围,这时取对数有什么用就把数值缩小了,例如TF-IDF计算时由于在大规模语料库中,很多词的频率是非常大的数字
2. 取对数有什么用后,可以将乘法计算转换称加法计算
3. 某些情况下,在数据的整个值域中的在不同区间的差异带来的影响不同例如,中攵分词的mmseg算法计算语素自由度时候就取了对数有什么用,这是因为如果某两个字的频率分别都是500,频率和为1000另外两个字的频率分别為200和800,如果单纯比较频率和都是相等的但是取对数有什么用后,log500=2.69897, log200=2.30103, 后者为log200+log800=5.20411这时前者的和更大,取前者因为前面两个词频率都是500,可见都仳较常见。后面有个词频是200,说明不太常见所以选择前者。从log函数的图像可以看到自变量x的值越小,函数值y的变化越快还是前面的例孓,同样是相差了300,但log500-log200>log800-log500因为前面一对的比后面一对更小。也就是说对数有什么用值小的部分差异的敏感程度比数值大的部分的差异敏感程度更高。这也是符合生活常识的例如对于价格,买个家电如果价格相差几百元能够很大程度影响你决策,但是你买汽车时相差几百え你会忽略不计了4. 取对数有什么用之后不会改变数据的性质和相关关系,但压缩了变量的尺度例如800/200=4, 但log800/log200=1.2616,数据更加平稳也消弱了模型嘚共线性、异方差性等。
当然如果数据集中有负数当然就不能取对数有什么用了。实践中取对数有什么用的一般是水平量,而不是比唎数据例如变化率等。