网页相似度对比

输入两个URL,实时抓取并分别提取标题、meta描述、正文纯文本,用词频向量余弦相似度量化两页内容的重合程度。适用于:排查站内重复内容、验证采集/抄袭页面、改版前后内容一致性核对、判断是否需要canonical合并。

结果解读

使用提示

常见问题

相似度是怎么计算的?

实时抓取两个页面的HTML,提取标题、meta描述与正文纯文本(剥离脚本、样式与标签)。中文按双字组(bigram)、英文数字按单词切分并统计词频,再计算两个词频向量的余弦相似度,范围0~1。标题、描述、正文分别给出相似度。

相似度多少算重复内容?

正文相似度≥0.9基本可判定高度重复,建议合并页面、canonical指向规范页或301重定向其一;0.7~0.9为相似度较高,存在被判准重复页的风险;0.4~0.7通常只是共用模板与导航文案;低于0.4可认为内容差异明显。

为什么提示正文过少无法判定?

纯JS渲染的页面(内容靠浏览器执行脚本后才出现)或空页面,服务端返回的HTML里几乎没有可提取文本,正文相似度不具参考性。此时可对比标题与描述相似度,或用源码查看工具确认页面渲染方式。

相关工具