检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
其他爬虫 各类用途的爬虫程序,如站点监控、访问代理、网页分析等。 说明: “访问代理”是指当网站接入EdgeSec后,为避免爬虫被EdgeSec拦截,爬虫者使用大量IP代理实现爬虫的一种技术手段。 开启后,EdgeSec将检测并阻断各类用途的爬虫程序。
一个透明的代理服务器在把用户的HTTP请求转到下一环节的服务器时,会在HTTP的头部中加入一条“X-Forwarded-For”记录,用来记录用户的真实IP,其形式为“X-Forwarded-For:访问者的真实IP,代理服务器1-IP, 代理服务器2-IP,代理服务器3-IP,…
图1 CC防护规则配置框 在CC防护规则配置页面左上角,单击“添加规则”,配置对指定路径下的请求进行基于IP限速的检测,针对业务特性,设置限速频率,并配置人机验证,防止误拦截正常用户,针对网站所有url进行防护。 限速模式:选择“IP限速”,根据IP区分单个Web访问者。
边缘安全的网站反爬虫功能可以对第三方漏洞攻击等威胁进行检测和拦截。在配置网站反爬虫防护规则时,如果您开启了扫描器,将对扫描器爬虫,如OpenVAS、Nmap等进行检测。 有关网站反爬虫防护规则的详细操作,请参见配置网站反爬虫防护规则。
EdgeSectest IP/IP段或地址组 支持添加黑白名单规则的方式,“IP/IP段”或“地址组”。 IP/IP段 IP/IP段 当“IP/IP段或地址组” 选择“IP/IP段”时需要设置该参数。 支持IP地址或IP地址段。 IP地址:添加黑名单或者白名单的IP地址。
添加黑白名单IP地址组 IP地址组集中管理IP地址或网段,被黑白名单规则引用时可以批量设置IP/IP地址段。 约束条件 添加IP地址组时,请确保IP/IP地址段未添加到其他IP地址组,重复添加同一IP/IP地址段会导致添加IP地址组失败。 规格限制 每个用户可以拥有50个地址组。
User Agent:设置为需要防护的扫描器的用户代理。 -- Mozilla/5.0 (Windows NT 6.1) IP:设置为需要防护的访问者IP地址。 客户端IP X-Forwarded-For XXX.XXX.1.1 Params:设置为需要防护的请求参数。
修改或删除黑白名单IP地址组 您可以通过修改或删除IP地址,管理IP地址组信息。 前提条件 已成功创建地址组。 约束条件 修改IP地址组时,请确保IP地址组中的IP/IP地址段未添加到其他IP地址组,重复添加同一IP/IP地址段会导致添加IP地址组失败。
配置防护策略 配置引导 配置Web基础防护规则防御常见Web攻击 配置CC攻击防护规则防御CC攻击 配置精准访问防护规则 创建引用表对防护指标进行批量配置 配置IP黑白名单规则规则拦截指定IP 配置攻击惩罚标准 配置地理位置访问控制规则拦截特定区域请求 配置网站反爬虫防护规则防御爬虫攻击
例如,访问者的源IP(192.168.1.1)为恶意请求,如果您配置了IP攻击惩罚拦截时长为500秒,该攻击惩罚生效后,则该IP被拦截时,边缘安全将封禁该IP,时长为500秒。 前提条件 已添加防护网站,详情操作请参见添加防护网站 。
基于Cookie字段的配置 攻击案例 竞争对手控制数台主机,与大多普通访客一样,共用同一IP,或通过代理频繁更换源IP,持续向网站“www.example.com”发起HTTP Post请求,网站并无较大的负载能力,网站连接数、带宽等资源均被该攻击者大量占用,正常用户无法访问网站,
配置地理位置访问控制规则拦截特定区域请求 网站反爬虫规则 动态分析网站业务模型,结合人机识别技术和数据风控手段,精准识别爬虫行为。 配置网站反爬虫防护规则防御爬虫攻击 全局白名单规则 针对特定请求忽略某些攻击检测规则,用于处理误报事件。
网站反爬虫的“特征反爬虫”规则 可防护搜索引擎、扫描器、脚本工具、其它爬虫等爬虫。 添加或修改防护规则后,规则生效需要等待几分钟。规则生效后,您可以在“防护事件”页面查看防护效果。
约束条件 仅基于边缘安全内置的Web基础防护规则和网站反爬虫的特征反爬虫拦截或记录的攻击事情可以进行“误报处理”操作。
用户代理 HTTP请求头,包含了发出请求的用户代理应用程序的信息、浏览器标识、操作系统标识、语言、版本信息等。 请求方法 HTTP请求方法。 父主题: 防护统计
全方位安全防护 继承华为云在安全攻防领域20多年的技术和经验累积,全方位防护DDoS攻击,Web攻击 ,CC攻击、恶意爬虫等各类网络攻击,全面支持SQL注入、XSS跨站脚本、文件包含等各类OWASP威胁防护。
策略配置灵活 可以根据IP字段名设置灵活的限速策略。 阻断页面可定制 阻断页面可自定义内容和类型,满足业务多样化需要。
常见攻击类型:恶意爬虫、漏洞扫描、DDoS攻击、凭证破解、薅羊毛、点击欺诈等。
EdgeSecAntiCrawlerRule createEdgeSecAntiCrawlerRule 删除脚本反爬虫规则 EdgeSecAntiCrawlerRule deleteEdgeSecAntiCrawlerRule 修改脚本反爬虫防护模式 EdgeSecAntiCrawlerRule
黑白名单设置,支持批量导入IP地址/IP地址段 √ 支持对指定国家、省份的IP自定义访问控制 √ 检测并拦截搜索引擎、扫描器、脚本工具、其它爬虫等爬虫行为 √ 检测并拦截JS脚本反爬虫检测行为 √ 防敏感信息泄露 √ 全局白名单规则 √ 隐私屏蔽 √