如何解決越來越多的訪問網頁的 403 回應事件

如何解決越來越多的訪問網頁的 403 回應事件

我在任何裝置上從家中造訪 https 網頁時都遇到很大的問題。最初只有 usps.com,但現已發展為 Bed Bath and Beyond 和 AA.com。具體來說,從我的家庭網路上的任何裝置(IOS、Mac 和 Windows)我都會收到

拒絕訪問

您無權存取此伺服器上的“web-url”。

參考#18.25a75b68.1502569054.2c13e2cf

我知道這不是該網站,因為我跳上我們的一台 AWS 伺服器並可以訪問這些相同的網站。我已經清除了快取和cookie。我嘗試過 IE、Chrome、Firefox 和 Safari。我將數據機和路由器關閉十分鐘,然後手動將 DNS 設定為 Google。仍然沒有成功。

我做了一個tracert並ping了其中一個站點,一切看起來都很好(或多或少)。

ping 和追蹤路由

我還查看了 Firefox 中的開發者模式,發現回應正在發送到伺服器,我從伺服器收到 403 回應。

aa_伺服器_回應

我想指出的是,我家裡實際上有兩個調製解調器和兩個互聯網服務。我可以從我的業務線路存取這些資源,但我需要從家庭線路存取它們 - 這是一種複雜的說法,這個問題似乎特定於我的家庭路由器和/或數據機和/或 IP 位址。我確實要求我的 ISP 更改我的 IP 位址,但他們不肯。

答案1

我做了三件不同的事情,其中​​一件可能已經解決了問題。

  1. 更換調變解調器 首先,我相信更換調變解調器會分配一個新的 IP 位址,我一直在考慮購買更新的 IP 位址,因此購買了一個新的數據機。在與 ISP 通話以使數據機上線時,我發現有線電視公司的 IP 位址分配給了路由器,而不是數據機。

  2. 得到了一個新的IP位址,我沮喪地向幫助我到目前為止所做的事情的人解釋,並表示如果有必要我會去買一個新的路由器。他更加支持我並幫助我完成獲取新 IP 位址的步驟。我需要做的是重置調製解調器 - 這將為我提供被動分配新 IP 位址的最佳機會,而無需他執行任何操作。

  3. 更新路由器上的韌體當路由器恢復正常時,需要更新韌體。

當這三個步驟完成後,我就可以完全訪問我遇到問題的網站了。技術人員表示,這是他們很少看到的情況,他認為我未來排除故障的最佳選擇是從路由器開始。

我實際上懷疑更換調製解調器與解析度無關,但我將其保留在此列表中,因為它發生了變化

我終於解決了這個問題。我使用一些自動化程式碼來存取 SEC EDGAR 系統並從其集合中提取文件。我的使用是合法/允許的,並且實際上受到 SEC 的鼓勵。然而,阿卡邁監控通過網路的流量以及我何時刮擦EDGAR 他們將我的 IP 位址標記為壞演員。然後,他們維護一個出租給許多公司的列表,用於限制這些公司網站的流量。當我抓取資料時,我的 IP 位址會出現在清單中,然後這些公司就會付款阿卡邁阻止我的 IP 位址訪問他們的網站 - 在 Akamai 的客戶中,我在使用 AA.com 時遇到了問題; USPS.COM、MACYS.com 和 HarleyDavidson.com。

似乎需要大約一周的時間才能獲得清單中我的 IP 位址。

我應該指出的是,我已與 Akamai 工程師和 SEC 的網路工程師確認了這一點。 SEC 不明白為什麼 Akamai 使用 EDGAR 的合法流量來識別抓取工具,但他們確實這麼做了。

相關內容