karanlık proxyscrape logo

Python İstekleri ile Proxy - 5 Basit Adım

Kılavuzlar, Aralık-03-20225 dakika okuma
Python istekleri ile proxy, kullanıcının ağda anonim kalabilmesi için proxy'yi her python isteğine entegre etme işlemidir. Sunucudan veri talep eden istemci cihazlar, bir python betiği kullanarak veya python istekleri ile bir proxy yapılandırarak bir istek gönderecektir.
Veri üretimi her geçen gün katlanarak artıyor. Sıradan web kullanıcılarından profesyonel pazarlamacılara ve web kazıyıcılarına kadar herkes analiz etmek ve stratejiler geliştirmek için verilere erişecek. İnternet veri ile dolup taşan bir ortamdır ve kullanıcıların web sitelerinden bilgi toplamasını kolaylaştırır. Programlama geliştiricileri, kodlarından web sayfalarına istek gönderecek ve URL' den toplanan verileri programlama gereksinimleri için girdi olarak kullanacaktır. Kullanıcılar engellenen sitelerden veri toplayamazsa ne olur? Bu makale, proxy'lerin python istekleri ile kullanımını ve web kazıyıcılara nasıl yardımcı olduğunu tartışmak üzeredir.

Python istekleri ile proxy hakkında daha fazla bilgi edinmek için herhangi bir bölüme atlamaktan çekinmeyin!

İçindekiler

Proxy Nedir?

Proxy, istemci-sunucu iletişimi için aracı bir cihazdır. Bu proxy'ler iletişimdeki düğüm adına çalışır ve kimliklerini ağdaki diğer düğümlerden gizler. Proxy'ler hız, anonimlik ve sıfır kısıtlama ile kesintisiz veri kazıma hizmetleri sağlayan özel özelliklere sahiptir. Birden fazla kaynaktan bilgi toplamak proxy sunucuları ile oldukça kolay bir işlemdir.

Python İstekleri Nedir?

Bir python isteği, kullanıcıların URL'ye HTTP istekleri göndermesine olanak tanıyan bir HTTP kütüphanesidir. Bu istek kütüphaneleri python'un yerleşik modülleri değildir. Kullanıcılar gerekirse istekleri kütüphaneden içe aktarabilir. HTTP istek kütüphanesinin POST, PUT, HEAD, GET, POST ve PATCH gibi birçok yöntemi vardır.

Python İstekleri ile Neden Proxy Kullanılmalı?

Günümüzde insanlar kimliklerini gizli tutmak için proxy kullanmayı tercih ediyor. Proxy'ler IP adreslerimizi gizleyebilir ve ağda herhangi bir türde ve konumda bir proxy adresi ile görünebilir. Bu, kullanıcının kısıtlanmış veya coğrafi olarak engellenmiş sitelerden bile bilgi almasına olanak tanır. Kanadalılar için engellenen siteler, sitelere erişmek ve IP yasaklarından kaçınmak için Birleşik Krallık 'tan bir proxy adresi kullanabilir. Proxy'lerin özelliklerinden yararlanmak için, web geliştiricileri python istek kütüphanesi ile proxy'leri kullanır, böylece URL kullanıcının gerçek kimliğini bilmez.

Python ve İstek Kütüphanelerinin Kurulumu

Proxy'yi python requests kütüphanesi ile entegre etmek Python ile çalışabilmeyi gerektirir.

  • Temel python programlama bilgisi.
  • Python 3 kullanımında deneyim.
  • Sisteme önceden yüklenmiş bir Python IDLE.
  • Komut isteminden bir içe aktarma isteği kütüphanesi. 
İnsanlar bu ön koşullara sahip olduklarından emin olmalıdır. İlk ikisi bir python betiği üzerinde çalışmak için gereken becerilerdir, sonraki ikisi ise python programlarını çalıştırmak için temel gereksinimlerdir. Sisteminizde bir python editörü yoksa, sistem yapılandırmanızla uyumlu olan uygun python sürümünü indirin. Python 'u sisteminize indirmek ve yapılandırmak için talimatlara göz atın. Bu işlem 2GB ila 4GB RAM gerektirecektir. Temel python kurulumu tamamlandıktan sonra, kullanıcılar gerekli kütüphanelerin içe aktarıldığından da emin olmalıdır. Python-requests ile çalışmak için, herhangi bir yerleşik istek kütüphanemiz yoktur. Bu nedenle, kullanıcıların ilk etapta requests kütüphanesini yüklemeleri gerekir.
  • "Komut İstemi"ni açın.
  • "pip freeze" yazın.
  • Bu dondurma seçeneği python'un tüm yüklü kütüphanelerini gösterecektir.
  • Listede "istek modülü" olup olmadığını kontrol edin Eğer yoksa, "istek kütüphanesini" yükleyin.

pip yükleme istekleri

  • Bu ifade "istek kütüphanesini" yükleyecektir.

Python İstekleri ile Proxy Kullanma

Python requests ile proxy eklemek için 5 basit adım vardır. Bu adımlar gerekli paketlerin kurulmasından, proxy adreslerinin eklenmesine ve Python modüllerinin Requests metotları ile istek gönderilmesine kadar kilit noktaları içeriyor.

Python İstekleri ile Proxy

Bu 5 adım, adım adım bir kılavuz aracılığıyla ayrıntılı olarak ele alınmaktadır. Python istekleri ile proxy ekleme ve mevcut parametreler ve işlevleri aşağıda tartışılmaktadır.

Python requests ile çalışmanın birincil gerekliliği requests modülünü içe aktarmaktır. 

 i̇thalat talepleri̇

Bu requests modülü python kodlamasını kullanarak HTTP istekleri göndermekten sorumludur. Şimdi bu python isteklerine proxy'leri dahil etmek için kullanıcıların 'proxies' adında bir sözlük tanımlamaları gerekir. Bu sözlük isim olarak 'HTTP protokollerini' ve isimlerin değeri olarak 'proxy URL'lerini' içerir. Bu proxy sözlüğü bir HTTP bağlantısı kurulmasına yardımcı olur. 

proxies = {'https': /,  'http://webproxy.to/ ''}

Bir sonraki adım, kazıma işleminin kaynağı olan web sitesini tanımlamak için 'URL' adlı bir değişken oluşturmaktır.

Bir sonraki adım, 'URL' ve proxy değişkenlerini geçirerek isteği işlemek için bir 'yanıt' değişkeni tanımlamaktır. 

yanıt = requests.get(url)

Kullanıcılar ayrıca talebin başarılı olup olmadığını görmek için 'durum kodunu' yazdırabilir.

print(f’Status Code: {response.status_code}') 
Örnek kodlama
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url)
print(f'Status Code: {response.status_code}')

Proxy Kimlik Doğrulama

Kullanıcılar 'kullanıcı adı' ve 'parola' parametrelerini ekleyerek proxy kimlik doğrulamasını dahil edebilirler. 

response = requests.get(url, auth=('user', 'pass'))
Örnek Kodlama
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url, auth=('user','pass'))

HTTP Oturumu

Bu oturum nesnesi çerezlere benzer. Birden fazla isteğin kullanıcıya özel verilerini kaydeder. Kullanıcılar, istek kütüphanesinin oturum işlevini çağırarak oturum nesnelerini dahil edebilir.

requests.session()
Örnek Kodlama
import requests
session = requests.Session()
session.proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url)
print(f’Status Code: {response.status_code}') 

Proxy İstekleri ile Zaman Aşımı

HTTP isteklerinin "zaman aşımı" parametresi, kullanıcıların istekleri işlemek için maksimum bir zaman sınırı belirlemelerine olanak tanır. Bu süre, sunucuya bir yanıt için ne kadar beklemesi gerektiğini söyler. Kullanıcılar bu parametreyi HTTP istekleri fonksiyonuna aktarabilir.

response = requests.get('url', timeout=5))

Kullanıcılar, uzak sunucu yavaşsa ve sistemin uzun süre beklemesi gerekiyorsa zaman aşımı değerini "Yok" olarak da atayabilir.

response = requests.get('url', timeout=none))
Örnek Kod:
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.get(url, timeout=5)
print(f’Status Code: {response.status_code}') 

Çevresel Değişken

İnsanlar aynı proxy'yi birçok kez kullanabilir. Proxy URL'sini tekrar tekrar yazmak yerine, bir çevresel değişken seçeneğine sahiptirler. Bu seçenekle, insanlar bir çevresel değişkene bir proxy URL'si atayabilir ve gerektiğinde sadece bu değişkeni kullanabilirler. 

export HTTP_PROXY='http://webproxy.t'

İstek Modülündeki İşlevler

Python dilinin istek kütüphanesi, get, post, put, delete, patch ve head gibi istek ve yanıtlarla ilgili birden fazla işlevi yerine getirebilir. İşte popüler fonksiyonların sözdizimi. 
  • yanıt = requests.get(url)
  • response = requests.post(url, proxies = proxies)
  • yanıt = requests.head(url)
  • yanıt = requests.options(url)
  • response = requests.put(url,data={“a”:1,args}
  • yanıt = requests.delete(url)
  • response = requests.patch(url,data={“a”:1,args}

Python Request kütüphanesini kullanarak JSON gönderme

Sunucuya bir JSON göndermek python-requests ile de mümkündür. Bu durumda, python requests yöntemli proxy ilk parametre olarak URL'yi ve ikinci parametre olarak JSON'u alır. Sözlüğü python dizelerine dönüştürür.

Örnek Kod:
import requests
proxies = {'https': 'https://proxyscrape.com/', 'http': 'https:/webproxy.to/'}
url = 'http://Yellowpages.com'
response = requests.post(url, json={
"ID": 123,
"Name": "John"))
})
print(f’Status Code: {response.status_code}, Response: {r.json()}") 

Python İstekleri ile Proxy Nasıl Döndürülür

İnsanlar ayrıca anonimliği artırmak için proxy'leri rotasyona tabi tutabilirler. Tüm siteler için uzun süre aynı proxy'yi kullanmak, İnternet Servis Sağlayıcılarının proxy adresinizi izlemesine ve yasaklamasına yardımcı olabilir. İnsanlar bu IP yasaklarıyla başa çıkmak için dönüşümlü bir modelde birden fazla proxy sunucusu kullanmayı tercih ediyor. Bir proxy havuzları vardır ve sistem dönüşümlü olarak havuzdan yeni bir proxy atar. 

Proxy'yi python istekleri ile döndürmenin ilk adımı, requests, Beautiful soap ve choice gibi gerekli kütüphaneleri içe aktarmaktır. 

Bu rotasyonel proxy'yi python-requests ile kullanmak için, bunları veya URL'lerini kullanmak üzere yapılandırmamız gerekir. Proxyscrape tüm kategorilerde ücretli ve ücretsiz proxy'ler sağlar. İnsanlar her türden ve konumdan konut, veri merkezli ve özel proxy'leri kullanabilir. 

ipaddresses = [" proxyscrape.com:2000", "proxyscrape.com:2010", "proxyscrape.com:2100", "proxyscrape.com 2500"]

Daha sonra kullanıcıların istek türü, URL ve **kwargs gibi üç parametreye sahip bir 'proxy isteği' yöntemi oluşturması gerekir.

def proxy_request(get_proxy,http://webproxy.to/,**kwargs):

Bu 'proxy isteği' yöntemi içinde, proxy istek yöntemleri için proxy sözlüğünü bir yanıt olarak döndürün. Burada, kwargs değerleri iletmek için bir argümandır. 

Bu yöntem, çıkarılan yanıtı proxy çıkarma işlemini kolaylaştıran bir Beautiful Soap nesnesine dönüştürmek için belirli bir URL'den proxy adreslerini çıkarır. 

random.radint(0,len(ipaddresses)-1)

Ardından, 'soap' nesne proxy'leri listesinden rastgele bir proxy adresi oluşturmak için 'soap' kütüphanesini kullanan bir 'proxy' değişkeni oluşturun.

proxy = random.radint(0,len(ipaddresses)-1)

proxies = {“http” : ipaddresses(proxy), “https” : ipaddresses(proxy)}

response = requests.get(getproxy, url, proxies = proxies, timeout=5, **kwargs)

print(currentproxy:{proxy[‘https’]}”)

Örnek kod
import requests
import BeautifulSoap
import choice
ipaddresses = [“ proxyscrape.com:2000”, “proxyscrape.com:2010 ”, “proxyscrape.com:2100 ”, “proxyscrape.com 2500”]
def proxy_request(get_proxy,http://webproxy.to/,**kwargs):
 while True:
  proxy = random.radint(0,len(ipaddresses)-1)
   proxies = {“http” : ipaddresses(proxy), “https” : ipaddresses(proxy)}
   response = requests.get(getproxy, url, proxies = proxies, timeout=5, **kwargs)
   print(currentproxy:{proxy[‘https’]}”)
  break
 return response
Önerilen Okumalar:

Sıkça Sorulan Sorular

1. Python istekleri ile Proxy nedir?
İstemci tarafından gelen python istekleri, kullanıcının gerçek kimliğini gizlemek için proxy adresi ile eklenebilir. Böylece istekler sunucuya proxy adresi ile ulaşacaktır.
2. Neden python istekleri ile proxy kullanılmalı?
Python istekleri ile proxy kullanmak, tüm kazıyıcıların genellikle karşılaşacağı IP blokları ve coğrafi bloklar gibi kısıtlamaların üstesinden gelmenize yardımcı olabilir.
3. Proxy kimlik doğrulaması nedir?
Proxy kullanıcıları, bir kullanıcı adı ve parola ekleyerek proxy'lere kimlik doğrulama faktörlerini de dahil edebilir. response = requests.get(url, auth=('user', 'pass'))

Sonuç

Bu makalede, python programlama dilinde HTTP isteklerinin yanı sıra HTTP isteği göndermek için gerekli kütüphaneler, modüller ve fonksiyonlar ele alınmıştır. İstek modülünü içe aktarabilir ve gereksinimlerinize göre GET, POST, PATCH ve PUT yöntemlerini kullanabilirsiniz. Anonimlik, hız ve kazıma yetenekleri gibi proxy özelliklerinden yararlanmak istiyorsanız python'daki proxy'ye odaklanabilirsiniz. Kullanıcılar ayrıca proxy havuzlarını kullanabilir ve güvenliği artırmak için bir proxy isteği ile dönüşümlü olarak proxy atayabilir.