web-dev-qa-db-fra.com

Comment se connecter à un VPN / proxy en Python?

J'essaie de gratter certaines pages qui se trouvent sur un site Web, mais pour afficher les pages, je dois être connecté à un VPN. Ma configuration est la suivante:

Je veux exécuter un script sur pythonanywhere qui se connecte via le VPN afin que le trafic semble provenir d'Australie.

La réponse la plus proche que j'ai trouvée jusqu'à présent est:

JSoup sur VPN/proxy

pythonvpnpythonanywherepia
12
Liam Flynn

Je vois que https://www.privateinternetaccess.com/ a l'option d'utiliser le proxy SOCKS5. Si vous utilisez le module de requêtes pour le scraping, vous pouvez utiliser SOCKS5 comme ça:

pip install -U requests[socks]

et dans le script:

import requests
proxies = {'http': 'socks5://user:pass@Host:port',
           'https': 'socks5://user:pass@Host:port'}

resp = requests.get('http://example.com', proxies=proxies )
14
Alexey Smirnov

Vous devez être précis sur ce que vous voulez. Un proxy est différent d'un VPN.

Un proxy est plus facile à créer en Python.

Voici le code:

import socket
import select
import time
import sys

# Changing the buffer_size and delay, you can improve the speed and bandwidth.
# But when buffer get to high or delay go too down, you can broke things
buffer_size = 4096
delay = 0.0001
forward_to = ('smtp.zaz.ufsk.br', 25)

class Forward:
    def __init__(self):
        self.forward = socket.socket(socket.AF_INET, socket.SOCK_STREAM)

    def start(self, Host, port):
        try:
            self.forward.connect((Host, port))
            return self.forward
        except Exception, e:
            print e
            return False

class TheServer:
    input_list = []
    channel = {}

    def __init__(self, Host, port):
        self.server = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
        self.server.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
        self.server.bind((Host, port))
        self.server.listen(200)

    def main_loop(self):
        self.input_list.append(self.server)
        while 1:
            time.sleep(delay)
            ss = select.select
            inputready, outputready, exceptready = ss(self.input_list, [], [])
            for self.s in inputready:
                if self.s == self.server:
                    self.on_accept()
                    break

                self.data = self.s.recv(buffer_size)
                if len(self.data) == 0:
                    self.on_close()
                    break
                else:
                    self.on_recv()

    def on_accept(self):
        forward = Forward().start(forward_to[0], forward_to[1])
        clientsock, clientaddr = self.server.accept()
        if forward:
            print clientaddr, "has connected"
            self.input_list.append(clientsock)
            self.input_list.append(forward)
            self.channel[clientsock] = forward
            self.channel[forward] = clientsock
        else:
            print "Can't establish connection with remote server.",
            print "Closing connection with client side", clientaddr
            clientsock.close()

    def on_close(self):
        print self.s.getpeername(), "has disconnected"
        #remove objects from input_list
        self.input_list.remove(self.s)
        self.input_list.remove(self.channel[self.s])
        out = self.channel[self.s]
        # close the connection with client
        self.channel[out].close()  # equivalent to do self.s.close()
        # close the connection with remote server
        self.channel[self.s].close()
        # delete both objects from channel dict
        del self.channel[out]
        del self.channel[self.s]

    def on_recv(self):
        data = self.data
        # here we can parse and/or modify the data before send forward
        print data
        self.channel[self.s].send(data)

if __name__ == '__main__':
        server = TheServer('', 9090)
        try:
            server.main_loop()
        except KeyboardInterrupt:
            print "Ctrl C - Stopping server"
            sys.exit(1)

J'espère que vous l'avez trouvé utile ;-)

1
Vin