運用環境での「接続拒否」エラーを阻止する

運用環境での「接続拒否」エラーを阻止する

最近、運用中の Web サイトをクロールするerror: [Errno 111] Connection refused際にエラーが表示されるようになりましたhttp://yandex.com/bots。サイトがクロールされることは構いませんが、このようなメールは受け取りたくありません。

私の直感では、私の Web サイトでは が必要なのにhttp、ポートを使用しているために拒否されているのではないかと思います。この場合、拒否されているのは良いことです。ただし、なぜこのようなエラーが発生するのかはわかりません (先週から 1 日に 4 ~ 5 回)。80https

これらのエラーを止める方法について何か考えはありますか? 私は Python 2.7、Heroku、Cloudflare を使用しています。

Internal Server Error: /team/46/
Traceback (most recent call last):
  File "/app/.heroku/python/lib/python2.7/site-packages/django/core/handlers/base.py", line 132, in get_response
    response = wrapped_callback(request, *callback_args, **callback_kwargs)
  File "/app/.heroku/python/lib/python2.7/site-packages/newrelic/hooks/framework_django.py", line 544, in wrapper
    return wrapped(*args, **kwargs)
  File "/app/wehealth/wehealth/utils.py", line 121, in __render_with
    d = f(request, *args, **kwargs)
  File "/app/wehealth/users/views.py", line 737, in team
    team = get_group(team, team_id, team_key)
  File "/app/wehealth/wehealth/utils.py", line 770, in get_group
    group = get_group_goals(group)
  File "/app/wehealth/wehealth/utils.py", line 786, in get_group_goals
    createGoal2Group.delay(group['info'], g)
  File "/app/.heroku/python/lib/python2.7/site-packages/celery/app/task.py", line 453, in delay
    return self.apply_async(args, kwargs)
  File "/app/.heroku/python/lib/python2.7/site-packages/celery/app/task.py", line 565, in apply_async
    **dict(self._get_exec_options(), **options)
  File "/app/.heroku/python/lib/python2.7/site-packages/celery/app/base.py", line 354, in send_task
    reply_to=reply_to or self.oid, **options
  File "/app/.heroku/python/lib/python2.7/site-packages/celery/app/amqp.py", line 305, in publish_task
    **kwargs
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/messaging.py", line 172, in publish
    routing_key, mandatory, immediate, exchange, declare)
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/connection.py", line 470, in _ensured
    interval_max)
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/connection.py", line 382, in ensure_connection
    interval_start, interval_step, interval_max, callback)
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/utils/__init__.py", line 246, in retry_over_time
    return fun(*args, **kwargs)
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/connection.py", line 250, in connect
    return self.connection
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/connection.py", line 756, in connection
    self._connection = self._establish_connection()
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/connection.py", line 711, in _establish_connection
    conn = self.transport.establish_connection()
  File "/app/.heroku/python/lib/python2.7/site-packages/kombu/transport/pyamqp.py", line 116, in establish_connection
    conn = self.Connection(**opts)
  File "/app/.heroku/python/lib/python2.7/site-packages/amqp/connection.py", line 165, in __init__
    self.transport = self.Transport(host, connect_timeout, ssl)
  File "/app/.heroku/python/lib/python2.7/site-packages/amqp/connection.py", line 186, in Transport
    return create_transport(host, connect_timeout, ssl)
  File "/app/.heroku/python/lib/python2.7/site-packages/amqp/transport.py", line 299, in create_transport
    return TCPTransport(host, connect_timeout)
  File "/app/.heroku/python/lib/python2.7/site-packages/amqp/transport.py", line 95, in __init__
    raise socket.error(last_err)
error: [Errno 111] Connection refused

Request repr(): 
<WSGIRequest
path:/team/46/,
GET:<QueryDict: {}>,
POST:<QueryDict: {}>,
COOKIES:{},
META:{u'CSRF_COOKIE': u'y8sR9HccmrzW8RaYDQwmalvKiRl2E6DK',
 'HTTP_ACCEPT': '*/*',
 'HTTP_ACCEPT_ENCODING': 'gzip,deflate',
 'HTTP_CONNECTION': 'close',
 'HTTP_CONNECT_TIME': '0',
 'HTTP_FROM': '[email protected]',
 'HTTP_HOST': 'wehealth.herokuapp.com',
 'HTTP_TOTAL_ROUTE_TIME': '0',
 'HTTP_USER_AGENT': 'Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)',
 'HTTP_VIA': '1.1 vegur',
 'HTTP_X_FORWARDED_FOR': '77.88.47.24, 10.33.252.175',
 'HTTP_X_FORWARDED_PORT': '80',
 'HTTP_X_FORWARDED_PROTO': 'http',
 'HTTP_X_REQUEST_ID': 'a0a5b07f-b6be-40ec-b04a-81690188d0b4',
 'HTTP_X_REQUEST_START': '1558372953380',
 'PATH_INFO': u'/team/46/',
 'QUERY_STRING': '',
 'REMOTE_ADDR': 'localhost',
 'REQUEST_METHOD': 'GET',
 'SCRIPT_NAME': u'',
 'SERVER_NAME': 'unix',
 'SERVER_PORT': '/tmp/nginx.socket',
 'SERVER_PROTOCOL': 'HTTP/1.0',
 'SERVER_SOFTWARE': 'waitress',
 'wsgi.errors': <open file '<stderr>', mode 'w' at 0x7fc4b5d041e0>,
 'wsgi.file_wrapper': <class 'waitress.buffers.ReadOnlyFileBasedBuffer'>,
 'wsgi.input': <newrelic.api.wsgi_application._WSGIInputWrapper object at 0x7fc4857e7310>,
 'wsgi.multiprocess': False,
 'wsgi.multithread': True,
 'wsgi.run_once': False,
 'wsgi.url_scheme': 'http',
 'wsgi.version': (1, 0)}>

アップデート 私のアプリがエラーの原因となっているようです。エラーに関連する非同期タスクのコードは次のとおりです。

@shared_task
def createGoal2Group(group, goal):
    # "Create a Goal2Group link if user completes goal for first time"
    goal2group = Goal2Group.objects.get_or_create(group=group, goal=goal)

答え1

いいえ、これらはあなたが想像しているのと逆の方向に働きます。「接続が拒否されました」と表示されるのは、あなた別のサーバーに接続します。

(サーバーがHTTP接続を受け入れない場合は、クライアント(つまり Yandex ボット) はサーバーから「接続拒否」エラーを受け取ることになります。ないウェブアプリです。さらに、ウェブアプリはそもそも接続を処理しません。これは Heroku ウェブサーバーの役割です。

Python スタックトレースを詳しく見てみましょう。'celery' 非同期タスク パッケージから 'amqp' メッセージング クライアントに進みwehealth.utils.get_group()、最終的に amqp.transport 内からエラーが報告されます。言い換えると、アプリが AMQP サーバーにアクセスできません。

関連情報