Atualmente estou usando API básica para extrair logs de um fornecedor de segurança em nuvem, mas não é um processo muito limpo. Gostaria de fazer a transição para o serviço de streaming de eventos (AMQPS) que eles fornecem.
Já configurei a fila e tenho as informações relevantes do lado da nuvem, mas o problema que estou enfrentando é descobrir a melhor maneira de aceitar esse fluxo e despejá-lo no syslog. Estou utilizando o syslog-ng agora, mas parece que ele só pode enviar para o RabbitMQ e não aceitá-lo.
Atualmente estou olhando para o Pika para ver se funcionaria para aceitar AMQPS e depois canalizá-lo para um arquivo de log, mas é aí que estou tendo alguns problemas. Qualquer ajuda seria muito apreciada.
Obrigado
Responder1
Encontrei uma página no github feita por walbit (https://github.com/walbit/AMP_API), que parece estar funcionando corretamente para mim. Estou usando o "consume_event_stream_by_name.py" e ele despeja toda a entrada no padrão. Fiz uma pequena modificação para enviá-lo também para o syslog e agora o syslog-ng está aceitando.
Meu único problema no momento com este código é que ele parece estar expirando de vez em quando ou morrendo em geral se as conexões não estiverem chegando. Então, preciso descobrir o que está acontecendo com isso.
#!/usr/bin/env python
import argparse
import pika
import pprint
import requests
import sys
import logging
import logging.handlers
# YOU NEED TO CREATE AN auth.py FILE WITH CLIENT_ID AND API_KEY STRINGS
from auth import CLIENT_ID, API_KEY
parser = argparse.ArgumentParser()
parser.add_argument('event_stream_name', metavar='event_stream_name',
nargs=1, help='event stream name')
parser.parse_args()
event_stream_name = parser.parse_args().event_stream_name[0]
api_endpoint = 'https://api.amp.cisco.com/v1/event_streams'
session = requests.Session()
session.auth = (CLIENT_ID, API_KEY)
event_streams = session.get(api_endpoint).json()['data']
event_stream = {}
for e in event_streams:
if e['name'] is event_stream_name:
event_stream = e
amqp_url = 'amqps://{user_name}:{password}@{host}:{port}'.format(
**e['amqp_credentials'])
queue = e['amqp_credentials']['queue_name']
parameters = pika.URLParameters(amqp_url)
connection = pika.BlockingConnection(parameters)
channel = connection.channel()
parameters = pika.URLParameters(amqp_url)
connection = pika.BlockingConnection(parameters)
channel = connection.channel()
my_logger = logging.getLogger('MyLogger')
my_logger.setLevel(logging.INFO)
handler = logging.handlers.SysLogHandler(address = '/dev/log')
my_logger.addHandler(handler)
def callback(ch, method, properties, body):
# print(" [x] Received meth:\t%r" % method)
# print(" [x] Received prop:\t%r" % properties)
# print(" [x] Received body:\t%r" % body)
# print(body)
my_logger.info('Fireamp: ' + body)
channel.basic_consume(callback, queue, no_ack=True)
print(" [*] Connecting to:\t%r" % amqp_url)
print(" [*] Waiting for messages. To exit press CTRL+C")
channel.start_consuming()