Problem podczas wykonywania skryptu w Pythonie na funkcji AWS Lambda

Aug 26 2020

Próbowałem uruchomić poniższy skrypt na AWS Lambda, ale niestety nie działa on pomyślnie. Czy ktoś może mi pomóc w uzyskaniu tej poprawki lub poprawieniu mnie, jeśli jest problem ze skryptem, który wymaga pewnych zmian, wykonując go z Lambda?

#!/usr/bin/env python3
import boto3
client = boto3.client('athena')
def run_query(query, database, s3_output):
    response = client.start_query_execution(
        QueryString=query,
        QueryExecutionContext={
            'Database': 'database'
            },
        ResultConfiguration={
            'OutputLocation': s3_output,
            }
        )
    print('Execution ID: ' + response['QueryExecutionId'])
    return response     
  
#Athena configuration
s3_input = 's3://smathena/cf-ant-prod/'
s3_ouput = 's3://smathena/athenatest/'
database = 's3_accesslog'
table = 'test_output1'

#Athena database and table definition
create_database = "CREATE DATABASE IF NOT EXISTS %s;" % (database)
delete_table = "drop table %s.%s;" % ( database, table )
create_table = \
  """CREATE EXTERNAL TABLE IF NOT EXISTS %s.%s (
  `Date` DATE,
   ScContentLen BIGINT,
   ScRangeStart BIGINT,
   ScRangeEnd BIGINT
   )
   ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
   LOCATION '%s'
   TBLPROPERTIES ('skip.header.line.count' = '2');""" % ( database, table, s3_input )

#Query definitions
query_1 = "SELECT * FROM %s.%s where CAST(status AS VARCHAR) like '404';" % (database, table)

#Execute all queries
queries = [ create_database, delete_table, create_table, query_1 ]
for q in queries:
   print("Executing query: %s" % (q))
   res = 'run_query(q, database, s3_ouput)'

Błąd podczas testowania na AWS Lambda:

  Response:
{
  "errorMessage": "run_query() missing 1 required positional argument: 's3_output'",
  "errorType": "TypeError",
  "stackTrace": [
    "  File \"/var/runtime/bootstrap.py\", line 131, in handle_event_request\n    response = request_handler(event, lambda_context)\n"
  ]
}

Identyfikator żądania: „2cb2175c-8838-470d-a8dd-efdf4c051312”

Dzienniki funkcji: START RequestId: 2cb2175c-8838-470d-a8dd-efdf4c051312 Wersja: $ LATEST [ERROR] TypeError: run_query () brak 1 wymaganego argumentu pozycyjnego: 's3_output' Traceback (ostatnie wywołanie ostatnio): Plik "/ var / runtime /bootstrap.py ", wiersz 131, w handle_event_request response = request_handler (event, lambda_context) END RequestId: 2cb2175c-8838-470d-a8dd-efdf4c051312

import boto3
client = boto3.client('athena')
def run_query(event, context):
    response = client.start_query_execution(
        QueryString=query,
        QueryExecutionContext={
            'Database': 'database'
            },
        ResultConfiguration={
            'OutputLocation': s3_output,
            }
        )
    print('Execution ID: ' + response['QueryExecutionId'])
    return event  

Otrzymuję poniższy błąd:

START RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d Wersja: $ LATEST [BŁĄD] NameError: nazwa 's3_output' nie jest zdefiniowana Traceback (ostatnie połączenie): Plik "/var/task/lambda_function.py", wiersz 12 , w run_query 'OutputLocation': s3_output, END RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d REPORT RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d Czas trwania: 14,30 ms Billed Memory Duration: 100 MB Billed Memory Duration: 100 MB : 75 MB Czas trwania inicjalizacji: 649.66 ms

Odpowiedzi

JohnRotenstein Aug 27 2020 at 11:06

To jest ten sam problem, co w Twoim poprzednim pytaniu: Błąd podczas uruchamiania skryptu Pythona na AWS Lambda - Stack Overflow

Funkcja AWS Lambda ma następujący format:

import boto3

def lambda_handler(event, context):
    
    print(event)
    print(context)

Gdy funkcja Lambda jest wywoływana, wywołuje lambda_handler()funkcję. Nazwę tej funkcji można zmienić w razie potrzeby, ale zawsze będzie ona otrzymywać te dwa przychodzące parametry: eventicontext

W zależności od tego, jak wywoływana jest funkcja Lambda, zawartość funkcji eventzawiera informacje, które są „przekazywane” do funkcji Lambda. Na przykład:

  • Jeśli funkcja jest wywoływana z Amazon S3, zawiera nazwę zasobnika i obiektu, który wyzwolił zdarzenie
  • Jeśli funkcja jest wywoływana z Amazon SNS, zawiera wiadomość wysłaną do tematu SNS

Wygląda na to, że chcesz użyć trzech wartości w funkcji: query, database, s3_output

Wartości te będą musiały zostać przekazane do funkcji Lambda za pomocą dowolnego sposobu, w jaki funkcja Lambda jest wywoływana. Funkcja może następnie pobrać te wartości za pomocą eventparametru.