Problème lors de l'exécution du script Python sur la fonction AWS Lambda

Aug 26 2020

J'ai essayé d'exécuter le script ci-dessous sur AWS Lambda, mais malheureusement, il ne s'exécute pas correctement. Quelqu'un peut-il m'aider à obtenir ce correctif ou me corriger s'il y a un problème avec le script qui nécessite une modification en l'exécutant à partir de Lambda?

#!/usr/bin/env python3
import boto3
client = boto3.client('athena')
def run_query(query, database, s3_output):
    response = client.start_query_execution(
        QueryString=query,
        QueryExecutionContext={
            'Database': 'database'
            },
        ResultConfiguration={
            'OutputLocation': s3_output,
            }
        )
    print('Execution ID: ' + response['QueryExecutionId'])
    return response     
  
#Athena configuration
s3_input = 's3://smathena/cf-ant-prod/'
s3_ouput = 's3://smathena/athenatest/'
database = 's3_accesslog'
table = 'test_output1'

#Athena database and table definition
create_database = "CREATE DATABASE IF NOT EXISTS %s;" % (database)
delete_table = "drop table %s.%s;" % ( database, table )
create_table = \
  """CREATE EXTERNAL TABLE IF NOT EXISTS %s.%s (
  `Date` DATE,
   ScContentLen BIGINT,
   ScRangeStart BIGINT,
   ScRangeEnd BIGINT
   )
   ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'
   LOCATION '%s'
   TBLPROPERTIES ('skip.header.line.count' = '2');""" % ( database, table, s3_input )

#Query definitions
query_1 = "SELECT * FROM %s.%s where CAST(status AS VARCHAR) like '404';" % (database, table)

#Execute all queries
queries = [ create_database, delete_table, create_table, query_1 ]
for q in queries:
   print("Executing query: %s" % (q))
   res = 'run_query(q, database, s3_ouput)'

Erreur lors du test sur AWS Lambda:

  Response:
{
  "errorMessage": "run_query() missing 1 required positional argument: 's3_output'",
  "errorType": "TypeError",
  "stackTrace": [
    "  File \"/var/runtime/bootstrap.py\", line 131, in handle_event_request\n    response = request_handler(event, lambda_context)\n"
  ]
}

ID de la demande: "2cb2175c-8838-470d-a8dd-efdf4c051312"

Journaux de fonction: START RequestId: 2cb2175c-8838-470d-a8dd-efdf4c051312 Version: $ LATEST [ERROR] TypeError: run_query () missing 1 argument positionnel requis: 's3_output' Traceback (dernier appel en dernier): File "/ var / runtime /bootstrap.py ", ligne 131, dans handle_event_request response = request_handler (event, lambda_context) END RequestId: 2cb2175c-8838-470d-a8dd-efdf4c051312

import boto3
client = boto3.client('athena')
def run_query(event, context):
    response = client.start_query_execution(
        QueryString=query,
        QueryExecutionContext={
            'Database': 'database'
            },
        ResultConfiguration={
            'OutputLocation': s3_output,
            }
        )
    print('Execution ID: ' + response['QueryExecutionId'])
    return event  

Obtenir l'erreur ci-dessous:

START RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d Version: $ LATEST [ERROR] NameError: le nom 's3_output' n'est pas défini Traceback (dernier appel en dernier): Fichier "/var/task/lambda_function.py", ligne 12 , dans run_query 'OutputLocation': s3_output, END RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d REPORT RequestId: 55dbf703-f30c-4106-8873-c685f3d06e4d Durée: 14,30 ms Durée de facturation maximale: 128 Mo de mémoire utilisée : 75 Mo Durée de l'initialisation: 649,66 ms

Réponses

JohnRotenstein Aug 27 2020 at 11:06

C'est le même problème que dans votre question précédente: Erreur lors de l'exécution d'un script python sur AWS Lambda - Stack Overflow

Une fonction AWS Lambda a ce format:

import boto3

def lambda_handler(event, context):
    
    print(event)
    print(context)

Lorsque la fonction Lambda est appelée, elle appelle la lambda_handler()fonction. Le nom de cette fonction peut être changé si vous le souhaitez, mais elle recevra toujours ces deux paramètres entrants: eventetcontext

En fonction de la manière dont la fonction Lambda est appelée, le contenu de eventcontient des informations qui sont "transmises" à la fonction Lambda. Par exemple:

  • Si la fonction est appelée depuis Amazon S3, elle contient le nom du compartiment et de l'objet qui ont déclenché l'événement
  • Si la fonction est appelée depuis Amazon SNS, elle contient le message qui a été envoyé à la rubrique SNS

Il semble que vous souhaitiez utiliser trois valeurs dans la fonction: query, database, s3_output

Ces valeurs devront être transmises à la fonction Lambda par quelque moyen que ce soit la fonction Lambda est appelée. La fonction peut ensuite récupérer ces valeurs via le eventparamètre.