การบันทึกไฟล์ CSV ใน Foundry Transforms

Question

เป็นไปได้ไหมที่จะบันทึกไฟล์ CSV ใน Foundry Code Repositories จะแปลงภาษา-python แทนที่จะบันทึกในรูปแบบ Parquet

Answer 1

ใช่สามารถทำได้โดยระบุรูปแบบชุดข้อมูลเอาต์พุตเมื่อเรียกใช้write_datasetฟังก์ชัน คุณสามารถรวมตัวเลือกการบีบอัดได้เช่นกันเมื่อโทรออก ตัวอย่างเช่น:

@transform(
    my_input = Input('/path/to/input/dataset'),
    my_output = Output('/path/to/output/dataset')
)
def compute_function(my_input, my_output):
    my_output.write_dataframe(
        my_input.dataframe(),
        output_format = "csv",
        options = {
            "compression": "gzip"
        }
    )