Verwendung von ChatGPT3 als Data Engineer

Dec 25 2022
Die Welt ist ziemlich verrückt nach ChatGPT3, während ich skeptisch war, ob es für alltägliche Data-Engineering-Anwendungsfälle nützlich ist, was sich in den letzten Wochen schnell geändert hat. Ich habe nicht nur damit begonnen, es zu verwenden, sondern mir auch zuerst ChatGPT vor Google angesehen.

Die Welt ist ziemlich verrückt nach ChatGPT3, während ich skeptisch war, ob es für alltägliche Data-Engineering-Anwendungsfälle nützlich ist, was sich in den letzten Wochen schnell geändert hat. Ich habe nicht nur damit begonnen, es zu verwenden, sondern mir auch zuerst ChatGPT vor Google angesehen.

Eines der größten Probleme, die ich hatte, als ich ChatGPT3 verwendete, war, dass ich nicht einmal wusste, wo ich anfangen sollte und wofür ich es verwenden kann. Hier sind einige der wirklich hilfreichen Anwendungsfälle, die ich gefunden habe und die einige von Ihnen dazu bringen könnten, es regelmäßig zu verwenden.

Boilerplate-Code bauen

Manchmal wissen Sie, was Sie tun müssen, aber es wäre einfach viel hilfreicher, einen Ausgangspunkt oder einen Boilerplate-Code zu haben, an dem Sie arbeiten können. Sie können ChatGPT3 jetzt einfach erklären, was Sie zu tun versuchen, und es wird einen Boilerplate-Code einrichten, den Sie verwenden können. Ich finde das super cool und praktisch.

(der Code geht weiter, ich habe ihn nur abgeschnitten)

Fügen Sie Ihrem Code Kommentare hinzu

Ja, es hat sich bewährt, Kommentare zu Ihrem Code hinzuzufügen, aber manchmal sind Sie einfach im Fluss und hören nicht auf, Kommentare hinzuzufügen.

Eine coole Sache, die ich bei ChatGPT gefunden habe, ist die Möglichkeit, Kommentare zu Ihrem Code hinzuzufügen.
Hier ist ein Beispiel für ein Skript, das ich vor langer Zeit geschrieben hatte, um Text ohne Kommentare aus PDF-Dateien zu entfernen. Ich habe überprüft, ob ChatGPT Kommentare hinzufügen kann, und es hat einen viel besseren Job gemacht, als ich es wahrscheinlich getan hätte.

PS: Sie können sich auch einen völlig neuen Code erklären lassen, wenn Sie versuchen, die Arbeit einer anderen Person zu verstehen, zu der es keine Kommentare gibt.

Debuggen Sie grundlegende Fehler in Ihren Skripts

Hassen Sie es, das eine lästige kleine Komma zu finden, das Sie in Ihrem SQL übersehen haben und das einen Syntaxfehler verursacht? Nun, ChatGPT hat Sie abgedeckt. Meine Eingabeabfrage unten hatte ein fehlendes Komma am Ende einer der Spalten und ChatGPT hilft dabei, herauszufinden, was falsch ist und was geändert werden muss.

Konvertieren Sie Code aus einer anderen Sprache in die Sprache, in der Sie entwickeln möchten

Oftmals sucht man nach einer Lösung und findet genau das, was man braucht … in einer anderen Sprache. Oder es gibt eine Codebasis in Ihrem Unternehmen, die Sie in eine andere Sprache migrieren möchten. Angesichts der Tatsache, dass ein Großteil der Syntax, der Bibliotheken und der Formatierung von einer Sprache zur anderen so unterschiedlich ist, kann die Umstellung des benötigten Codes eine echte Qual sein.
ChatGPT leistet hervorragende Arbeit, um Ihnen bei diesem Übergang zu helfen.

Einfach nachfragen —

Konvertieren Sie diesen Code in {insert language you want to convert to} –
{Insert original code here}

Dies sollte Ihnen zumindest einen Ausgangspunkt geben, um mit dem Übergang zu beginnen.

Beispielabfrage an ChatGPT —

In Scala umwandeln —

import sys
from awsglue.transforms import *
from awsglue.utils import getResolvedOptions
from pyspark.context import SparkContext
from awsglue.context import GlueContext
from awsglue.job import Job

args = getResolvedOptions(sys.argv, ['JOB_NAME'])

sc = SparkContext()
glueContext = GlueContext(sc)
spark = glueContext.spark_session
job = Job(glueContext)
job.init(args['JOB_NAME'], args)

inputGDF = glueContext.create_dynamic_frame_from_options(connection_type = "s3", connection_options = {"paths": ["s3://test-bucket-glue/testing-csv"]}, format = "csv")

outputGDF = glueContext.write_dynamic_frame.\
            from_options(frame = inputGDF,\
         connection_type = "s3", \
        connection_options = {"path": "s3://test-bucket-glue/testing-output"},\
         format = "parquet")

Hinweis – Ich würde den Code nicht als die absolute Wahrheit ansehen. Testen Sie es auf jeden Fall und stellen Sie sicher, dass alles funktioniert. ChatGPT-Hilfe beim Einrichten eines Boilerplate-Codes, an dem Sie arbeiten können.

Prozessflussdiagramm-Ersteller

Manchmal, wenn Sie einen Prozess einrichten und möchten, dass ein schnelles Flussdiagramm ihn darstellt, können Sie ein ausgefallenes erhalten, indem Sie es selbst auf Draw.io erstellen, oder Sie können ChatGPT den Prozess erklären, und es kann ein schnelles Ergebnis liefern Diagramm für Sie. (Allerdings im Textformat)

Alle diese Anwendungsfälle ergänzen die grundlegenden Fragen und Antworten, die Sie mit ChatGPT genau wie mit Google/StackOverflow durchführen können.
Ich würde gerne einige der anderen Möglichkeiten kennenlernen, wie jeder ChatGPT3 verwendet. Ich bin wirklich der Meinung, dass die Verwendung dieses Tools das Leben als Entwickler einfacher macht und uns hilft, uns mehr auf Kreativität und das Erstellen von Lösungen zu konzentrieren, anstatt uns auf einige der langweiligen und monotonen, sich wiederholenden Codearbeiten zu konzentrieren, die automatisiert werden können.