ChatGPT für ethische Hacker

Hallo zusammen,
wie Sie mich vielleicht kennen oder meine Artikel in der Vergangenheit gelesen haben (zuvor am).https://medium.com/@draganil)Einschließlich anderer Blogging-Quellen, mein Name ist Dragan Ilievski und ich bin seit über 10 Jahren Experte für Cybersicherheit. Ich besitze Pentestiverse, eine Online-Plattform, die Schulungen für Pentester ermöglicht und Sicherheit als Dienstleistung anbietet. Das ist mein Nebenprojekt, an dem ich in meiner Freizeit arbeite.

Ich habe beschlossen, alle meine neuen Artikel weiterhin separat unter Pentestiverse zu schreiben , da meine Follower und Enthusiasten die Fragen normalerweise dort einreichen. Ich möchte mein Wissen und meine Erfahrung schriftlich weitergeben, da es sehr praktisch ist.

Es ist schon eine Weile her, dass ich etwas Neues veröffentlicht habe, aber da viele meiner Follower daran interessiert waren, meine eigene Meinung zu ChatGPT zu hören, ist dies der Artikel, in dem ich darüber diskutieren werde .

Es ist sicherlich wirklich beeindruckend, was OpenAI mit ChatGPT gemacht hat und wie diese Chatbot-basierte KI viele andere Branchen dazu motiviert hat, sich kreativ auszudrücken, viele Derivate zu innovieren und das Tool für die Produktivität zu nutzen. Einige meiner Follower hatten jedoch Bedenken und fragten mich Folgendes:

F: Wird ChatGPT in Zukunft Arbeitsplätze ersetzen oder Menschen verfügbar machen?
A: Ich persönlich glaube nicht, dass ChatGPT Menschen vollständig ersetzen wird, da das Tool noch nicht in der Lage ist, kritisches Denken und erfahrungsbasierte Entscheidungen zu treffen. Die Kernabsicht dieser Tools besteht darin, mehr Innovation, Kreativität und Produktivität zu bieten. Eine der größten Herausforderungen der Welt wird damit mehr oder weniger gelöst sein, da wir nun in der Lage sind, menschenfreundliche Eingaben einzugeben und deduktive, menschenfreundliche Ausgaben zu erhalten, die normalerweise die konkreten Informationen enthalten, die wir über eine Herausforderung oder ein Dilemma benötigen würden im Leben, und so sorgt es für Produktivität, Kreativität und Leistung in allem.

Ich persönlich glaube also, dass ChatGPT einige Dinge ersetzen könnte, die sich leicht automatisieren lassen, aber es wird auch dazu führen, dass die Experten auf dem Markt teurer werden, da sie jetzt eine bessere Leistung und konkrete Informationen hätten – was bedeutet: wenn ich dazu in der Lage bin Wenn ich mehr Dinge in kürzerer Zeit erledige, liefere ich mehr und muss daher auch mehr Geld verdienen. Von der Seite des ethischen Hackings und aller ähnlichen IT-Positionen sind wir völlig sicher, denn keine KI kann so denken wie wir.

F: Können ChatGPT-Einschränkungen umgangen werden?

A: Leider ja, es heißt sofortige Injektion. Aus Sicherheitsgründen werde ich nicht im Detail erklären, wie das funktioniert, aber jedes System, das auf KI-Chat-basierten Modellen basiert, ist mehr oder weniger anfällig für einige Injektionen, die die Einschränkung umgehen und die möglicherweise benötigten Informationen liefern könnten bösartig oder sogar gefährlich. Ich glaube jedoch, dass OpenAI-Teams wirklich hart daran arbeiten, die richtigen Grenzen zu setzen, weil sie wollen, dass wir die richtigen und sicheren Informationen bereitstellen und die Menschheit vor Informationen schützen, die schädlich sind oder nicht öffentlich geteilt werden sollten.

F: Glauben Sie, dass ChatGPT-Entwickler unsere Chat-Gespräche lesen?

A: Natürlich sind sie das! Ich glaube, dass es in der App einen Haftungsausschluss gab, der Sie darauf hinweist, keine personenbezogenen Daten zu verwenden, da Moderatoren die Chat-Konversation möglicherweise mitlesen könnten.

Aber sie MÜSSEN sie nur lesen, weil sie neue Grenzen setzen und einige Antworten zensieren sowie Anpassungen und Verbesserungen vornehmen müssen. Ich glaube, dass ChatGPT im Laufe der Zeit feiner abgestimmt und ausgereifter sein wird, um sicher mit ihm interagieren zu können, und das ist das Beste, was wir bei der Nachahmung des Bewusstseins erreicht haben.

F: Kann mit ChatGPT über eine API interagiert werden?

A: Ich habe es persönlich ausprobiert, es lässt sich sicherlich sehr einfach integrieren, aber ich denke, dass es ein kostenpflichtiger Dienst wäre.

F: Wird OpenAI die App ohne Einschränkungen nutzen können?

A: Aus meiner Sicht ist es logisch anzunehmen, dass es sich um ihr Produkt handelt und sie es unbegrenzt nutzen können, denn diese setzen in erster Linie die Grenzen. Das trainierte Modell basiert auf GPT, verwendet normalerweise Da-Vinci und kann auch viele vertrauliche Informationen enthalten, diese Informationen können jedoch auch falsch oder irreführend sein.

Das Problem mit der Überprüfung und Validierung von Fakten besteht selbst für OpenAI-Leute immer noch. Was sie also tun müssen, ist, die Offenlegung potenziell falscher Informationen für die Öffentlichkeit zu begrenzen. Wie? Mit Einstellungsbeschränkungen und einer gewissen Zensur oder einer Neudefinition der Antworten, um objektiver statt subjektiv zu sein.

Auf der OpenAI-Website erklären sie, was sie getan haben:

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

A: Du solltest es versuchen! Es ist sicherlich nicht einfach, aber es lohnt sich. Dies war die Antwort in meinem Fall:

Fazit: ChatGPT und ähnliche Technologien werden die Wahrnehmung darüber verändern, wie Informationen in unserer Welt angefordert, konsumiert und genutzt werden. Ich bin mir immer noch nicht sicher, ob das eine gute oder eine schlechte Sache ist, da unsere Welt in mancher Hinsicht bereits chaotisch ist.

Die größte Frage ist: Werden diese Chatbot-Technologien zur menschlichen Verbesserung, zentraler Bildung, Produktivität, Kreativität und Entwicklung beitragen oder werden sie die Menschheit von bestimmten Informationsquellen abhängig machen, sodass die Menschen mit Informationen überschwemmt werden? Ihr Gehirn ist nicht mehr in der Lage, selbst kritisch zu denken und einzigartige Gedanken, Kreativität oder Innovation zu entwickeln? Wir sollten vorsichtig sein, was ChatGPT in unserem Leben ersetzen wird.

Ich werde immer diejenigen befürworten, die ihren Verstand, ihr altmodisches Talent und ihren Ehrgeiz einsetzen und eine eigene Einstellung haben, während die Verwendung von ChatGPT als Nebenberater genutzt werden kann, der Lösungen anbieten oder bei schwierigen Problemen helfen kann -Heben mit Informationen.

Vielen Dank für Ihre Zeit!

Weitere Artikel folgen bald! Aufpassen.
Dragan