ChatGPT pour les hackers éthiques

Bonjour à tous,
Comme vous me connaissez peut-être, ou que vous avez peut-être lu mes articles dans le passé (précédemment surhttps://medium.com/@draganil)y compris d'autres sources de blogs, je m'appelle Dragan Ilievski et je suis un professionnel de la cybersécurité depuis plus de 10 ans et je possède Pentestiverse qui est une plate-forme en ligne qui permet l'éducation des pentesters et fournit la sécurité en tant que service. C'est mon projet parallèle sur lequel je travaille pendant mon temps libre.

J'ai décidé de continuer à écrire tous mes nouveaux articles séparément sous Pentestivers puisque mes followers et passionnés y soumettent généralement les questions. Je veux partager mes connaissances et mon expérience sous forme écrite car c'est vraiment pratique.

Cela fait un moment que je n'ai pas publié quelque chose de nouveau, mais comme beaucoup de mes abonnés étaient intéressés à entendre mon propre point de vue sur ChatGPT, c'est l'article dans lequel je vais en discuter .

C'est sûrement vraiment impressionnant ce qu'OpenAI a fait avec ChatGPT et comment cette IA basée sur le chatbot a motivé de nombreuses autres industries à exprimer de manière créative et à innover de nombreux dérivés et à utiliser l'outil pour la productivité. Cependant, certains de mes abonnés avaient des inquiétudes, alors ils m'ont demandé ce qui suit :

Q : ChatGPT remplacera-t-il des emplois ou rendra-t-il des personnes jetables à l'avenir ?
R : Personnellement, je ne crois pas que ChatGPT remplacera complètement les gens, car l'outil n'est pas encore capable de faire preuve d'esprit critique et de prendre des décisions basées sur l'expérience. L'intention principale de ces outils est d'offrir plus d'innovation, de créativité et de productivité. L'un des plus grands défis mondiaux sera plus ou moins résolu avec cela, puisque nous sommes maintenant en mesure d'entrer des entrées conviviales pour l'homme et d'obtenir une sortie déductive conviviale pour l'homme qui contient généralement les informations concrètes dont nous aurions besoin sur un défi, un dilemme dans la vie, et c'est ainsi qu'il nous fournit la productivité, la créativité et la performance en tout.

Donc, personnellement, je pense que ChatGPT pourrait remplacer certaines choses pour être facilement automatisées, mais cela rendra également les experts plus chers sur le marché, car ils auraient désormais de meilleures performances, des informations concrètes — ce qui signifie : si je suis capable de faire plus de choses en moins de temps, je livre plus, donc j'ai aussi besoin de gagner plus d'argent. Du côté du piratage éthique et de tous les postes informatiques similaires, nous sommes complètement en sécurité, car aucune IA ne peut penser comme nous.

Q : Les limitations de ChatGPT peuvent-elles être contournées ?

R : Malheureusement, oui, cela s'appelle une injection rapide. Pour des raisons de sécurité, je n'expliquerai pas comment cela fonctionne en profondeur, mais chaque système basé sur des modèles basés sur le chat IA est plus ou moins vulnérable à certaines injections qui pourraient contourner la limitation et fournir les informations qui pourraient être malicieux voire dangereux. Cependant, je crois que les équipes d'OpenAI travaillent très dur pour fixer les bonnes limites parce qu'elles veulent que nous donnions les informations correctes et sûres et protégions l'humanité des informations qui nuisent ou qui ne devraient pas être partagées publiquement.

Q : Pensez-vous que les développeurs de ChatGPT lisent nos conversations de chat ?

R : Bien sûr qu'ils le sont ! Je pense qu'ils avaient une clause de non-responsabilité dans l'application, qui vous informe de ne pas utiliser de données personnelles car les modérateurs pourraient lire la conversation de chat.

Mais ils ONT BESOIN de les lire uniquement parce qu'ils doivent établir de nouvelles limites et censurer certaines réponses, et apporter des ajustements et des améliorations. Au fil du temps, je pense que ChatGPT sera plus affiné et mature pour interagir en toute sécurité, et c'est la chose la plus proche que nous ayons obtenue en imitant la conscience.

Q : Peut-on interagir avec ChatGPT via une API ?

R : Je l'ai personnellement essayé, il peut sûrement s'intégrer très facilement mais je pense que ce serait un service payant.

Q : OpenAI pourra-t-il utiliser l'application sans limitation ?

R : De mon point de vue, il est logique de supposer que c'est leur produit et qu'ils pourraient l'utiliser de manière illimitée, car ce sont eux qui fixent les limites en premier lieu. Le modèle formé est basé sur GPT, il utilise généralement da-vinci, et il peut également contenir de nombreuses informations confidentielles, mais ces informations peuvent également être erronées ou trompeuses.

Le problème de la vérification des faits et de la validation existe toujours même pour les gars d'OpenAI, donc ce dont ils ont besoin, c'est de limiter l'exposition d'informations potentiellement erronées au public. Comment? Avec des limites de réglage et une certaine censure, ou en redéfinissant les réponses pour qu'elles soient plus objectives que subjectives.

Sur le site Web d'OpenAI, ils expliquent ce qu'ils ont fait :

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

R : Vous devriez l'essayer ! Ce n'est sûrement pas facile, mais ça vaut le coup. Voici la réponse dans mon cas :

Conclusion : ChatGPT et les technologies similaires changeront la perception de la manière dont les informations seront demandées, consommées et utilisées dans notre monde. Je ne sais toujours pas si c'est une bonne ou une mauvaise chose, car notre monde est déjà désordonné à certains égards.

La plus grande question est : ces technologies de chat-bot contribueront-elles à l'amélioration humaine, à l'éducation centralisée, à la productivité, à la créativité et à l'évolution, ou rendront-elles l'humanité dépendante de certaines sources d'informations, de sorte que les gens seront submergés d'informations et leur cerveau n'est plus capable de sa propre pensée critique et de ses pensées uniques, de sa créativité ou de son innovation ? Nous devons faire attention à ce que ChatGPT remplacera dans nos vies.

Je vais toujours être en faveur de ceux qui utilisent leur cerveau, leur talent et leur ambition de la vieille école, et qui ont leur propre attitude, tandis que l'utilisation de ChatGPT peut être utilisée comme un consultant secondaire qui peut proposer des solutions ou aider dans certains cas lourds. -levage avec information.

Merci pour votre temps!

D'autres articles suivront bientôt ! Prends soin de toi.
Dragan