ChatGPT para Hackers Éticos

Olá a todos,
Como você deve me conhecer, ou você pode ter lido meus artigos no passado (anteriormente emhttps://medium.com/@draganil)incluindo outras fontes de blogs, meu nome é Dragan Ilievski e sou profissional de segurança cibernética há mais de 10 anos e possuo Pentestiverse, uma plataforma online que permite educação para pentesters e fornece segurança como serviço. Este é o meu projeto paralelo no qual estou trabalhando no meu tempo livre.

Decidi continuar escrevendo todos os meus novos artigos separadamente no Pentestiverse , pois meus seguidores e entusiastas costumam enviar as perguntas para lá. Quero compartilhar meu conhecimento e experiência por escrito, pois é muito conveniente.

Já faz um tempo desde que publiquei algo novo, mas como muitos dos meus seguidores estavam interessados ​​em ouvir minhas próprias opiniões sobre o ChatGPT, este é o artigo em que vou discutir isso .

Certamente é realmente impressionante o que a OpenAI fez com o ChatGPT e como essa IA baseada em chatbot motivou muitas outras indústrias a se expressar criativamente e inovar muitos derivados e usar a ferramenta para produtividade. No entanto, alguns dos meus seguidores tinham algumas preocupações, então eles me perguntaram o seguinte:

P: O ChatGPT substituirá empregos ou tornará as pessoas descartáveis ​​no futuro?
R: Eu pessoalmente não acredito que o ChatGPT vá substituir completamente as pessoas porque a ferramenta ainda não é tão capaz de fazer um pensamento crítico e tomar decisões com base na experiência. A principal intenção dessas ferramentas é oferecer mais inovação, criatividade e produtividade. Um dos maiores desafios mundiais será mais ou menos resolvido com isso, já que agora somos capazes de inserir entradas amigáveis ​​​​aos humanos e obter saídas dedutivas amigáveis ​​​​aos humanos que geralmente contêm as informações concretas de que precisaríamos sobre algum desafio, dilema na vida, e é assim que nos proporciona produtividade, criatividade e desempenho em tudo.

Então, pessoalmente, acredito que o ChatGPT pode substituir algumas coisas para serem facilmente automatizadas, mas também fará com que os especialistas fiquem mais caros no mercado, pois agora eles teriam melhor desempenho, informações concretas — ou seja: se eu conseguir faço mais coisas em menos tempo, entrego mais, então também preciso ganhar mais dinheiro. Do lado do Ethical Hacking e de todas as posições de TI semelhantes, estamos completamente seguros, porque nenhuma IA pode pensar como nós.

P: As limitações do ChatGPT podem ser contornadas?

R: Infelizmente sim, é chamada de injeção imediata. Por motivos de segurança, não explicarei como isso funciona em profundidade, mas cada sistema baseado em modelos baseados em bate-papo de IA é mais ou menos vulnerável a algumas injeções que podem contornar a limitação e fornecer as informações que podem ser maliciosos ou mesmo perigosos. No entanto, acredito que as equipes da OpenAI trabalham muito para estabelecer os limites certos porque querem que forneçamos as informações certas e seguras e protejamos a humanidade de informações que prejudiquem ou não devam ser compartilhadas publicamente.

P: Você acha que os desenvolvedores do ChatGPT leem nossas conversas de bate-papo?

R: Claro que são! Acho que eles tinham um aviso de isenção de responsabilidade no aplicativo, informando para não usar dados pessoais porque os moderadores podem ler a conversa do chat.

Mas eles PRECISAM lê-los apenas porque precisam estabelecer novos limites e censurar algumas respostas, além de fazer ajustes e melhorias. Com o passar do tempo, acredito que o ChatGPT estará mais afinado e maduro para interagir com segurança, e isso é o mais próximo que chegamos de imitar a consciência.

P: O ChatGPT pode interagir por meio de uma API?

R: Eu tentei pessoalmente, com certeza pode se integrar muito facilmente, mas acho que seria um serviço pago.

P: O OpenAI poderá usar o aplicativo sem limitações?

R: Do meu ponto de vista, é lógico supor que é o produto deles e que eles poderiam usá-lo sem limites, porque são eles que estabelecem os limites em primeiro lugar. O modelo treinado é baseado em GPT, geralmente usa da-vinci e também pode conter muitas informações confidenciais, mas também essas informações podem estar erradas ou enganosas.

O problema com a verificação e validação de fatos ainda existe até mesmo para os caras da OpenAI, então o que eles precisam é limitar a exposição de informações potencialmente erradas ao público. Como? Com limitação de configuração e alguma censura, ou redefinindo as respostas para serem mais objetivas versus subjetivas.

No site da OpenAI, eles explicam o que fizeram:

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

R: Você deveria tentar! Certamente não é fácil, mas vale a pena. Esta é a resposta no meu caso:

Conclusão: ChatGPT e tecnologias similares vão mudar a percepção de como as informações serão solicitadas, consumidas e utilizadas em nosso mundo. Ainda não tenho certeza se isso é bom ou ruim, já que nosso mundo já é confuso em alguns aspectos.

A grande questão é: essas tecnologias de chat-bot contribuirão para o aprimoramento humano, educação centralizada, produtividade, criatividade e evolução, ou tornarão a humanidade dependente de determinada(s) fonte(s) de informação, fazendo com que as pessoas fiquem sobrecarregadas de informações e seus cérebros não são mais capazes de seu próprio pensamento crítico e pensamentos únicos, criatividade ou inovação? Devemos ter cuidado com o que o ChatGPT substituirá em nossas vidas.

Sempre serei a favor daqueles que usam seus cérebros, talento e ambição da velha escola e têm atitude própria, enquanto o uso do ChatGPT pode ser usado como um consultor paralelo que pode oferecer algumas soluções ou ajudar em alguns problemas pesados -levantamento com informações.

Obrigado pelo seu tempo!

Mais artigos seguirão em breve! Tomar cuidado.
dragão