ChatGPT per hacker etici

Ciao a tutti,
come forse mi conoscete, o forse avete letto i miei articoli in passato (precedentementehttps://medium.com/@draganil)comprese altre fonti di blog, mi chiamo Dragan Ilievski e sono un professionista della sicurezza informatica da oltre 10 anni e possiedo Pentestiverse, una piattaforma online che consente l'istruzione per pentester e fornisce sicurezza come servizio. Questo è il mio progetto parallelo a cui sto lavorando nel tempo libero.

Ho deciso di continuare a scrivere tutti i miei nuovi articoli separatamente sotto Pentestiverse poiché i miei seguaci e appassionati di solito inviano le domande lì. Voglio condividere le mie conoscenze ed esperienze in forma scritta poiché è davvero conveniente.

È passato un po' di tempo dall'ultima volta che ho pubblicato qualcosa di nuovo, ma poiché molti dei miei follower erano interessati a sentire le mie opinioni su ChatGPT, questo è l'articolo in cui ne parlerò .

È sicuramente davvero impressionante ciò che OpenAI ha fatto con ChatGPT e come questa IA basata su chatbot abbia motivato molti altri settori a esprimere in modo creativo e innovare molti derivati ​​e utilizzare lo strumento per la produttività. Tuttavia, alcuni dei miei follower avevano delle preoccupazioni, quindi mi hanno chiesto quanto segue:

D: ChatGPT sostituirà i posti di lavoro o renderà le persone usa e getta in futuro?
A: Personalmente non credo che ChatGPT sostituirà completamente le persone perché lo strumento non è ancora così in grado di prendere decisioni critiche e basate sull'esperienza. L'intenzione principale di questi strumenti è offrire più innovazione, creatività e produttività. Una delle più grandi sfide mondiali sarà più o meno risolta con questo, dal momento che ora siamo in grado di inserire input a misura d'uomo e ottenere un output deduttivo a misura d'uomo che di solito contiene le informazioni concrete di cui avremmo bisogno su qualche sfida, dilemma nella vita, ed è così che ci fornisce la produttività, la creatività e le prestazioni in ogni cosa.

Quindi, personalmente, credo che ChatGPT potrebbe sostituire alcune cose per essere facilmente automatizzate, ma renderà anche gli esperti più costosi sul mercato, poiché ora avrebbero prestazioni migliori, informazioni concrete, il che significa: se sono in grado di faccio più cose per un tempo più breve, consegno di più, quindi devo anche guadagnare di più. Dal lato dell'hacking etico e di tutte le posizioni IT simili, siamo completamente al sicuro, perché nessuna IA può pensare come noi.

D: È possibile aggirare le limitazioni di ChatGPT?

A: Sfortunatamente sì, si chiama iniezione immediata. Per motivi di sicurezza, non spiegherò in dettaglio come funziona, ma ogni sistema basato su modelli basati su chat AI è più o meno vulnerabile ad alcune iniezioni che potrebbero aggirare la limitazione e fornire le informazioni che potrebbero essere doloso o addirittura pericoloso. Tuttavia, credo che i team di OpenAI lavorino molto duramente per stabilire i limiti giusti perché vogliono che diamo le informazioni giuste e sicure e proteggiamo l'umanità da informazioni che danneggiano o che non dovrebbero essere condivise pubblicamente.

D: Pensi che gli sviluppatori di ChatGPT leggano le nostre conversazioni in chat?

R: Certo che lo sono! Penso che avessero un disclaimer nell'app, che ti informa di non utilizzare i dati personali perché i moderatori potrebbero leggere la conversazione in chat.

Ma DEVONO leggerli solo perché hanno bisogno di stabilire nuovi confini e censurare alcune risposte e apportare modifiche e miglioramenti. Con il passare del tempo, credo che ChatGPT sarà più perfezionato e maturo per interagire in sicurezza, e questa è la cosa più vicina che abbiamo ottenuto imitando la coscienza.

D: È possibile interagire con ChatGPT tramite un'API?

R: L'ho provato personalmente, sicuramente si integra molto facilmente ma penso che sarebbe un servizio a pagamento.

D: OpenAI sarà in grado di utilizzare l'app senza limitazioni?

A: Dal mio punto di vista, è logico presumere che sia il loro prodotto e che sarebbero in grado di usarlo senza limiti, perché sono quelli che stabiliscono i confini in primo luogo. Il modello addestrato si basa su GPT, di solito utilizza da-vinci e potrebbe anche contenere molte informazioni riservate, ma anche tali informazioni possono essere errate o fuorvianti.

Il problema con il controllo dei fatti e la convalida esiste ancora anche per i ragazzi di OpenAI, quindi ciò di cui hanno bisogno è limitare l'esposizione al pubblico di informazioni potenzialmente errate. Come? Con l'impostazione di limitazioni e una certa censura, o ridefinendo le risposte in modo che siano più oggettive rispetto a quelle soggettive.

Sul sito web di OpenAI, spiegano cosa hanno fatto:

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

R: Dovresti provarlo! Sicuramente non è facile, ma ne vale la pena. Questa è stata la risposta nel mio caso:

Conclusione: ChatGPT e tecnologie simili cambieranno la percezione di come le informazioni verranno richieste, consumate e utilizzate nel nostro mondo. Non sono ancora sicuro se questa sia una cosa buona o cattiva, dal momento che il nostro mondo è già disordinato per certi versi.

La domanda più grande è: queste tecnologie chat-bot contribuiranno al miglioramento umano, all'istruzione centralizzata, alla produttività, alla creatività e all'evoluzione, o renderanno l'umanità dipendente da determinate fonti di informazioni, quindi le persone saranno sopraffatte da informazioni e i loro cervelli non sono più capaci del proprio pensiero critico e pensieri unici, creatività o innovazione? Dovremmo stare attenti a cosa sostituirà ChatGPT nelle nostre vite.

Sarò sempre a favore di coloro che usano il cervello, il talento e l'ambizione della vecchia scuola e hanno il proprio atteggiamento, mentre l'utilizzo di ChatGPT può essere utilizzato come consulente secondario che può offrire alcune soluzioni o aiutare in alcuni compiti pesanti -lifting con informazioni.

Grazie per il tuo tempo!

Presto seguiranno altri articoli! Occuparsi.
Dragan