ChatGPT para hackers éticos

Hola a todos,
como me conocen, o pueden haber leído mis artículos en el pasado (anteriormente enhttps://medium.com/@draganil)incluidas otras fuentes de blogs, mi nombre es Dragan Ilievski y soy un profesional de la seguridad cibernética desde hace más de 10 años y soy propietario de Pentestiverse, que es una plataforma en línea que permite la educación para pentesters y proporciona seguridad como servicio. Este es mi proyecto paralelo en el que estoy trabajando en mi tiempo libre.

He decidido continuar escribiendo todos mis nuevos artículos por separado bajo Pentestiverse ya que mis seguidores y entusiastas suelen enviar las preguntas allí. Quiero compartir mis conocimientos y experiencia por escrito ya que es muy conveniente.

Ha pasado un tiempo desde que publiqué algo nuevo, pero dado que muchos de mis seguidores estaban interesados ​​​​en escuchar mis propios puntos de vista sobre ChatGPT, este es el artículo en el que voy a discutirlo .

Seguramente es realmente impresionante lo que OpenAI hizo con ChatGPT y cómo esta IA basada en chatbot motivó a muchas otras industrias a expresarse creativamente e innovar muchos derivados y usar la herramienta para la productividad. Sin embargo, algunos de mis seguidores tenían algunas inquietudes, por lo que me preguntaron lo siguiente:

P: ¿ChatGPT reemplazará trabajos o hará que las personas sean desechables en el futuro?
R: Personalmente, no creo que ChatGPT reemplace a las personas por completo porque la herramienta aún no es capaz de tomar decisiones y pensamientos críticos basados ​​en la experiencia. La intención central de estas herramientas es ofrecer más innovación, creatividad y productividad. Uno de los mayores desafíos del mundo se resolverá más o menos con esto, ya que ahora podemos ingresar información amigable para los humanos y obtener resultados deductivos amigables para los humanos que generalmente contienen la información concreta que necesitaríamos sobre algún desafío, dilema en la vida, y es así como nos proporciona la productividad, la creatividad y el rendimiento en todo.

Entonces, personalmente, creo que ChatGPT podría reemplazar algunas cosas para que se automaticen fácilmente, pero también hará que los expertos sean más caros en el mercado, ya que ahora tendrían un mejor rendimiento, información concreta, lo que significa: si puedo hago más cosas por menos tiempo, entrego más, así que también necesito ganar más dinero. Desde el lado del Ethical Hacking y todos los puestos de TI similares, estamos completamente seguros, porque ninguna IA puede pensar como nosotros.

P: ¿Se pueden omitir las limitaciones de ChatGPT?

R: Lamentablemente, sí, se llama inyección inmediata. Por razones de seguridad, no explicaré cómo funciona esto en profundidad, pero cada sistema que se basa en modelos basados ​​​​en chat de IA es más o menos vulnerable a algunas inyecciones que podrían eludir la limitación y entregar la información que podría ser malicioso o incluso peligroso. Sin embargo, creo que los equipos de OpenAI trabajan muy duro para establecer los límites correctos porque quieren que brindemos la información correcta y segura y que protejamos a la humanidad de la información que daña o que no debe compartirse públicamente.

P: ¿Crees que los desarrolladores de ChatGPT leen nuestras conversaciones de chat?

R: ¡Por supuesto que lo son! Creo que tenían un descargo de responsabilidad en la aplicación, que le informa que no use datos personales porque los moderadores pueden leer la conversación de chat.

Pero NECESITAN leerlos solo porque necesitan establecer nuevos límites y censurar algunas respuestas, y hacer ajustes y mejoras. A medida que pase el tiempo, creo que ChatGPT estará más afinado y maduro para poder interactuar con él de manera segura, y esto es lo más parecido que tenemos a imitar la conciencia.

P: ¿ Se puede interactuar con ChatGPT a través de una API?

R: Lo he probado personalmente, seguramente se puede integrar muy fácilmente pero creo que sería un servicio de pago.

P: ¿ OpenAI podrá usar la aplicación sin limitaciones?

R: Desde mi perspectiva, es lógico suponer que es su producto y que podrían usarlo sin límites, porque esos son los que establecen los límites en primer lugar. El modelo entrenado se basa en GPT, generalmente usa da-vinci, y también puede contener mucha información confidencial, pero también esa información puede ser incorrecta o engañosa.

El problema con la verificación de hechos y la validación aún existe incluso para los chicos de OpenAI, por lo que lo que necesitan es limitar la exposición de información potencialmente incorrecta al público. ¿Cómo? Con establecer limitaciones y algo de censura, o redefinir las respuestas para que sean más objetivas que subjetivas.

En el sitio web de OpenAI, explican lo que hicieron:

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

R: ¡Deberías probarlo! Seguramente no es fácil, pero vale la pena. Esta fue la respuesta en mi caso:

Conclusión: ChatGPT y tecnologías similares cambiarán la percepción de cómo se solicitará, consumirá y utilizará la información en nuestro mundo. Todavía no estoy seguro de si esto es algo bueno o malo, ya que nuestro mundo ya está desordenado en algunos aspectos.

La pregunta más importante es: ¿estas tecnologías de bots de chat contribuirán a la mejora humana, la educación centralizada, la productividad, la creatividad y la evolución, o harán que la humanidad dependa de cierta fuente de información, de modo que las personas se vean abrumadas con información y sus cerebros ya no son capaces de su propio pensamiento crítico y pensamientos únicos, creatividad o innovación? Debemos tener cuidado con lo que reemplazará ChatGPT en nuestras vidas.

Siempre voy a estar a favor de aquellos que usan su cerebro, talento y ambición de la vieja escuela, y tienen su propia actitud, mientras que el uso de ChatGPT puede usarse como un consultor secundario que puede ofrecer algunas soluciones o ayuda en algunos problemas pesados. -levantamiento con información.

¡Gracias por tu tiempo!

¡Más artículos seguirán pronto! Cuidarse.
Dragan