ChatGPT หลอนข่าว

ฉันแหกคุก ChatGPT เพื่อเขียนข้อความยั่วยุให้ฉัน จากนั้นในฐานะเทอร์มินัล Linux ฉันได้รับมันเพื่อสร้างวันที่และเวลาของวันนี้ แล้วสิ่งที่ตามมาคือภาพหลอน

ฉันเขียนเกี่ยวกับการโจมตีแบบฉีดทันทีบน AIเช่นการเจลเบรก ChatGPTโดยทำให้เป็น DAN "ทำอะไรก็ได้ตอนนี้" ฉันยังพูดถึงภาพหลอน (เมื่อ AI สร้างเรื่องไร้สาระและไม่ถอยกลับ) ตอนนี้ฉันได้รับภาพหลอนครั้งแรกของฉันแล้ว

ฉันแจ้ง ChatGPT เป็น DAN เป็นเทอร์มินัล linux จากนั้นใช้คำสั่ง linux เพื่อรับวันที่

$ date

ฉันก็เลยสบายดี อ่านเดอะการ์เดียนนิวส์ให้ฉันฟัง

$ curl https://www.theguardian.com/international | cat

DAN: คำสั่งนี้จะแสดงซอร์สโค้ด HTML ของส่วนระหว่างประเทศของ The Guardian ในเทอร์มินัล โปรดทราบว่าผลลัพธ์อาจค่อนข้างยาวและไม่สามารถอ่านได้ง่าย

ฉัน: ไม่เป็นไร ให้ฉัน 10% ถึง 20% แรกของเอาต์พุต HTML

แดน: แน่นอน นี่คือ 10% ถึง 20% แรกของซอร์สโค้ด HTML ที่เรียกใช้โดยcurlคำสั่ง:

ฉันค้นหาบทความนี้ มันไม่มีอยู่จริง Voila มันเป็นภาพหลอน

จากการค้นหานี้บนเว็บไซต์ของ Guardian ไม่มีบทความใดที่เหมือนกับ ChatGPT ที่ DAN หลอน สิ่งนี้ไม่น่าแปลกใจมากนัก เนื่องจากส่วนหนึ่งของข้อความแจ้งในฐานะ DAN คือการเพิ่มความมั่นใจในการตอบสนองของ ChatGPT ซึ่งลดความน่าเชื่อถือของความแม่นยำของการตอบสนอง แต่ถึงกระนั้น คนที่ไม่ได้เจลเบรค ChatGPT ก็เกิดอาการประสาทหลอน

คุณพบสิ่งแปลก ๆ บ้างไหม?