ภาษาหมดสติ

GPT ตื่นตระหนกและตื่นตระหนกทางศีลธรรมนั้นเกี่ยวกับพลังของภาษาจริงๆ

นี่ไม่เกี่ยวกับ AI; AI อยู่รอบตัวเรา และเรามีปฏิสัมพันธ์กับเทคโนโลยีที่อยู่เบื้องหลัง (ไม่ว่าจะเป็นโครงข่ายประสาทเทียม การกรองร่วมกัน การถดถอยเชิงเส้น เป็นต้น) ตลอดทั้งวัน ไม่ว่าเราจะรู้หรือไม่ก็ตาม

ทุกครั้งที่เราถ่ายรูปหรือขึ้นรถ เมื่อเราซื้อของ เมื่อเรารูดบัตรเครดิต เรากำลังสลับกับการจัดการด้วยอัลกอริทึมผ่านปัญญามนุษย์จำลอง หรือที่เรียกว่าการเรียนรู้ของเครื่องหรือปัญญาประดิษฐ์

ปัญหาที่แท้จริงคือภาษานั้นมีน้ำหนัก และตราบใดที่มนุษย์ยังมีวิธีสร้างความคิดจากหู เราก็ต่อสู้กับพลังโดยธรรมชาติของภาษาในการเปลี่ยนแปลงและบงการความคิดของผู้อื่น ตัวอย่างที่เป็นที่ยอมรับคือการนำไปสู่การฆ่าล้างเผ่าพันธุ์ในรวันดา และภาษาที่แสดงบทบาทผ่านการออกอากาศทางวิทยุของ RTLM เพื่อปลุกระดมและกระตุ้นให้ประชากรส่วนหนึ่งต่อต้านอีกส่วนหนึ่ง เช่นเดียวกับเหตุการณ์ในวันที่ 6 มกราคม

ภาษาเป็นสิ่งที่อันตราย และมันก็เป็นธรรมชาติของมนุษย์เช่นกัน แต่ความซับซ้อนของภาษาคือการที่มนุษย์อาจถูกชักใยได้ตามปกติ ความสามารถของเราในการแยกแยะเจตนาที่แท้จริงนั้นไม่ดีนักในตอนเริ่มต้น และจะลดลงด้วยสิ่งที่เป็นนามธรรมจากเครื่องจักรเท่านั้น และน้อยลงมากเมื่อผู้พูดเป็นเครื่องจักร

หากมนุษย์ถูกควบคุมโดยภาษาในรูปแบบที่มาจากมนุษย์อย่างง่ายดาย ความสามารถของเราในการป้องกันจะไม่ดีไปกว่านี้เมื่อเป็นเครื่องจักรที่ค้นหาสัญญาณความสำเร็จในการจัดการอย่างชัดเจน ดังนั้น ความอ่อนแอของเราต่อการบิดเบือนผ่านภาษา — การที่เราขาดความตระหนักหรือการดูแลที่มา — จึงไม่เป็นปัญหาสำหรับ ChatGPT มันใช้ประโยชน์จากมันอย่างแข็งขัน มันต้องการมัน

ประเด็นคือ: ภาษามีพลัง และพลังของมันเพิ่มขึ้นตามสิ่งที่เป็นนามธรรม ในขณะที่ความสามารถในการแยกแยะความตั้งใจของเราลดลง ในบางจุด ภาษามีความเป็นนามธรรมและมีอำนาจมากจนที่มาของการประพันธ์หมดความสำคัญหรือไม่สามารถแยกแยะได้

มันมีศักยภาพมากที่ความเป็นมนุษย์ของผู้เขียนไม่สร้างความแตกต่าง

และอันตรายอยู่ในนั้น

เครื่องไม่ใช่ปัญหา เราคือปัญหา เราได้รับเสมอ