อัลกอริทึมไม่ค่อยดีนักในการระบุเนื้อหาสำหรับผู้ใหญ่

แพลตฟอร์ม Tumblr ได้ตัดสินใจที่จะไม่อนุญาตให้มีเนื้อหาสำหรับผู้ใหญ่ห้ามไปมีผลบังคับ 17 ธันวาคม 2018 และการบังคับใช้มัน, Tumblr ดูเหมือนว่าจะมีการปรับใช้บอทที่เป็นอย่างแปลกประหลาดที่ไม่ดีที่งานของการตั้งค่าสถานะเนื้อหาบริสุทธิ์เป็นลามกอนาจารในธรรมชาติและกระตุ้นให้ทั้งผู้ใช้และเกจิที่มีเทคโนโลยีที่จะแปลกใจว่าทำไมบอทคือ แย่มากกับสิ่งที่ทำ ส่วนหนึ่งของคำตอบคือการดูแลด้วยปัญญาประดิษฐ์เป็นงานที่ยากมาก

รายละเอียดปลีกย่อยหลายอย่างที่เกี่ยวข้องกับการตัดสินใจว่าเนื้อหาใดที่เราพบว่ายอมรับได้หรือไม่เหมาะสมจะต้องถูกเขียนลงในหินและประวัติของเราเกี่ยวกับการทำเช่นนั้นก็ไม่ได้ดีมาก ในความเป็นจริงเรามีปัญหาในการระบุว่าบางสิ่งบางอย่างเป็นภาพอนาจารในตอนแรก พอตเตอร์สจ๊วตผู้พิพากษาศาลฎีกาสหรัฐผู้ล่วงลับสรุปความรู้สึกในการพิจารณาคดีเกี่ยวกับการอนาจาร (จาโคเบลลิสโว. โอไฮโอ) ด้วยวลี " ฉันรู้เมื่อเห็น "

ความรู้สึกนั้นได้พิสูจน์แล้วว่าคลุมเครือในทางปฏิบัติตามความหมาย นี่คือตัวอย่าง: ภาพของผู้ชายที่มีการแข็งตัวของอวัยวะเพศจะต้องเป็นภาพลามกอนาจารใช่ไหม? แต่จะเป็นอย่างไรหากนี่เป็นภาพประกอบทางการแพทย์เกี่ยวกับการแข็งตัวของอวัยวะซึ่งเป็นภาวะที่เจ็บปวดซึ่งมักทำให้เกิดการแข็งตัวเป็นเวลานานและปรากฏในสถานพยาบาล? หากการเป็นตัวแทนของช่องคลอดเป็นเรื่องลามกอนาจารนั่นหมายความว่าผลงานของศิลปินจอร์เจียโอคีฟฟ์ซึ่งมักคิดว่าภาพวาดดอกไม้เป็นคำอุปมาอุปมัยสำหรับกายวิภาคของผู้หญิงจะต้องได้รับการตั้งค่าสถานะไว้ในบทความประวัติศาสตร์ศิลปะหรือไม่?

โซเชียลเน็ตเวิร์กและแพลตฟอร์มเนื้อหาพบกับสถานการณ์เหล่านี้ตลอดเวลา ตัวอย่างเช่นในเหตุการณ์ประชาสัมพันธ์ครั้งใหญ่ในปี 2559 Facebook ได้เซ็นเซอร์ภาพถ่ายที่ได้รับรางวัลพูลิตเซอร์ของ Kim Phuc วัย 9 ขวบที่เปลือยเปล่าซึ่งอยู่ในความหวาดกลัวจากการโจมตีของนาปาล์มในช่วงสงครามเวียดนาม ภาพนี้ได้รับการตีพิมพ์โดยหนังสือพิมพ์ที่มีชื่อเสียงที่สุดของนอร์เวย์สำหรับบทความที่เกี่ยวข้องกับสงคราม ตรงกันข้ามกับผู้ใช้ทวิตเตอร์ก็ไม่สามารถที่จะชักชวนให้แพลตฟอร์มที่จะปิดตัวลงบัญชีนีโอนาซีจนถึงสิ้นปี 2017 ด้วยปรัชญาที่แตกต่างกันและกฎที่ดูเหมือนจะเป็นไปโดยพลการไม่มีบริบทซึ่งอาจสร้างความสับสนแม้แต่ผู้ดูแลที่เป็นมนุษย์จึงไม่น่าแปลกใจที่อัลกอริทึมกำลังมีปัญหาในการหาสิ่งที่จะตั้งค่าสถานะ

ระบบของ Tumblr ดูเหมือนจะมองหาสิ่งที่เห็นว่าเป็นผิวหนังที่เปิดเผยในภาพหรือรูปร่างที่เชื่อว่าอาจเป็นหัวนมหรืออวัยวะเพศ แต่น่าเสียดายที่เป็นจำนวนมากใจดีโคลสอัพในส่วนที่ไม่ใช่ซึ่งกระตุ้นความกำหนดของร่างกายมนุษย์จะเกินเกณฑ์สำหรับเนื้อเปลือยเท่าใดแสดงภาพเป็นแดนฟอลลอนเขียน Diggตั้งข้อสังเกต วัตถุบางอย่างเช่นต้นไม้อาจมีลักษณะเหมือนลึงค์ และในกรณีหนึ่งที่ดูเหมือนจะอธิบายไม่ได้ฟอลลอนเขียนภาพธรรมชาติที่ไร้เดียงสาของช่างภาพทิวทัศน์ก็ถูกตั้งค่าสถานะว่าเป็นปัญหาเช่นกัน อย่างไรก็ตามนี่ไม่ใช่เรื่องผิดปกติสำหรับอัลกอริทึมดังกล่าว การตรวจสอบบ็อตการทำซ้ำอื่น ๆ ทำให้ภาพของเนินทรายและชายหาดถูกตั้งค่าสถานะเนื่องจากสีของทรายใกล้เคียงกับสีผิวตามชุดข้อมูลการฝึกอบรมของพวกเขา

ข้อผิดพลาดอย่างเป็นระบบนี้ยังสมเหตุสมผลเมื่อคุณพิจารณาว่ามนุษย์มีโทนสีผิวจำนวนเท่าใด สีตั้งแต่สีเบจอ่อนไปจนถึงเกือบดำล้วนเกิดขึ้นตามธรรมชาติและขึ้นอยู่กับวิธีการฝึกอบรม AI หรือการปรับเทียบเซ็นเซอร์อาจไม่เข้าใจว่ามีสีผิวที่เข้มกว่าด้วยซ้ำ ด้วยเหตุนี้อัลกอริทึมที่ได้รับการฝึกฝนให้ตรวจจับและเซ็นเซอร์ภาพลามกอนาจารกับนักแสดงชาวผิวขาวอาจไม่สามารถตั้งค่าสถานะภาพที่โจ่งแจ้งเท่า ๆ กันกับนางแบบผิวคล้ำได้ หนึ่งในวิธีแก้ปัญหาที่ง่ายคือการชดเชยมากเกินไปตั้งค่าสถานะทุกอย่างและแสดงให้เห็นถึงผลบวกที่ผิดพลาดว่าดีกว่าการจับเนื้อหาสำหรับผู้ใหญ่ไม่เพียงพอซึ่งเป็นสิ่งที่ Tumblr ดูเหมือนจะทำในการแย่งชิงเพื่อฆ่าเชื้อเนื้อหา Tumblr ไม่ได้ส่งคืนคำขอสำหรับความคิดเห็นว่ามีเลเยอร์เพิ่มเติมในการกลั่นกรองหรือไม่

ในที่สุดก็ยังคงต้องเห็นว่าอัลกอริทึมการเซ็นเซอร์ที่มากเกินไปจะผลักดันให้ผู้ใช้ที่ไม่โพสต์เนื้อหาสำหรับผู้ใหญ่ออกจากแพลตฟอร์มด้วยหรือไม่หรือว่าจะถูกโทรออก แต่การตั้งค่าสถานะเกินจริงที่เปิดเผยต่อสาธารณะและก้าวร้าวของ Tumblr นั้นแสดงให้เห็นถึงความยากลำบากบางประการในการกลั่นกรองสื่อออนไลน์ ดังนั้นความผิดพลาดจะยังคงเกิดขึ้นและเกิดขึ้นบ่อยครั้ง จนกว่าเราจะหาวิธีจัดการกับข้อกังวลเหล่านี้ได้มนุษย์จะต้องดูแลความพยายามในการกลั่นกรองที่ประสบความสำเร็จอย่างแท้จริง

ตอนนี้น่าสนใจ

แม้อารมณ์การ์ฟิลด์ได้รับอนุญาตจาก Tumblr ในการกวาดเริ่มต้นเป็นบทความจำนวนมากตั้งข้อสังเกต