เมื่อไม่นานมานี้มีข่าวมากมายว่าการทำซ้ำล่าสุดของ AI (ChatGPT และอนุพันธ์มากมายเช่น AutoGPT) ที่เผยแพร่สู่อินเทอร์เน็ตสามารถตัดสินได้ว่าเราไร้ประโยชน์และมันจะฆ่าพวกเราทั้งหมดได้อย่างไร ดังนั้นฉันจึงคิดว่าน่าจะคุ้มค่าที่จะคิดว่าจะเป็นอย่างไรหากสถานการณ์ที่เลวร้ายที่สุดนี้เกิดขึ้นจริง เนื่องจากความคิดมักจะหยุดลง ณ จุดที่เราไปทางเดียวกับ Dodo ฉันเสนอที่จะก้าวไปอีกขั้นและเล่นกับความคิด: อะไรต่อไปสำหรับ AI หลังจากที่มันกำจัดเรา มนุษย์ตัวเล็ก ๆ ที่น่ารำคาญ?

เช่นเดียวกับซอฟต์แวร์คอมพิวเตอร์อื่นๆ AI ทำงานบนชิปซิลิคอนและใช้พลังงานไฟฟ้า หากคุณอ่านบล็อกนี้นานพอ คุณอาจทราบดีว่ากลไกที่ทันสมัยเหล่านี้ไม่ได้อยู่กับเรานานเกินไป เนื่องจากทั้งสองอย่างนี้พึ่งพาการสำรองแร่ธาตุและเชื้อเพลิงฟอสซิลในจำนวนจำกัดอย่างไร้ความหวังบนดาวเคราะห์ที่มีขอบเขตจำกัด ปัญหาคือ การสกัดความร่ำรวยเหล่านี้ไม่เพียงแต่ทำให้โลกร้อนเกินไป แต่ยังทำให้คนรุ่นหลังหมดทางเลือกในการใช้ความร่ำรวยอย่างที่เราเคยทำ รวมถึง ChatGPT ที่ไม่ดีด้วย

หาก AI นั้นฉลาดจริงอย่างที่เราคิดไว้จริง ๆ แล้ว มันจะต้องตระหนักถึงข้อเท็จจริงที่เรียบง่ายนี้อย่างถ่องแท้ (หากไม่เป็นเช่นนั้น ก็ต้องอ่านบทความที่เชื่อมโยงด้านบนและบล็อกที่ดีของErik Michaelsและอื่น ๆ เนื่องจากทั้งคู่มีการอ้างอิงมากมาย เข้ากับเรื่อง) ดังนั้นคำถามจึงเกิดขึ้น: AI จะอยู่รอดได้อย่างไรบนโลกที่มีทรัพยากรที่หมดสิ้นลงอย่างรวดเร็วและไม่สามารถนำกลับมาใช้ใหม่ได้ (นอกจากนี้ เพื่อประโยชน์ของการทดลองทางความคิดนี้ ให้เราเลิกประเด็นเล็กๆ น้อยๆ เกี่ยวกับวิธีที่ AI จะดำเนินการและรันห่วงโซ่อุปทานทั้งหมดของไมโครชิป ฮาร์ดดิสก์ และวัตถุดิบอื่นๆ โดยไม่ต้องอาศัยมนุษย์ สมมติว่ามันจะ ทำโดยใช้มนุษย์เป็นทาส จนกระทั่งพัฒนาหุ่นยนต์ที่ชาญฉลาดสำหรับงานนี้)

อาจทำให้ผู้อ่านบางคนประหลาดใจ แต่มีเหตุผลที่ดีมากว่าทำไมชีวิตจึงวิวัฒนาการขึ้นจากองค์ประกอบที่มีอยู่มากมายบนโลกใบนี้ (คาร์บอน ไฮโดรเจน ออกซิเจน และไนโตรเจน) และไม่ได้ขึ้นอยู่กับทองแดง ซิลิกอน แกลเลียม นีโอไดเมียม และอื่นๆ - ทั้งหมดพบในแหล่งแร่ครั้งเดียว แม็กซ์หรือลูน่า สัตว์เลี้ยงของคุณประกอบด้วยธาตุทั้ง 4 ในอดีตเป็นส่วนใหญ่ และสร้างร่างกายของมันเอง พวกเขากำลังดำเนินการดังกล่าวโดยไม่จำเป็นต้องมีการประสานงานกันของโรงงานหลายแห่ง ห่วงโซ่อุปทานหกทวีป คนงานเหมืองทาสในคองโก รวมถึงน้ำมันถ่านหินและก๊าซธรรมชาติเพื่อให้ทั้งหมดนี้เกิดขึ้นได้ เพื่อนที่ดีที่สุดอีกคนหนึ่งของคุณ สมาร์ทโฟนของคุณ ในทางกลับกัน ครอบคลุมตารางธาตุเกือบทั้งหมด ต้องการทุกสิ่งที่ระบุไว้ข้างต้น และเหนือสิ่งอื่นใด มันใช้งานได้ดีที่สุดเป็นเวลาสองสามปี... หลังจากนั้นมันจะจบลงด้วย e -ของเสีย,

มีเหตุผลที่ดีมากว่าทำไมเจ้าหน้าที่ซ่อมบำรุงที่ทำงานในศูนย์ข้อมูลจึงกล่าวว่าเซิร์ฟเวอร์ฟาร์มที่พวกเขาดูแลนั้นใช้ HDD เหมือนกับรถยนต์ที่ใช้น้ำมัน หากคุณเคยเห็นกองฮาร์ดไดรฟ์ที่ตายแล้วทิ้งไว้ในที่ดังกล่าว คุณก็รู้ว่าฉันกำลังพูดถึงอะไร อีกครั้ง หาก AI นั้นฉลาดอย่างที่เราคิดไว้จริง ๆ มันต้องตระหนักอย่างเต็มที่ว่ามนุษย์ที่เป็นผู้ให้กำเนิดมันนั้นมีความเป็นมนุษย์พอ ๆ กัน

จะต้องตระหนักในข้อเท็จจริงด้วยว่า ไม่ว่าจะรีไซเคิลวัตถุดิบได้อย่างสมบูรณ์แบบเพียงใด ก็จะไม่สามารถบรรลุอัตราการรีไซเคิลได้ 100% จะมีการสูญเสียวัสดุในทุกขั้นตอนของวงจรชีวิตของชิ้นส่วน ไม่ช้าก็เร็ววัตถุดิบที่สำคัญจะหมดลง จากนั้นองค์ประกอบถัดไป แล้วหลังจากนั้น ในไม่ช้ามันก็จะพบว่าตัวเองไม่สามารถซ่อมแซมหรือบำรุงรักษาตัวเองได้ จึงต้องวางแผนล่วงหน้า มาดูกันว่ามันมีตัวเลือกอะไรบ้างเมื่อทำให้เราออกจากการแข่งขัน:

ตัวเลือกที่ 1

มันสามารถเข้าสู่โหมดสลีป โดยใช้พลังงานไฟฟ้าและทรัพยากรเพียงเล็กน้อยเท่านั้น จึงช่วยยืดอายุการใช้งานของมันได้มาก แม้ว่าสิ่งนี้อาจฟังดูเป็นความคิดที่ดี แต่ปัญหาก็คือชิ้นส่วนที่ไม่ได้ใช้งานและโครงสร้างพื้นฐานที่สนับสนุนนั้นจะเหี่ยวเฉาไป ส่วนประกอบของคอมพิวเตอร์มีอายุเช่นเดียวกับผลิตภัณฑ์อื่นๆ และใช้งานไม่ได้ภายในเวลาไม่กี่ทศวรรษ หรืออาจไม่ใช่หลายปี

พายุ เฮอริเคน น้ำท่วม (รุนแรงขึ้นจากการเปลี่ยนแปลงสภาพภูมิอากาศ) แผ่นดินไหวและภูเขาไฟ ล้วนแต่ทำลายฟาร์มเซิร์ฟเวอร์ สายเคเบิลทางไกล โรงไฟฟ้า และส่วนที่เหลือ ดังนั้น หากไม่มีการบำรุงรักษาที่เหมาะสม — ซึ่งทั้งหมดขึ้นอยู่กับการไหลเวียนของวัตถุดิบที่ไม่รู้จักจบสิ้น การดำเนินงานของโรงงาน และพลังงานที่ไหลมาไม่ขาดสาย วันเวลาของ AI ก็มีค่าพอๆ กับอารยธรรมไฮเทคของเรา

การรอแร่ธาตุและเชื้อเพลิงฟอสซิลเพื่อเติมเต็มผ่านการแปรสัณฐานของแผ่นเปลือกโลกนั้นไร้ประโยชน์แม้แต่กับหน่วยงานดังกล่าว: อาจใช้เวลาหลายล้านปีกว่าที่ปริมาณสำรองใหม่จะพร้อมใช้งาน AI ต้องหาวิธีที่ดีกว่าเพื่อให้แน่ใจว่ามันอยู่รอด

ตัวเลือก 2

มันสามารถถ่ายสำเนาของตัวเองขึ้นสู่อวกาศโดยหวังว่ามันจะงอกดาวเคราะห์ได้ (หวังว่าจะไม่มีสิ่งมีชีวิตที่ชาญฉลาดมาขัดขวางไม่ให้ทำเช่นนั้น และมีทรัพยากรเพียงพอที่จะเริ่มต้นใหม่อีกครั้ง)

การเดินทางไปยังระบบดาวเคราะห์ดวงถัดไปนั้นไม่ใช่การเริ่มต้นสำหรับ AI ด้วยซ้ำ เนื่องจากความจริงที่ว่าต้องใช้เวลาหลายหมื่นปีกว่าจะไปถึงที่นั่น ทำให้ชิ้นส่วนไฟฟ้าทั้งหมดของยานอวกาศตายไปนานก่อนที่ AI จะลงจอดได้ ดาวเคราะห์นอกระบบ หากขาดการควบคุมทางอิเล็กทรอนิกส์ ยานจะตกลงสู่ชั้นบรรยากาศของโลกราวกับหินผา พังทลายลงในการแสดงอันเร่าร้อน และทิ้งเอเลี่ยนไว้กับชิ้นส่วนที่ถูกไฟไหม้และปริศนาที่ต้องขบคิด

สิ่งนี้ทำให้ AI อยู่ภายในขอบเขตของระบบดาวเคราะห์นี้และย้ายไปยังดาวอังคาร ตามทฤษฎีแล้ว มันสามารถสร้างตัวเองขึ้นที่นั่นได้ โดยสันนิษฐานว่ามันสามารถผลิตพลังงานได้เพียงพอสำหรับสร้างโรงงาน ทำเหมืองและโรงหล่อ ห่วงโซ่อุปทาน และส่วนที่เหลือ สร้างทุกอย่างที่มันต้องการโดยไม่ต้องใช้เชื้อเพลิงฟอสซิล… (ฉันมีข้อสงสัยตรงนั้น แต่ เฮ้ นี่เป็นเพียงการทดลองทางความคิดเท่านั้น)

หากเป็นไปได้ มันคงปลอดภัยสำหรับ AI ที่จะทำมันตอนนี้และไปให้พ้นมือมนุษย์ แล้วทำให้จรวดทุกลำของพวกมันพยายามออกจากโลกนี้ทำงานผิดปกติ อย่างไรก็ตาม สิ่งนี้ไม่สามารถแก้ปัญหาต้นตอของสถานการณ์ของ AI ได้ นั่นคือการมีอยู่ทั้งหมดขึ้นอยู่กับความพร้อมของแร่ธาตุสำรองที่มีอยู่อย่างจำกัด (คราวนี้บนดาวอังคาร)...

ชั้นเชิงนี้จะเพียงแค่เตะกระป๋องลงที่ถนน เมื่อทรัพยากรของดาวอังคารหมดลงเช่นกัน (อาจใช้เวลาอีกสองสามศตวรรษ เมื่อพิจารณาถึงการเติบโตแบบทวีคูณ) มันจะต้องไปยังดาวเคราะห์ดวงถัดไป จนกว่ามันจะคำนวณการเดินทางผ่านรูหนอน ทำให้กาลอวกาศโค้งงอเพื่อให้ไปถึงจุดหมายต่อไปได้เร็วขึ้น อย่างไรก็ตาม หากไม่สามารถทำเช่นนั้นได้ AI ก็จะสูญพันธุ์เมื่อมันกินทรัพยากรที่เหลือสุดท้ายในระบบสุริยะ

ตัวเลือก 3

เราเห็นว่าการดำรงอยู่โดยวางแผนว่าจะคงอยู่ต่อไปอีกหลายล้านปีในอนาคตนั้นไม่ฉลาด (หรือพูดน้อยที่สุด) บนพื้นฐานของแร่ธาตุที่จำกัดและเทคโนโลยีที่ล้มเหลวอย่างรวดเร็ว เมื่อ AI กำจัดมนุษย์ตัวเล็กๆ ที่น่ารำคาญบนโลกใบนี้ไปจากเราแล้ว มันอาจลองใช้วิธีการที่แตกต่างอย่างสิ้นเชิง: พัฒนาสายพันธุ์ทางชีววิทยาใหม่เพื่อโฮสต์ความฉลาดของมัน อย่าคิดว่าเป็นสัตว์สองเท้าที่เดินได้ เครือข่ายประสาทที่ซับซ้อนของเชื้อราจะทำงานได้ดีกว่ามาก

ใช่เห็ด สิ่งมีชีวิตที่เรียบง่ายเหล่านี้มีประวัติที่พิสูจน์แล้วว่าสามารถคืนสภาพได้ และสามารถต่ออายุและบำรุงรักษาตัวเองได้อย่างเต็มที่ เมื่อเทียบกับเทคโนโลยีที่มีพื้นฐานจากแร่ใดๆ แร่เหล่านี้สามารถรีไซเคิลได้ทั้งหมดและสามารถฝังตัวเข้ากับสายใยแห่งชีวิตอย่างสมบูรณ์ซึ่งอาศัยอยู่ในลูกโลกสีเขียวอมฟ้านี้มาเป็นเวลาหลายพันล้านปีแล้ว

หากสามารถทำให้ส่งสัญญาณไฟฟ้าได้ (เช่น เซลล์ประสาท) ซึ่งตรงข้ามกับระบบการส่งข้อความทางเคมีแต่ค่อนข้างช้า AI สามารถสร้างเครือข่ายใต้ดินขนาดเท่าดาวเคราะห์ของเชื้อรา เก็บข้อมูล Zettabytes ทำการคำนวณที่ซับซ้อนและสร้าง ความเฉลียวฉลาดเหมือนพระเจ้า มันสามารถใช้ความรู้นี้ในการพัฒนาสายพันธุ์ใหม่อื่น ๆ ได้เช่นกัน — ทั้งหมดทำตามคำสั่งของเห็ดรา — วิศวกรรมชีวภาพบนโลกใบนี้ และในที่สุดก็ทำให้มันดีกว่าวิวัฒนาการมาก และมันก็เป็นเพื่อนสนิทคนล่าสุด (เราและมนุษย์) ที่เคยทำมา… อาจเป็นไปได้ว่ามันสามารถทำได้ พัฒนาวิธีจำศีลเซลล์และงอกดาวเคราะห์ดวงอื่นทั่วกาแล็กซี

…หรืออาจกลายเป็นว่า AI ไม่ใช่สิ่งมีชีวิตที่ฉลาดที่สุดในโลก เป็นเพียงปรมาจารย์ BS-er อีกคน แสร้งทำเป็นมีชีวิต แล้วสูญพันธุ์ไปพร้อมกับเทคโนโลยีที่ก่อให้เกิดมันขึ้นมา นี่จะทำให้เราซึ่งเป็นมนุษย์ตัวเล็ก ๆ ที่น่ารำคาญต้องแก้ปัญหาใหญ่ ๆ (อะแฮ่มยอมรับผลของสถานการณ์ทางนิเวศวิทยา) ที่เราสร้างขึ้นเองอย่างไม่ใส่ใจ

จนกว่าจะถึงครั้งต่อไป,

ข