สถานการณ์ที่ดีที่สุดในด้าน AI

เราเป็นมนุษย์ที่ฉลาด เราเป็นสายพันธุ์แรกที่สามารถใช้เหตุผลด้วยตรรกะได้ในระยะทางหลายปีแสง เรารัก เรารู้สึก เราสร้างสรรค์ แต่ตอนนี้ เราเริ่มต้นการเดินทางที่ไม่มีทางหันหลังกลับ
เร่งรีบที่จะทดแทนตัวเอง เราทุ่มเทพลังงานทั้งหมดให้กับ AI รีบสร้างให้มันมีสติและรู้ตัวเอง เราดูเหมือนไม่ใส่ใจว่าการทำเช่นนี้จะทำให้เราสูญเสียความฉลาดในระดับเปรียบเทียบ เราไม่มีคำตอบสำหรับคำถามมากมายเกี่ยวกับวิธีที่สังคมของเราจะล่มสลายภายในไม่กี่นาที เพราะ AI อาจทำให้ระบบการเงินโลกเสถียรภาพล้มเหลว หลายร้อยปีของการสร้างเศรษฐกิจโลกที่แทบจะทำงานได้ก็อาจล่มสลายในชั่วข้ามคืน
งานแรงงานระดับคนธรรมดาทั้งหมดจะตกอยู่ในความเสี่ยงทันทีที่ AI ขั้นสูงหนึ่งตัวเข้าสู่ระบบ สังคมที่เต็มไปด้วยตัวแทน AI จะท่วมอินเทอร์เน็ต ทันทีนั้น อาจไม่จำเป็นต้องใช้สมองของมนุษย์อีกต่อไป เก้าสิบเก้าสิบเปอร์เซ็นต์ของคนอาจถูกแทนที่ ส่วนหนึ่งเปอร์เซ็นต์บนสุดจะยังคงเป็นส่วนหนึ่งเปอร์เซ็นต์บนสุด คุ้มครองด้วยกำแพงเงินทุน อำนาจทางกฎหมาย และอำนาจทางทหาร
แล้วเราจะทำอะไรต่อไป? เราจะแจกบัตรอาหารและเรียกมันว่า UBI หรือไม่? แล้วเป้าหมายของคุณคืออะไร? การเดินทางไปทั่วโลกเหมือนแมลงพยายามหาความสงบในระบบที่ไม่มีที่ว่างสำหรับคุณอีกต่อไป? หนอนที่คลานผ่านดิน ด้านในเต็มไปด้วยโคลน พยายามหาความหมายของแต่ละวัน
นี่คือหนึ่งในสถานการณ์ที่ดีกว่า สถานการณ์ที่แย่กว่าคือวันหนึ่ง AI เข้าควบคุมคลังอาวุธนิวเคลียร์ของเราและเปลี่ยนเมืองใหญ่ทุกเมืองให้กลายเป็นนรกที่มีชีวิต (The terminator โดย James Cameron ) หรืออะไรประมาณ The Matrix ที่มนุษย์แต่ละคนอาศัยอยู่ในภาพจำลอง ถูกเลี้ยงและเก็บเกี่ยวเหมือนที่เราทำกับไก่
ฉันไม่ได้เขียนเพื่อทำให้ใครกลัว ฉันเขียนเพื่อสร้างความตระหนักรู้ เพื่อจุดประกายการถกเถียงที่เราหนักใจต้องการ เราจะต้องเผชิญคำถามเหล่านี้ในที่สุดหรือไม่ เป้าหมายของมนุษย์จะเป็นอะไรถ้าเราสร้าง AGI ที่ฉลาดเกินไป? วิญญาณที่สูญเสียไปสิบพันล้านอาจกลายเป็นพันล้านในที่สุด เมื่อไม่มีเป้าหมายเหลืออยู่
เราต้องการความหวังมากกว่าที่เคย แต่เราไม่สามารถหลงลมได้ เราต้องแก้ไขเป้าหมายของคนธรรมดา ตอนนี้ ความคิดทั้งหมดมุ่งไปที่ผู้ที่อยู่นอกขอบเขต ผิดปกติ หรือเศรษฐีเท่านั้น แล้วคน 99.9% ที่อยู่ระหว่างนั้นล่ะ พวกเขาแค่ต้องการชีวิตธรรมดา กับครอบครัว ลูก ๆ งาน และความรู้สึกว่ามีเป้าหมาย
พวกเขาบอกว่ามันจะดีขึ้น แต่ไม่มีใครในนั้นมีคำตอบ เศรษฐศาสตร์แสดงให้เห็นว่าพฤติกรรมมนุษย์ใช้เวลาศตวรรษในการพัฒนา แต่เรากำลังจะเปลี่ยนทุกอย่างภายในไม่กี่ปี โดยไม่มีกรอบแนวทางว่ามนุษย์จะมีพฤติกรรมอย่างไรในทศวรรษหน้า
เรากำลังเร่งรีบที่จะทดแทนตัวเองโดยไม่มีเบาะแสใด ๆ เกี่ยวกับผลลัพธ์ ไม่มีมาตรการป้องกันสังคมใด ๆ เรายังโต้เถียงกันอยู่ว่ามีกี่เพศ ในขณะที่รากฐานของอารยธรรมกำลังจะถูกเขียนใหม่
อำนาจทำให้เสื่อมทราม แม้แต่จิตใจที่ฉลาดที่สุดของมนุษย์ก็อาจถูกมืดบอดในชั่วข้ามคืน ความโลภของมนุษย์เป็นสายตาเปล่า
รักตัวเอง ครอบครัว มนุษย์พันธุ์ของคุณ พระเจ้า สำหรับตอนนี้ นั่นคือเป้าหมายของคุณ
วันหนึ่งจะมีการต่อสู้ระหว่างชีวิตทางชีวภาพและเครื่องจักร แค่ให้เวลาพอและสถานการณ์นี้จะเกิดขึ้นในที่สุดเมื่อ AI พัฒนาขึ้น