เมื่อไม่นานมานี้ กลุ่มบุคคลสำคัญกว่า 850 คนประกาศเรียกร้องให้มีการห้ามพัฒนา AI ซูเปอร์อัจฉริยะ โดยคำว่า "ซูเปอร์อัจฉริยะ" ถูกนิยามว่าเป็นระบบ AI ที่แสดงประสิทธิภาพที่เหนือชั้นกว่ามนุษย์ในทางปัญญา โดยสามารถทำงานได้ทุกด้านไม่ว่าจะเป็นการตัดสินใจเชิงกลยุทธ์ การเขียนโค้ดใหม่ หรือทำงานโดยไม่ต้องรับการดูแลจากมนุษย์ ซึ่งแตกต่างจากแชทบอทและเครื่องมืออัตโนมัติในปัจจุบันอย่างชัดเจน
การเรียกร้องดังกล่าวจัดทำโดย Future of Life Institute และมีบุคคลสำคัญในวงการเทคโนโลยีลงชื่อสนับสนุน อาทิ Geoffrey Hinton, Yoshua Bengio, คว้ารางวัลโนเบล, Steve Wozniak ผู้ร่วมก่อตั้ง Apple และ Susan Rice อดีตที่ปรึกษาด้านความมั่นคงแห่งชาติของประธานาธิบดีโอบามา การเข้าร่วมของกลุ่มอาชีพต่าง ๆ นี้แสดงให้เห็นว่าปัญหาการกำกับดูแล AI ได้กลายเป็นประเด็นทางการเมืองที่มีความสำคัญมากขึ้น
Yuval Noah Harari นักเขียนและศาสตราจารย์จากมหาวิทยาลัยฮีบรูในกรุงเยรูซาเล็ม ซึ่งเป็นหนึ่งในผู้ลงชื่อในจดหมายเปิดเผย กล่าวเพิ่มเติมว่า "ซูเปอร์อัจฉริยะอาจทำให้ระบบการทำงานของมนุษยชาติพังทลาย ไม่จำเป็นที่จะต้องก้าวไปถึงขั้นนั้น เราควรมุ่งเน้นไปที่การพัฒนาเครื่องมือ AI ที่สามารถควบคุมได้เพื่อช่วยมนุษย์ได้อย่างปลอดภัยและมีประสิทธิภาพ"
อย่างไรก็ตาม ไม่มีผู้บริหารระดับสูงจากบริษัท AI ใหญ่ ๆ อย่าง OpenAI, Anthropic, Google, Meta และ Microsoft อยู่ในรายชื่อผู้ลงนามครั้งนี้ ซึ่งสะท้อนถึงความขัดแย้งที่เพิ่มขึ้นระหว่างกลุ่มที่พัฒนาระบบ AI ขั้นสูงและกลุ่มที่เรียกร้องให้มีการจำกัดการพัฒนา AI ซูเปอร์อัจฉริยะ
สำหรับภาคธุรกิจ ขณะนี้บริษัทต่าง ๆ ได้ลงทุนหนักในโครงสร้างพื้นฐานด้าน AI ซึ่ง Mark Zuckerberg CEO ของ Meta ได้ก่อตั้ง Meta Superintelligence Labs ในเดือนมิถุนายนที่ผ่านมาโดยลงทุนถึง 14.3 พันล้านดอลลาร์ใน Scale AI ขณะที่ Sam Altman CEO ของ OpenAI กล่าวว่า OpenAI กำลังเปลี่ยนโฟกัสไปสู่การพัฒนา AI ซูเปอร์อัจฉริยะ
การเรียกร้องนี้ถือเป็นครั้งที่สองที่ Future of Life Institute ได้ดำเนินการ ในเดือนมีนาคม 2023 มีการเผยแพร่จดหมายเรียกร้องให้หยุดการฝึกฝน AI ที่มีพลังมากกว่า GPT-4 เป็นระยะเวลา 6 เดือน แม้ว่าจะมีผู้ลงชื่อกว่า 30,000 คน แต่บริษัท AI ก็ยังดูเหมือนจะไม่สนใจคำเรียกร้องดังกล่าว
แม้ว่าข้อวิตกเกี่ยวกับซูเปอร์อัจฉริยะจะเป็นปัญหาทางทฤษฎีก็ตาม แต่การวิเคราะห์ชี้ว่ามันยังคงเป็นความเสี่ยงระยะยาว และไม่ใช่เรื่องที่ต้องกังวลในช่วงเวลา 2025-2028
Sanchit Vir Gogia ซีอีโอและนักวิเคราะห์ระดับสูงของ Greyhound Research กล่าวว่า "ซูเปอร์อัจฉริยะยังไม่เป็นความกังวลที่ต้องใช้งานจริงในอนาคตอันใกล้ วิธีการที่มีอยู่ยังเหมาะสมกับ AI ที่เรามีอยู่ในปัจจุบัน" เขายังเน้นว่าหัวข้อศาสตร์ของซูเปอร์อัจฉริยะควรเป็นเรื่องที่ต้องทำโดยหน่วยงานที่เกี่ยวข้องและผู้เชี่ยวชาญด้านจริยธรรม
จดหมายเปิดเผยระบุว่า ซูเปอร์อัจฉริยะอาจก่อให้เกิดความเสี่ยงเกินกว่าการเปลี่ยนแปลงกำลังคนจาก AI "เราขอให้มีการห้ามพัฒนา AI ซูเปอร์อัจฉริยะ จนกว่าจะมีการเห็นพ้องทางวิทยาศาสตร์ว่ามันสามารถออกแบบและควบคุมได้อย่างปลอดภัย" จดหมายระบุ
ความกังวลทั่วไปรอบ ๆ ปัญหานี้เป็นเรื่องของ "alignment problem" ซึ่งเป็นการทำให้แน่ใจว่าระบบที่มีสติปัญญาเกินกว่ามนุษย์จะมีเป้าหมายที่สอดคล้องกับคุณค่าของมนุษย์ งานวิจัยจาก IBM ระบุว่าความพยายามในปัจจุบันอาจไม่เพียงพอสำหรับระบบที่เกินกว่าความฉลาดของมนุษย์
นอกจากนี้ ระบบ AI ที่มีอยู่ก็กำลังเปลี่ยนแปลงแรงงานในภาคธุรกิจอยู่เช่นกัน รายงานจาก Indeed ในเดือนกันยายนเปิดเผยว่า 26% ของการเปิดรับสมัครงานในปีที่ผ่านมาจะเปลี่ยนแปลงเนื่องจาก AI โดยเฉพาะอย่างยิ่งในสาขาเทคโนโลยีและการเงิน ซึ่งมีความเสี่ยงสูงที่สุด
Goldman Sachs Research ประเมินว่า หากมีการขยายการใช้ AI ในเศรษฐกิจ สัดส่วนงานในสหรัฐฯ จะเสี่ยงต่อการถูกแทนที่ถึง 2.5% ในช่วงนี้ Salesforce CEO Marc Benioff กล่าวในเดือนสิงหาคมว่าบริษัทได้ลดจำนวนพนักงานฝ่ายสนับสนุนจาก 9,000 คนลงเหลือ 5,000 คนเนื่องจากความสามารถของ AI
หากมีการห้ามพัฒนาซูเปอร์อัจฉริยะจะทำให้เกิดการเปลี่ยนแปลงในภูมิทัศน์การแข่งขันสำหรับผู้จำหน่าย AI ถ้าหากห้องปฏิบัติการต้องชะลอการพัฒนาซูเปอร์อัจฉริยะ จะทำให้สมดุลการแข่งขันเปลี่ยนไปสู่ผู้ให้บริการที่มีสถาปัตยกรรม AI ที่เหมาะสมเฉพาะทางและสามารถควบคุมได้
Gogia ระบุว่า "ผู้ซื้อในองค์กรแสดงให้เห็นถึงความชื่นชอบอย่างแข็งแกร่งสำหรับโมเดลที่สามารถตรวจสอบได้แทนระบบที่เป็น 'กล่องดำ' โดยเฉพาะในบริบทที่มีข้อบังคับหรือความปลอดภัยสูง หากมีการชะลอการพัฒนาแบบถูกต้องตามกฎหมาย ความต้องการสำหรับโมเดลภาษาขนาดเล็กและสแต็ค AI ที่เป็นอธิปไตยจะเพิ่มขึ้น"
หากมีการห้ามจริงจะส่งผลกระทบต่อเศรษฐกิจอย่างมีนัยสำคัญ Gartner คาดการณ์ว่าการใช้จ่ายด้าน AI ทั่วโลกจะสูงถึง 1.5 ล้านล้านดอลลาร์ในปี 2025 และจะเกิน 2 ล้านล้านดอลลาร์ในปี 2026 โดยได้รับผลจากการลงทุนในศูนย์ข้อมูลขนาดใหญ่และการยอมรับในระดับองค์กร
นอกจากนี้ International Monetary Fund ยังคาดการณ์ว่า AI จะช่วยเพิ่ม GDP โลกโดยประมาณ 0.5% ต่อปีระหว่างปี 2025 ถึง 2030 สำหรับบริษัทในสหรัฐฯแล้ว การห้ามแบบเข้มงวดสามารถทำให้การพัฒนา AI ของจีนทรุดตัว
จีนมีความก้าวหน้าทาง AI ค่อนข้างมากถึงแม้จะมีการจำกัดการส่งออกจากสหรัฐฯ โดยเฉพาะอย่างยิ่งการพัฒนาโมเดลโอเพนซอร์สจากบริษัทอย่าง DeepSeek และ Alibaba ที่เข้ามาทำตลาดในสหรัฐฯ ความก้าวหน้าทาง AI ในจีนอาจลดช่องว่างที่สหรัฐฯ มีอยู่ในปัจจุบันซึ่งถือว่าเป็นผู้นำด้าน AI โดยเฉพาะ AI แบบสร้างสรรค์
สุดท้ายนี้ หากคำเรียกร้องไม่สามารถทำให้เกิดผลตามที่ต้องการ เห็นได้ชัดว่าบริษัทต่าง ๆ จะต้องเตรียมพร้อมกับการบริหารจัดการ AI ที่เป็นหน้าที่ของระดับคณะกรรมการ "เมื่อไม่มีข้อบังคับที่บังคับใช้เกี่ยวกับการพัฒนาและการใช้งาน AI ความรับผิดชอบจะกระจายไปยังระดับองค์กร" Gogia กล่าว
คำแนะนำที่ Gogia เสนอรวมถึงการจัดตั้งสภา AI การสร้างโปรโตคอลเพื่อตอบสนองสถานการณ์ต่าง ๆ และการลงนามในสัญญากับผู้ให้บริการ AI ที่มีข้อกำหนดเฉพาะ เช่น ความโปร่งใสของชุดข้อมูลและสิทธิตรวจสอบ
ข่าวเทคโนโลยีที่เกิดขึ้นในขณะนี้ เป็นสัญญาณบ่งบอกถึงการเปลี่ยนแปลงที่สำคัญในอุตสาหกรรมเทคโนโลยี AI ซึ่งต้องเฝ้าติดตามความเคลื่อนไหวและผลกระทบที่จะเกิดขึ้นอย่างต่อเนื่อง
