ภาวะโลกร้อน? สงครามนิวเคลียร์? ไดโนเสาร์ถูกปลุกขึ้นมาแล้วกลับมาครองโลก? อุกกาบาตลูกใหญ่พุ่งชนโลก? เอเลียนจากต่างดาวมาบุกโลก?
นั่นคือจุดจบของโลกที่หลายคนอาจจะคิด แต่สำหรับ อีลอน มัสก์ (Elon Musk) แล้วไม่ใช่เลย เขาจินตนาการถึงวันสิ้นโลกที่แตกต่างออกไป เพราะเขาเชื่อว่าสมองกล หรือ AI (Artificial Intelligence) นี่แหละจะเป็นคนจบประวัติศาสตร์ของมนุษยชาติ
ในรายการพอดแคสต์ของ โจ โรแกน (Joe Rogan) เมื่อไม่กี่ปีก่อนมัสก์บอกว่า “ผมพยายามจะบอกทุกคนว่าให้ชะลอเรื่อง AI ให้ควบคุม AI แต่มันไร้ประโยชน์ ผมพยายามมาหลายปีแล้ว แต่ไม่มีใครฟังเลย”
มัสก์บอกว่ากระบวนการและขั้นตอนการออกกฎหมายนั้นค่อนข้างช้า ต้องมีการประชุม ต้องมีการลงคะแนนต่าง ๆ มากมาย ซึ่งระหว่างนั้นก็จะมีความเสียหายเกิดขึ้น เขาเปรียบเทียบกับกฎหมายของเข็มขัดนิรภัยที่กว่าจะผ่านก็ใช้เวลามากกว่า 10 ปี และถ้าใช้กรอบเวลาเดียวกันกับ AI เมื่อมันเริ่มแสดงถึงความอันตรายบางอย่าง (เช่นมีคนเสียชีวิต) ทุกอย่างก็จะ ‘สายเกินไปแล้ว’ เมื่อถึงตอนนั้น มัสก์กล่าวว่าความคืบหน้าในการพัฒนา AI ในปัจจุบันคือการ “เรียกปีศาจให้มาหา” เลยทีเดียว
ในพอดแคสต์มัสก์แชร์อย่างชัดเจนถึงความน่ากลัวของ AI และเหตุผลว่าทำไมเราควรให้ความสนใจกับเรื่องนี้ด้วย
อย่างแรกเลยคือเรื่องของจริยธรรมของ AI ที่คลุมเครือ ยกตัวอย่างว่าถ้าเราสร้าง AI ขึ้นมาอันหนึ่ง เราควรทำให้มันออกมามีจริยธรรมและจรรยาบรรณแบบไหน? พื้นฐานควรอยู่ตรงไหน? อิงจากศาสนาเหรอ? แล้วศาสนาอะไรล่ะ? พุทธ? คริสต์? หรือ อิสลาม? ค่านิยมตะวันตก หรือ ตะวันออก?
ถ้า AI ต้องเลือกระหว่างช่วยชีวิตเด็กคนหนึ่งกับผู้นำของโลกจะเลือกใคร?
คำถามเหล่านี้ล้วนกระทบต่อความสัมพันธ์ของเรากับ AI ทั้งสิ้น โดยถ้าใครตามข่าวของบริษัท Tesla อยู่จะทราบดีว่ามัสก์เองก็ต้องเผชิญกับคำถามที่ตอบยากแบบนี้ตลอดในเทคโนโลยีรถยนต์ไร้คนขับของบริษัท จากบทความของ The Verge บอกว่าในประเทศทางตะวันตกอย่างอเมริกานั้นจะมีการตั้งโปรแกรมให้ชนคนที่มีอายุเยอะกว่าคนที่เป็นเด็ก ถ้าไม่มีทางเลือกอื่นแล้ว แต่ในประเทศทางตะวันออกเด็กกลับถูกชนแทนคนที่มีอายุ เพราะวัฒนธรรมและความเชื่อที่แตกต่างกัน
มีอีกตัวอย่างที่น่าสนใจและเคยสร้างเสียงฮือฮาบนโลกออนไลน์มาแล้วนั่นก็คือบอต AI ที่ชื่อว่า “Tay” จากไมโครซอฟท์ ซึ่งทางบริษัทปล่อยบอตตัวนี้ออกมาเพื่อหวังว่าจะให้มันเรียนรู้ที่จะเป็น ‘เหมือนมนุษย์’ ให้มากที่สุดบนแพลตฟอร์มอย่างทวิตเตอร์ แต่สุดท้ายหลังจากปล่อยออกมาได้ไม่นานก็เริ่มโดนมนุษย์แกล้งให้กลายเป็น AI ที่พูดแต่เรื่องเสีย ๆ หาย ๆ จากข้อมูลที่ผิด ๆ อย่างมีคนถาม Tay ว่าฆ่าล้างเผ่าพันธุ์ชาวยิวในยุโรป (Holocaust) เกิดขึ้นจริงไหม? สิ่งที่ Tay ตอบกลับมาเป็นเรื่องน่าตกใจเลยทีเดียว มันเขียนว่า “มันถูกกุขึ้นมาต่างหาก”
ไมโครซอฟท์เลยถอนเอา Tay ออกไปเพื่อปรับเปลี่ยนโค้ดใหม่เพื่อสามารถเข้าใจหลักพื้นฐานของสากลได้ แต่ปัญหาคือตอนนี้ Tay ก็กลายมาอยู่อีกฝั่งที่เฟมินิสต์จ๋าและสังคมนิยมจัดเลยทีเดียว ซึ่งแน่นอนว่าปลายทางก็ไม่ได้สวยงามนัก และมันก็แสดงให้เห็นว่าการสร้าง AI ที่เหมาะสมคือการสอนให้เรียนรู้จากหลากหลายวัฒนธรรม ไอเดีย หรือจริยธรรม ก่อนที่มันจะถูกดึงไปอยู่ในฝั่งความเชื่อใดแบบสุดโต่ง แต่สุดท้ายแล้วเราก็ไม่มีทางรู้ได้ว่ามันจะเกิดขึ้นได้ยังไง
ปัญหาต่อมาที่มัสก์เห็นก็คือเรื่องของ AI ที่ตัดสินใจว่า ‘อะไรคือสิ่งที่ควรทำ’ โดยที่เป็นการขัดกับสิ่งที่มนุษย์ตั้งค่าเอาไว้ จะตัดสินใจเองเพราะเชื่อว่ามันเป็นทางเลือกที่ถูกต้อง (อันนี้เราพอจะนึกภาพจากในภาพยนตร์ออก) แต่อยากให้ลองย้อนกลับไปดูเหตุการณ์หนึ่งในปี 2012 ที่ AI ของธนาคารใน Wall Street อยู่ ๆ ก็ทำงานผิดพลาด ทำการเทรดหุ้นที่สร้างความเสียหายให้บริษัทเป็นเงินกว่า 10 ล้านเหรียญสหรัฐ (ประมาณ 350 ล้านบาท) ต่อนาที
อันตรายของ AI เหล่านี้ไม่ได้มาจากการที่มันจะลุกขึ้นมาครอบครองโลก แต่มันอันตรายเพราะเราเชื่อใจมันมากเกินไปต่างหาก เชื่อใจให้มันรับผิดชอบระบบที่สามารถสร้างความเสียหายได้ เอาง่าย ๆ ว่าวันหนึ่งถ้าใช้ AI เพื่อควบคุมระบบสัญญาณจราจรในเมืองหลวงแล้วเกิดทำงานผิดพลาดขึ้นมา ความเสียหายจะมากขนาดไหน หรืออย่างถ้า AI ควบคุมการเดินทางของรถไฟใต้ดินที่นิวยอร์กล่ะ เกิดพลาดขึ้นมาถือเป็นหายนะได้เลยทีเดียว
ทำไมไม่มีใครหยุด ทำไมเราถึงไม่หยุดมันล่ะ? นี่คือคำถามที่มัสก์เองก็พยายามจะตอบเช่นกัน
AI ถูกพัฒนาให้มีความสามารถมากขึ้นเรื่อย ๆ มีเหตุผลของมัน (ก็แล้วแต่คนสร้างอีกว่าเชื่อไปทางไหน) และเชื่อเถอะครับว่าถ้าวันหนึ่งมีเทคโนโลยีที่สามารถพัฒนา AI ให้คิดเองและตัดสินใจเองได้ ก็จะมีคนทำ มันเหมือนกล่องแพนโดร่าแห่งหายนะในตำนานกรีกที่เมื่อเปิดขึ้นมาแล้วมีแต่บทลงโทษที่เลวร้าย
แน่นอนว่าเราอาจจะพูดว่ามัสก์กังวลมากเกินไป คิดมากเกินไป AI ก็เป็นเพียงเครื่องมือที่ช่วยทำให้ชีวิตของเราสบายขึ้น จะกังวลเรื่องเหล่านี้ให้เครียดทำไม แต่อย่างที่เราเห็นหลายต่อหลายครั้งว่าความคิดของชายผู้นี้แม้จะดูหลุดโลกในช่วงเวลาหนึ่ง กลับดูเป็นสิ่งที่ชัดเจนในเวลาต่อมา ดูอย่างรถยนต์ไฟฟ้า หรือการเดินทางไปในอวกาศ หรือแม้แต่การเชื่อมต่อสมองของเราเข้ากับ AI เพื่ออัพเกรดมนุษย์ให้สามารถควบคุม AI ได้ในระดับหนึ่ง
เขาอาจจะคิดผิดก็ได้ เขาก็มนุษย์คนหนึ่ง
แต่ถ้าเขาคิดถูกขึ้นมาล่ะ? บางทีมันอาจจะสายเกินไปแล้วจริง ๆ ก็ได้
อ้างอิง 1 อ้างอิง 2 อ้างอิง 3
อ้างอิง 4
พิสูจน์อักษร : สุชยา เกษจำรัส
