ตอนนี้คนที่ออกมาเตือนว่า AI อาจฉลาดจนมนุษย์ควบคุมไม่อยู่ กำลังจะเข้าไปนั่งอยู่ในบอร์ดของ OpenAI เองแล้ว
เพราะล่าสุด OpenAI ประกาศว่า พอล คริสเตียโน (Paul Christiano) นักวิจัยด้าน AI Safety และอดีตพนักงานของ OpenAI จะเข้ามาเป็นกรรมการของ OpenAI Foundation และเข้าร่วมคณะกรรมการด้านความปลอดภัยของบริษัทด้วย
คริสเตียโนไม่ใช่คนที่มองความเสี่ยงของ AI แบบเบา ๆ เพราะก่อนหน้านี้เขาออกมาเตือนว่า การพัฒนา AI ที่เร็วขึ้นเรื่อย ๆ อาจทำให้มนุษย์สูญเสียการควบคุม AI ได้ และถ้า AI ในอนาคตฉลาดกว่ามนุษย์มาก ๆ แต่ไม่ได้ทำตามเป้าหมายที่มนุษย์ต้องการ เรื่องนี้อาจกลายเป็นปัญหาใหญ่ได้
เขายังมองว่าตอนนี้อุตสาหกรรม AI รวมถึง OpenAI เอง ยังไม่ได้เตรียมพร้อมมากพอที่จะรับมือกับความเสี่ยงนี้ และเคยเตือนว่าถ้ามนุษย์สร้าง AI ที่ฉลาดกว่ามนุษย์มาก ๆ โดยที่ยังควบคุมมันไม่ได้ ก็อาจเกิดผลกระทบร้ายแรงตามมา
แต่คริสเตียโนไม่ได้เป็นแค่นักวิจัยที่ออกมาเตือนเรื่องนี้จากข้างนอก เพราะเขาเคยทำงานที่ OpenAI และเป็นหนึ่งในคนที่มีส่วนพัฒนา RLHF หรือวิธีที่ให้มนุษย์สอนและปรับพฤติกรรมของ AI ก่อนออกจากบริษัทในปี 2021 จากนั้นเขาก็ไปก่อตั้ง Alignment Research Center เพื่อศึกษาว่าจะทำยังไงให้ AI ยังอยู่ภายใต้การควบคุมของมนุษย์
นอกจากงานวิจัยแล้ว คริสเตียโนยังเคยทำงานกับรัฐบาลสหรัฐฯ เป็นที่ปรึกษาด้านเทคนิคอาวุโสของ Center for AI Standards and Innovation ที่ทำงานเกี่ยวกับการประเมิน AI รุ่นใหม่ และความเสี่ยงที่อาจตามมา
และตอนนี้เขากำลังกลับเข้ามาใน OpenAI อีกครั้ง แต่ในฐานะคนที่ช่วยดูเรื่องความปลอดภัยของ AI โดยตรง โดยเขาจะเข้าร่วมคณะกรรมการด้านความปลอดภัยที่มีหน้าที่ดูแลเรื่องความปลอดภัยของ OpenAI รวมถึงการพัฒนาและการเอา AI รุ่นใหม่ไปใช้งาน
คริสเตียโนบอกว่าการเข้ามารับตำแหน่งครั้งนี้ไม่ได้แปลว่าเขาคิดว่า OpenAI จัดการเรื่องความปลอดภัยได้ดีหมดแล้ว แต่เขามองว่าถ้า OpenAI ทำเรื่องนี้ได้ดีขึ้น ก็จะช่วยลดความเสี่ยงจาก AI ที่กำลังพัฒนาเร็วขึ้นเรื่อย ๆ ได้
เรื่องนี้เลยน่าสนใจตรงที่ คนที่กำลังกังวลว่า AI อาจหลุดจากการควบคุม กลับเข้ามาอยู่ในทีมที่กำลังพัฒนา AI ที่ทรงพลังที่สุดทีมหนึ่งของโลก
แล้วการดึงคนที่มองเห็นความเสี่ยงของ AI จากข้างในเข้ามาช่วยตัดสินใจ จะช่วยให้ OpenAI ปลอดภัยขึ้นจริงไหม หรือแม้แต่คนในวงการเองก็เริ่มกังวลกับความเร็วของ AI มากขึ้นแล้ว
