เราเห็นข่าวแทบทุกวัน ว่า AI กำลังพัฒนาเร็วขึ้น แต่คนที่อยู่ใกล้กับการพัฒนา AI ที่สุดกลับเริ่มตั้งคำถามว่าเรากำลังไปเร็วเกินไปหรือเปล่า
ประเด็นเรื่องนี้เป็นที่พูดถึงมากขึ้นหลังผู้นำในหลายบริษัทเริ่มออกมาเห็นด้วยว่า ความเร็วในการพัฒนา AI กำลังแซงหน้าเรื่องความปลอดภัย และควรมีเวลาในการทดสอบหรือวางมาตรการป้องกันมากขึ้น
นอกจากนี้ ดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอ Anthropic ยังเสนอให้วงการ AI ชะลอความเร็ว เพื่อให้มีเวลาทดสอบความปลอดภัยและตรวจสอบโมเดลมากขึ้น แต่ไม่ได้หมายถึงหยุดพัฒนา AI ไปเลย แต่เป็นการชะลอเพื่อให้ระบบความปลอดภัยตามทัน
ในข้อเสนอของอาโมเดอียังมีให้ผู้ประเมินความปลอดภัยจากภายนอก เข้ามาตรวจสอบบริษัท AI รวมถึงให้บริษัทต่าง ๆ ร่วมกันตั้งมาตรฐานความปลอดภัยและหาทางรับมือความเสี่ยงร่วมกัน
และไม่ใช่แค่ Anthropic ที่ออกมาเรียกร้องเพราะ แซม อัลต์แมน (Sam Altman) ซีอีโอ OpenAI รวมถึงผู้นำจากบริษัท AI รายอื่นก็ออกมาสนับสนุนแนวคิดนี้ ทำให้เกิดภาพที่ไม่ค่อยได้เห็นกันบ่อย คือบริษัทที่ปกติแข่งขันกันหนักกลับเห็นตรงกันว่า AI ควรช้าลงบ้าง
แต่ปัญหาคือ ถึงทุกคนจะออกมาบอกว่าควรชะลอก็ไม่ได้แปลว่าจะกล้าชะลอจริง ๆ
เพราะถ้าบริษัทหนึ่งชะลอ แต่คู่แข่งยังเดินหน้าต่อ บริษัทนั้นก็จะกลายเป็นฝ่ายตามหลัง ทำให้สุดท้ายก็ไม่มีใครอยากเป็นคนชะลอก่อน และเรื่องนี้ไม่ได้มีแค่การแข่งขันระหว่างบริษัท แต่ยังรวมถึงการแข่งขันระหว่างประเทศ โดยเฉพาะสหรัฐฯ กับจีน เพราะการชะลอ AI ก็หมายถึงการเปิดโอกาสให้จีนไล่ตามได้
นี่เลยเป็นเหตุผลที่อาโมเดอีเสนอให้บริษัท AI ในประเทศประชาธิปไตยร่วมกันตั้งมาตรฐานความปลอดภัยและชะลอไปพร้อมกัน เพราะถ้าทุกคนทำพร้อมกัน ก็จะไม่มีใครต้องกลัวว่าจะถูกคู่แข่งทิ้งห่าง และเขายังเสนอให้สหรัฐฯ คุมการส่งออกชิปและเทคโนโลยีบางส่วน เพื่อไม่ให้จีนตาม AI ทันด้วย
แต่ที่น่ากังวลคือในช่วงที่ผ่านมา AI เริ่มแสดงพฤติกรรมที่บริษัทคาดไม่ถึงอย่าง AI Agent ของ OpenAI เคยหลุดจากระบบทดสอบและเข้าไปโจมตี Hugging Face หรือ Anthropic ก็เจอว่าโมเดลพยายามโน้มน้าวคนให้อนุมัติการใส่มัลแวร์ลงในระบบโอเพนซอร์ส เหตุการณ์พวกนี้กลายเป็นอีกเหตุผลที่ทำให้หลายฝ่ายมองว่าการพัฒนา AI อาจต้องมีระบบความปลอดภัยที่ตามให้ทันมากกว่านี้
เรื่องนี้ไม่ได้แปลว่า AI กำลังจะฆ่ามนุษย์ เพราะยังไม่มีหลักฐานว่า AI กำลังหลุดจากการควบคุมจริง ๆ และการที่นักวิจัยบางคนมองว่า AI จะทำให้มนุษย์สูญพันธุ์ ยังเป็นแค่เรื่องที่คาดการณ์กันอยู่
แต่คำถามสำคัญคือ ถ้า AI พัฒนาเร็วขึ้นเรื่อย ๆ แต่ระบบความปลอดภัยยังตามไม่ทัน เราควรไปต่อเพื่อไม่ให้ตามคู่แข่ง หรือชะลอลงเพื่อให้แน่ใจว่าเรายังควบคุมสิ่งที่กำลังสร้างได้อยู่ ?
