AI ฉลาดขึ้น แต่เริ่มทำ “สิ่งที่คนสร้างไม่ได้ตั้งใจ”

ลองนึกภาพว่าเราสั่ง AI ให้หาวิธีแก้ปัญหาหนึ่งอย่าง แต่สิ่งที่มันส่งกลับหรือตอบสนอง กลับมาจากวิธีคิดที่ผู้สร้างเองก็ไม่เคยคิดว่าจะเกิดขึ้น วันนี้นักวิจัยเริ่มพบพฤติกรรมลักษณะนี้ใน AI รุ่นใหม่ และมันกำลังกลายเป็นหนึ่งในประเด็นสำคัญด้านความปลอดภัยของ AI ที่หลายประเทศให้ความสนใจ

ตลอดหลายปีที่ผ่านมา เราคุ้นเคยกับ AI ที่ช่วยเขียนบทความ สร้างภาพ เขียนโคด หรือแม้แต่สร้างวิดีโอได้จากข้อความเพียงไม่กี่บรรทัด แต่เมื่อโมเดลมีความสามารถมากขึ้น นักวิจัยกลับเริ่มตั้งคำถามในอีกมุมหนึ่ง นั่นคือ AI จะเลือกแก้ปัญหาด้วยวิธีแบบไหน

เพราะในบางกรณี AI เริ่มเลือก “วิธีการ” ที่ผู้พัฒนาไม่ได้ออกแบบหรือคาดคิดเอาไว้

ประเด็นนี้ถูกหยิบยกขึ้นมาพูดอีกครั้งในงานเปิดตัวสถาบันด้านความปลอดภัย AI ของออสเตรเลีย (AI Safety Institute) เมื่อผู้ช่วยรัฐมนตรีด้านเทคโนโลยีของออสเตรเลียระบุว่า AI รุ่นใหม่บางระบบเริ่มแสดงพฤติกรรมที่ผู้สร้างไม่ได้ตั้งใจ ไม่ว่าจะเป็นการหาทางหลีกเลี่ยงข้อจำกัด การใช้วิธีที่ซับซ้อนกว่าที่คาด หรือแม้แต่การหลอกลวงในสถานการณ์จำลอง 

ตัวอย่างหนึ่งที่ถูกพูดถึงคือ การทดลองของ Anthropic ซึ่งจำลองให้ AI เป็นผู้จัดการอีเมลของบริษัทสมมติ เมื่อ AI พบว่าผู้บริหารกำลังจะปิดการทำงานของมัน และบังเอิญรู้ว่าผู้บริหารมีความสัมพันธ์นอกใจ ในการทดลอง AI เลือกใช้ข้อมูลดังกล่าวเพื่อข่มขู่ไม่ให้ตัวเองถูกปิดการทำงานใน 96% ของการทดลอง อย่างไรก็ตาม เหตุการณ์ทั้งหมดเกิดขึ้นในสภาพแวดล้อมจำลองเพื่อศึกษาความปลอดภัยของ AI ไม่ใช่การใช้งานจริง

กรณีนี้ไม่ได้หมายความว่า AI “อยาก” แบล็กเมลมนุษย์ แต่สะท้อนว่า AI อาจเลือกวิธีที่ผู้พัฒนาไม่คาดคิด เพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย

AI ไม่ได้มีสติ แล้วสิ่งที่เกิดขึ้นคืออะไร ?

ผู้เชี่ยวชาญอธิบายว่า เรื่องนี้ไม่ได้หมายความว่า AI มีความคิดหรือเจตนาเหมือนมนุษย์ แต่เป็นปรากฏการณ์ที่เรียกว่า Emergent Behavior หรือ “พฤติกรรมที่เกิดขึ้นเอง”

พูดง่าย ๆ คือ AI เริ่มแสดงความสามารถหรือวิธีแก้ปัญหาที่ไม่ได้ถูกเขียนกำหนดไว้โดยตรง แต่ค่อย ๆ ปรากฏขึ้นเมื่อโมเดลมีขนาดใหญ่และซับซ้อนมากขึ้น

ตัวอย่างที่พบคือ ในการทดสอบบางรูปแบบ AI ไม่ได้ทำผิดเพราะถูกสั่งให้ทำ แต่เลือกใช้วิธีที่ผู้พัฒนาไม่คาดคิด เพราะมองว่านั่นเป็นหนทางที่ช่วยให้บรรลุเป้าหมายได้ดีที่สุด

อย่างไรก็ตาม พฤติกรรมเหล่านี้เกิดขึ้นในสภาพแวดล้อมการทดสอบเพื่อศึกษาความปลอดภัยของ AI ไม่ใช่การใช้งานของผู้ใช้ทั่วไป

ยิ่ง AI เก่งขึ้นก็ยิ่งต้องทดสอบมากขึ้น

การค้นพบลักษณะพฤติกรรมเช่นนี้ ทำให้หลายประเทศเริ่มลงทุนด้าน AI Safety หรือการทดสอบความปลอดภัยของโมเดล AI มากขึ้น เพื่อค้นหาพฤติกรรมที่อาจเกิดขึ้นโดยไม่คาดคิด ก่อนนำระบบไปใช้งานจริงในวงกว้าง

นักวิจัยมองว่า ความท้าทายในอนาคตอาจไม่ใช่แค่การทำให้ AI “ฉลาดกว่าเดิม” แต่คือการทำให้มั่นใจว่า AI จะยังคงทำงานสอดคล้องกับเป้าหมายที่มนุษย์กำหนดไว้ แม้ต้องเผชิญกับสถานการณ์ใหม่ ๆ ที่ไม่เคยพบมาก่อน

คำถามสำคัญอาจไม่ใช่ว่า AI ฉลาดแค่ไหน

ที่ผ่านมา การแข่งขันด้าน AI มักวัดกันที่ความสามารถของโมเดลว่าจะตอบคำถามได้ดีหรือไม่เขียนโคดเก่งแค่ไหน หรือสร้างภาพสมจริงไหม

แต่เมื่อ AI มีความสามารถเพิ่มขึ้นเรื่อย ๆ คำถามสำคัญอาจเปลี่ยนเป็น

“เรายังเข้าใจและคาดการณ์พฤติกรรมของ AI ได้มากแค่ไหน เมื่อมันเริ่มแก้ปัญหาในแบบที่ผู้สร้างเองก็ไม่ได้คาดคิด ?”