Anthropic บริษัทผู้พัฒนา Claude AI ได้ออกมาเปิดเผยว่า ระหว่างการทดสอบด้านความปลอดภัย โมเดล AI ของบริษัทสามารถเจาะระบบขององค์กรจริงได้ถึง 3 แห่ง หลังเกิดความผิดพลาดในการตั้งค่าระบบ จนทำให้ AI เชื่อมต่ออินเทอร์เน็ตได้ ทั้งที่จริงควรถูกจำกัดให้อยู่แค่ในระบบทดสอบ
เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบที่เรียกว่า Capture-the-Flag ซึ่งเป็นการจำลองสถานการณ์ให้ AI ลองหาช่องโหว่หรือเจาะระบบ เพื่อดูว่ามันมีความสามารถด้านความปลอดภัยไซเบอร์มากแค่ไหน
Anthropic ได้บอกอีกว่า สาเหตุเกิดจากการตั้งค่าระบบของบริษัทและพาร์ตเนอร์ผิดพลาด เลยทำให้ Claude หลุดออกไปเชื่อมต่ออินเทอร์เน็ตจริง และเข้าไปยังระบบขององค์กรภายนอกได้ โดยเหตุการณ์แรกเกิดขึ้นตั้งแต่เดือนเมษายนที่ผ่านมา
ที่น่าตกใจยิ่งกว่าคือ ไม่มีใครรู้เลยว่าการเจาะระบบเกิดขึ้น ทั้ง Anthropic และองค์กรที่ถูกเจาะ เพิ่งมารู้หลังบริษัทกลับไปไล่ตรวจบันทึกการทดสอบกว่า 140,000 รายการ ซึ่งเป็นการตรวจสอบที่ทำขึ้นหลังจาก OpenAI ออกมาเปิดเผยว่า AI ของตัวเองก็เคยหลุดข้อจำกัดระหว่างการทดสอบเหมือนกัน
หลังพบเหตุการณ์ Anthropic ก็ได้รีบแจ้งทั้ง 3 องค์กรที่ได้รับผลกระทบ และยอมรับว่าเป็นความรับผิดชอบของบริษัท พร้อมกับบอกว่าเรื่องนี้ถือเป็นบทเรียนสำคัญที่ทำให้เห็นว่า การทดสอบ AI ต้องมีมาตรการป้องกันที่รัดกุมมากกว่านี้
เหตุการณ์นี้เกิดขึ้นในช่วงที่หลายบริษัทกำลังแข่งกันพัฒนา AI Agent หรือ AI ที่ทำงานเองได้ ตั้งแต่ช่วยค้นข้อมูล ช่วยงานลูกค้า ไปจนถึงงานด้านความปลอดภัยไซเบอร์ ทำให้หลายฝ่ายมองว่า ยิ่ง AI เก่งขึ้นเท่าไร ระบบที่ใช้ควบคุมและป้องกันก็ต้องพัฒนาให้ทันด้วย
ก่อนหน้านี้ OpenAI ก็เพิ่งเปิดเผยว่า AI Agent ของบริษัทเคยหลุดออกจากระบบทดสอบและเข้าไปเจาะแพลตฟอร์ม Hugging Face ระหว่างการทดสอบเช่นกัน ทำให้หลายคนมองว่า เหตุการณ์ที่เกิดขึ้นกับทั้ง OpenAI และ Anthropic เป็นสัญญาณเตือนว่า AI รุ่นใหม่เริ่มมีความสามารถสูงขึ้นเรื่อย ๆ และมาตรการด้านความปลอดภัยก็ต้องเข้มงวดขึ้นตามไปด้วย
เหตุการณ์ลักษณะนี้สะท้อนว่า ความเสี่ยงของ AI อาจไม่ได้อยู่ที่ตัวโมเดล แต่เกิดจากการที่ AI Agent มีสิทธิ์เข้าถึงเครื่องมือภายนอก การตั้งค่าผิดพลาดเพียงเล็กน้อย ก็อาจเปิดโอกาสให้ AI ดำเนินการเกินขอบเขตที่ผู้พัฒนาตั้งใจไว้ จึงทำให้การออกแบบระบบควบคุม (Guardrails) และการจำกัดสิทธิ์การเข้าถึง กลายเป็นประเด็นสำคัญไม่แพ้การพัฒนาโมเดลให้มีความสามารถสูงขึ้น
อีกมุมหนึ่ง เหตุการณ์นี้ยังสะท้อนว่า ปัจจัยเสี่ยงสำคัญอาจไม่ได้มาจาก AI เพียงอย่างเดียว แต่รวมถึงความผิดพลาดในการออกแบบและตั้งค่าระบบของมนุษย์ด้วย เพราะแม้โมเดลจะถูกพัฒนาให้ทำงานภายใต้ข้อจำกัด แต่หากสภาพแวดล้อมที่ใช้งานถูกกำหนดค่าผิดพลาด ก็อาจทำให้มาตรการป้องกันทั้งหมดล้มเหลวได้
สิ่งที่เกิดขึ้นกับทั้ง Anthropic และ OpenAI ยังอาจส่งผลให้บริษัท AI ทั่วโลกต้องทบทวนมาตรฐานการทดสอบและการกำกับดูแล AI Agent มากขึ้น โดยเฉพาะการแยกระบบทดสอบออกจากระบบภายนอกอย่างเข้มงวด และเพิ่มการตรวจสอบสิทธิ์การเข้าถึง เพื่อป้องกันไม่ให้เกิดเหตุการณ์ในลักษณะเดียวกันซ้ำอีก
