Internet Watch Foundation (IWF) หรือองค์กรต่อต้านสื่อลามกอนาจารเด็กทางอินเทอร์เน็ต เจอภาพเด็กผู้หญิงที่อายุระหว่าง 11 ถึง 13 ปี เป็นภาพลักษณะลามกในเว็บไซต์ผิดกฎหมาย ซึ่งทราบภายหลังว่าภาพเหล่านี้ถูกสร้างขึ้นมาด้วย Grok !
ความน่ากลัวคือภาพเหล่านี้ถูกสร้างขึ้นมาอย่างแนบเนียน ไม่ว่าจะเป็นภาพเด็กผู้หญิงเปลือยท่อนบน หรือภาพแนวโป๊เปลือยอื่น ๆ ซึ่งทาง IWF เจอภาพเหล่านี้จากดาร์กเว็บ ไม่ได้ปรากฏบนหน้าฟีดของ X โดยตรง IWF จึงออกมาเตือนว่า Grok AI อาจกลายเป็นเครื่องมือผลิตสื่อลามกอนาจารเด็ก
แต่ความน่ากังวลยังไม่จบอยู่แค่นั้น เพราะนอกเหนือจากประเด็นเรื่องเด็ก ทาง BBC และ Ofcom (กสทช. ของอังกฤษ) ยังพบรายงานการใช้ Grok บนแพลตฟอร์ม X เพื่อสร้างภาพผู้หญิงให้สวมชุดว่ายน้ำหรืออยู่ในอิริยาบถทางเพศโดยไม่ได้รับความยินยอม เข้าข่าย Deepfake และคุกคามทางเพศ
หน่วยงานกำกับดูแลอย่าง Ofcom ได้ติดต่อแพลตฟอร์ม X เพื่อตรวจสอบประเด็นความปลอดภัย เพราะกรณีนี้มีความเสี่ยงสูงที่ผู้ใช้จะนำ Grok มาใช้ผลิตสื่อลามกเด็กและคุกคามทางเพศหญิง ทางแพลตฟอร์มยืนยันว่าจะรับผิดชอบลบเนื้อหาและระงับบัญชีถาวร พร้อมร่วมมือกับทางรัฐบาล โดยระบุว่าใครก็ตามที่ป้อนคำสั่ง (Prompt) ให้ Grok สร้างเนื้อหาผิดกฎหมาย จะได้รับบทลงโทษเดียวกับผู้ที่อัปโหลดไฟล์ผิดกฎหมายเข้าสู่ระบบ
นิเวศของ X ที่เอื้อต่อการสร้างสื่อลามก ?
แพลตฟอร์ม X เป็นหนึ่งในโซเชียลมีเดียกระแสหลักไม่กี่แห่งที่อนุญาตให้มีเนื้อหาผู้ใหญ่ (NSFW) ได้อย่างถูกกฎระเบียบภายใต้การตั้งค่าที่กำหนดเอง เพราะแบบนี้หลาย ๆ ภาพลามกและ Deepfake ที่เจนมาจาก Grok จึงถูกนำมาโพสต์บน X ด้วยเช่นกัน
แม้ว่ากรณีการเจนภาพเด็กลามกอาจเป็นการสร้างภาพมาเพื่อเสพ และเด็กในภาพไม่มีตัวตนจริง แต่การทำแบบนี้จะเป็นการหล่อเลี้ยงความต้องการของกลุ่มผู้มีรสนิยมใคร่เด็ก ส่งผลให้พฤติกรรมนี้กลายเป็นเรื่องปกติ และท้ายที่สุดอาจวนกลับมาเพิ่มความเสี่ยงให้เด็ก ๆ ในสังคมอยู่ดี
ดังนั้นแม้ Grok จะวางตำแหน่งการตลาดว่าเป็น AI ที่ให้เสรีภาพสูงต่างจากคู่แข่งอย่าง ChatGPT หรือ Gemini สุดท้ายแล้วอาจจะต้องเพิ่มเซนเซอร์และมาตรการในการใช้งานมากขึ้น เพื่อป้องกันปัญหาการคุกคามทางเพศ เพราะปัญหานี้อาจใหญ่กว่าที่เราคิด
