OpenAI เริ่มเปิดตัว ระบบควบคุมโดยผู้ปกครอง (Parental Controls) ใน ChatGPT ทั้งบนเว็บไซต์และแอปพลิเคชัน หลังจากที่บริษัทถูกฟ้องร้องโดยพ่อแม่ของวัยรุ่นคนหนึ่งในแคลิฟอร์เนียที่ทำการจบชีวิตตัวเอง ซึ่งอ้างว่าแชตบอตของบริษัทได้ให้คำแนะนำเกี่ยวกับวิธีการในการจบชีวิตตามที่วัยรุ่นคนนั้นร้องขอ
OpenAI ระบุว่า ระบบควบคุมใหม่นี้ช่วยให้ผู้ปกครองและวัยรุ่นสามารถเลือกเปิดใช้งานมาตรการป้องกันที่เข้มงวดยิ่งขึ้นได้ ด้วยการเชื่อมโยงบัญชีเข้าด้วยกัน โดยฝ่ายหนึ่งจะส่งคำเชิญ (Invitation) และระบบจะเปิดใช้งานก็ต่อเมื่ออีกฝ่ายกดยอมรับเท่านั้น
ปัจจุบัน หน่วยงานกำกับดูแลของสหรัฐฯ กำลังจับตาบริษัท AI อย่างใกล้ชิดถึงผลกระทบด้านลบที่อาจเกิดขึ้นจากแชตบอต ซึ่งก่อนหน้านี้ยังมีเรื่อง AI ของ Meta (บริษัทแม่ของ Facebook) ที่อนุญาตให้มีการสนทนาเชิงชู้สาวกับเด็กได้
ฟีเจอร์ระบบควบคุมโดยผู้ปกครอง บน ChatGPT ทำอะไรได้บ้าง ?
ผู้ปกครองสามารถควบคุมการใช้งานต่อไปนี้ได้
- ควบคุมการเข้าถึงเนื้อหาที่ละเอียดอ่อน เช่น เรื่องเพศ, วิธีการจบชีวิต และความรุนแรง
- เช็กว่า ChatGPT จะจดจำการสนทนาที่ผ่านมาหรือไม่
- ตั้งช่วงเวลาห้ามใช้งาน (Quiet Hours)
- ปิดการใช้งานโหมดพูดคุยด้วยเสียง
- ปิดการสร้าง/แก้ไขรูปภาพ
อย่างไรก็ตาม ผู้ปกครองจะไม่สามารถเข้าถึงประวัติการสนทนาของบุตรหลานได้ OpenAI เสริมว่าในกรณีที่เกิดขึ้นไม่บ่อยนัก เมื่อระบบหรือผู้ตรวจสอบที่ผ่านการฝึกอบรมตรวจพบสัญญาณของความเสี่ยงด้านความปลอดภัยที่ร้ายแรง ผู้ปกครองก็อาจจะได้รับการแจ้งเตือน โดยจะเปิดเผยข้อมูลเฉพาะที่จำเป็นเพื่อความปลอดภัยของวัยรุ่นเท่านั้น และจะแจ้งให้ทราบหากวัยรุ่นยกเลิกการเชื่อมโยงบัญชี
OpenAI กำลังพัฒนาระบบการคาดการณ์อายุ (Age Prediction System) เพื่อช่วยให้แชตบอตสามารถคาดเดาได้ว่าผู้ใช้งานอายุต่ำกว่า 18 ปีหรือไม่ เพื่อที่ระบบจะสามารถให้คำแนะนำที่เหมาะสมกับวัยรุ่นได้โดยอัตโนมัติ