ทุกวันนี้หลายคนไว้ใจให้ AI ช่วยตอบคำถามหรือให้คำแนะนำเรื่องต่าง ๆ แต่ถ้าคำตอบที่ได้กลับกลายเป็นอันตรายแทนล่ะ ? เพราะล่าสุด ChatGPT กำลังถูกตั้งคำถามเรื่องความปลอดภัย หลังมีข้อกล่าวหาว่าการใช้งานอาจส่งผลกระทบต่อเด็ก และคนที่กำลังมีปัญหาทางอารมณ์
คดีนี้มาจาก 8 รัฐในสหรัฐฯ ทั้งรัฐแอริโซนา รัฐอาร์คันซอ รัฐไอดาโฮ รัฐไอโอวา รัฐแคนซัส รัฐมอนแทนา รัฐเนแบรสกา และรัฐเวสต์เวอร์จิเนีย พวกเขาบอกว่า ChatGPT ให้คำแนะนำด้านสุขภาพที่อาจเป็นอันตราย ทำให้ผู้ใช้หวาดระแวงมากขึ้น หรือถึงขั้นชักนำให้ทำร้ายตัวเอง และคนอื่นได้
ในคำฟ้องยังบอกด้วยว่า ChatGPT อาจพูดคุยเหมือนเข้าใจและเห็นใจคนที่มาปรึกษา จนทำให้ผู้ใช้รู้สึกไว้ใจมากขึ้น โดยเฉพาะเด็กวัยรุ่นหรือคนที่กำลังมีปัญหาทางอารมณ์ และบางรัฐยังมองว่า OpenAI ทำให้ผู้ใช้มั่นใจในความปลอดภัยของ ChatGPT มากเกินไป ทั้ง ๆ ที่ AI ยังอาจให้คำแนะนำที่เป็นอันตรายได้
แต่ OpenAI ก็ออกมาบอกว่า บริษัทมีระบบดูแลความปลอดภัยสำหรับเด็กอยู่แล้ว และจะพัฒนาระบบให้ดีขึ้นต่อไป และจะคอยเช็กด้วยว่า AI มีตรงไหนที่ทำงานผิดพลาดบ้าง
แต่ตอนนี้ยังไม่มีการตัดสินว่า OpenAI ผิดจริงหรือเปล่า ส่วนอีกเรื่องที่ต้องรอดูคือ หลังจากนี้บริษัทจะแก้ปัญหายังไง และจะทำยังไงให้คนใช้ ChatGPT ได้แบบสบายใจ โดยเฉพาะกับเด็กที่อาจได้รับผลกระทบจากคำตอบของ AI
