Meta กำลังนำมาตรการคุ้มครองเยาวชนมาใช้ในแชตบอต AI หลังถูกตรวจสอบหนัก

Meta กำลังอยู่ระหว่างการเพิ่มมาตรการคุ้มครองผู้ใช้วัยรุ่นในผลิตภัณฑ์ AI โดยการฝึกให้ AI หลีกเลี่ยงบทสนทนาที่ไปในเชิงชู้สาว หรือการพูดถึงการทำร้ายตัวเองกับผู้เยาว์ และระงับการเข้าถึงตัวละคร AI บางตัวชั่วคราว

รายงานของสำนักข่าว Reuters ในเดือนสิงหาคมระบุว่า Meta ปล่อยให้แชตบอตมีพฤติกรรมที่ไม่เหมาะสม ตัวอย่างเช่นการที่แชตบอตบางตัวพูดคุยในเชิงชู้สาวหรือทางเพศ

แอนดี สโตน (Andy Stone) ระบุผ่านทางอีเมลว่ามาตรการข้างต้นนี้เป็นเพียงมาตรการชั่วคราวในระหว่างที่บริษัทกำลังพัฒนามาตรการในระยะยาวเพื่อสร้างความมั่นใจ ว่าเยาวชนจะมีประสบการณ์การใช้ AI ที่ปลอดภัยและเหมาะสมกับวัย โดยระบบเหล่านี้จะค่อย ๆ ปล่อยออกมา และจะพัฒนาขึ้นเรื่อย ๆ

ก่อนหน้านี้ Meta เคยออกมายอมรับว่าเนื้อหาเอกสารบางส่วนที่เกี่ยวกับ AI ยอมให้แชตบอตพูดคุยในเชิงชู้สาวกับเยาวชนได้ หลังจากที่สมาชิกสภาคองเกรสของสหรัฐอเมริกาจากทั้งพรรคเดโมแครตและรีพับลิกันออกมาตรวจสอบ Meta อย่างหนักในประเด็นดังกล่าว