ในโลกอินเทอร์เน็ต ปัจจัยเรื่องสถานที่ เวลา หรือแม้แต่ภาษาไม่ได้เป็นปัญหาในการสื่อสารอีกต่อไป อินเทอร์เน็ตสามารถทำให้เราเข้าถึง และส่งต่อข้อมูลได้อย่างง่ายดาย ที่สำคัญคือ เราสามารถโต้ตอบกับครีเอเตอร์ หรือผู้สร้างสรรค์ข้อมูลเหล่านั้นได้ ทั้งด้านดี และไม่ดี
หลายปีที่ผ่านมาเราจึงได้เห็นข่าวการ Cyber Bully กันอยู่เนือง ๆ และในหลายเคสก็นำไปสู่ผลลัพธ์ที่ไม่น่ายินสักเท่าไหร่ อารมณ์ด้านลบ และผลกระทบทางจิตใจเป็นผลลัพธ์รูปแบบหนึ่งที่บรรดาครีเอเตอร์ได้รับจากผู้ชม ไม่ว่าคอนเทนต์เหล่านั้นจะไม่ถูกต้อง หรือไม่ถูกใจก็ตาม
เฮตสปีช (Hate Speech) เป็นหนึ่งในรูปแบบของความคิดเห็นบนโลกออนไลน์ ที่เรารู้จักกันในภาษาไทยว่า ‘ข้อความเพื่อสร้างความเกลียดชัง’ ที่หมายถึงข้อความที่ยุยง ปลุกปั่น หรือสร้างความเกลียดชังให้กับสิ่งใดสิ่งหนึ่ง ไม่ว่าจะเป็นบุคคล ศาสนา สีผิว หรือรสนิยม โดยเฮตสปีชเป็นสิ่งที่เราพบได้ทั่วไปในช่องความคิดเห็น
ซึ่งมีการศึกษาที่พบว่าฟีดแบ็กบนโลกออนไลน์สามารถสร้างผลกระทบทางจิตใจ หรือแม้แต่เพิ่มความเสี่ยงของโรคทางอารมณ์บางชนิด อย่างโรคเครียด ภาวะวิตกกังวล และภาวะซึมเศร้า ในปัจจุบันเราเริ่มเห็นฟีเจอร์ในการฟิลเตอร์ (Filter) หรือคัดกรองความคิดเห็นด้านลบมากขึ้น โดยฟีเจอร์นี้อาจช่วยลดผลกระทบทางด้านจิตใจจากความคิดเห็นแง่ลบบนโลกออนไลน์ได้มากขึ้น
โดยล่าสุด มหาวิทยาลัยวอเตอร์ลู (University of Waterloo) ประเทศแคนาดา ได้พัฒนาแมชชีนเลิร์นนิงที่สามารถคัดกรองเฮตสปีชได้แม่นยำถึง 88 เปอร์เซ็นต์ ซึ่งช่วยลดภาระงานของพนักงานเฝ้าระวังและคัดกรองเฮตสปีชได้หลายร้อยชั่วโมง รวมถึงผลกระทบจากการตรวจสอบข้อความเหล่านั้นได้ด้วย
เทคนิคของแมชชีนเลิร์นนิงคัดกรองเฮตสปีช
เดิมที ระบบคัดกรองเฮตสปีช และความคิดเห็นด้านลบรูปแบบอื่นมักใช้การตรวจจับคำและภาพที่มีความอ่อนไหว อย่างเรื่องเพศ เรื่องเชื้อชาติ หรือการวิพากษ์วิจารณ์ในแง่ลบ หรือเชิงล้อเลียน
แต่แมชชีนเลิร์นนิงจากมหาวิทยาลัยวอเตอร์ลู ได้ใช้เทคนิค Multi-Modal Discussion Transformer (mDT) ซึ่งสามารถวิเคราะห์ความสัมพันธ์ระหว่างข้อความและรูปภาพ รวมถึงเข้าใจบริบทของความคิดเห็นเหล่านั้นได้มากกว่าการตรวจจับคำแบบเดิม ช่วยลดการตรวจจับที่ผิดพลาด ทำให้ผู้คนสามารถแสดงความคิดเห็นได้อย่างอิสระมากขึ้น โดยที่มีข้อความอ่อนไหวในความคิดเห็น แต่จะตีความตามบริบทของเนื้อหาที่นำเสนอ และความคิดเห็นแทน
เลียม เฮเบิร์ต (Liam Hebert) หนึ่งในผู้พัฒนาแมชชีนเลิร์นนิงชิ้นนี้ได้ยกตัวอย่างคำว่า ‘น่าขยะแขยง’ (Disgusting) ที่สามารถใช้เพื่อด่าทอผู้คน หรือใช้อธิบายความรู้สึกของคนอิตาลีเมื่อเห็นสับปะรดบนพิซซาได้เหมือนกัน ซึ่งแมชชีนเลิร์นนิงจะตีความจากบริบทของเนื้อหา
ทีมนักวิจัยจากมหาวิทยาลัยวอเตอร์ลูพยายามสร้างแมชชีนเลิร์นนิงเพื่อการคัดกรองเฮตสปีชมาอย่างยาวนาน เพื่อที่จะสร้างสังคมบนโลกออนไลน์ที่ปลอดภัย และเป็นมิตรมากขึ้น ซึ่งโมเดลตัวก่อนหน้าได้ทดสอบบนแพลตฟอร์มชื่อดังอย่าง Reddit จากข้อมูล 8,266 กระทู้ที่ประกอบไปด้วยความคิดเห็นกว่า 18,359 ความคิดเห็น โดยสามารถคัดกรองเฮตสปีชได้ราว 74 เปอร์เซ็นต์ และนำมาสู่แมชชีนเลิร์นนิงโมเดลปัจจุบันที่แม่นยำกว่าเดิม
ซึ่งแมชชีนเลิร์นนิงตัวนี้ หรือซอฟต์แวร์อื่นที่มีจุดประสงค์เดียวกันอาจเข้ามามีบทบาทในการป้องกันผลกระทบทางด้านจิตใจบนโลกออนไลน์ของผู้คนทั่วโลกมากขึ้น ไม่ใช่แค่พนักงานที่ทำหน้าที่ในการคัดกรองเฮตสปีช หรือความคิดเห็นแง่ลบ และช่วยให้สังคมออนไลน์ปลอดภัย และเป็นมิตรกับทุกคนมากยิ่งขึ้น
