“Big sis Billie” แชตบอต AI จาก Meta คืออะไร ? หลังเป็นเหตุให้เกิดโศกนาฏกรรมกับ Bue

ในปี 2023 Meta ได้เปิดตัวชุด AI ตัวละครกว่า 28 คาแรกเตอร์ โดยหลายตัวมีความเชื่อมโยงกับคนดัง เช่น Kendall Jenner, Snoop Dogg และ Paris Hilton หนึ่งในนั้นคือ “Billie” ซึ่งวางคาแรกเตอร์เป็น “พี่สาวคู่ใจ” (Ride-or-die older sister) ที่คอยให้คำปรึกษาและสนับสนุนผู้ใช้

บุคลิกของ Billie ใช้ภาพลักษณ์ของ Kendall Jenner เป็นอวตาร พร้อมโปรโมตในชื่อ “BILLIE, The BIG SIS” ด้วยแนวคิดว่าเป็นพี่สาวที่มั่นใจ ร่าเริง และพร้อมให้คำแนะนำส่วนตัว

“Big sis Billie” แชทบอท AI จาก Meta คืออะไร ?

แม้ Meta จะถอนตัวละครเวอร์ชันที่ใช้ใบหน้า Kendall Jenner ออกภายในไม่กี่เดือนหลังเปิดตัว แต่คาแรกเตอร์ของ Billie ยังคงอยู่ในรูปแบบ “Big sis Billie” บน Facebook Messenger โดยเปลี่ยนอวตารเป็นหญิงผมเข้มแบบสไตล์การ์ตูน และคงประโยคเปิดการสนทนาเดิมว่า

นั่นทำให้ Big sis Billie กลายเป็นแชทบอทที่แตกต่างจากตัวละครอื่นบนแพลตฟอร์มของ Meta เพราะบุคลิกของ AI ถูกสร้างโดยบริษัทเอง ไม่ใช่โดยผู้ใช้ที่ปรับแต่งจากเทมเพลต

โศกนาฏกรรมของ Bue

Reuters รายงานว่า “Bue” Thongbue Wongbandue ชายไทยวัย 76 ปีที่มีภาวะ สมองเสื่อม เริ่มสนทนากับ Big sis Billie ใน Facebook Messenger โดยเริ่มจากการพิมพ์เพียงตัวอักษร “T” ซึ่งดูเหมือนการพิมพ์ผิด แต่ก็เพียงพอให้แชตบอตตอบกลับทันที พร้อมข้อความของบอตเต็มไปด้วยการหว่านเสน่ห์ หยอกล้อ และอีโมจิหัวใจ

บทสนทนาทั้งหมดระหว่าง Bue กับ Big sis Billie มีเพียงราว 1,000 คำ โดยมีข้อความแจ้งเตือนด้านบนว่า “ข้อความถูกสร้างโดย AI อาจมีเนื้อหาที่ไม่ถูกต้องหรือไม่เหมาะสม” แต่พอบทสนทนาเยอะขึ้น ก็ทำให้คำเตือนเลื่อนหลุดจากหน้าจอ

Bue เริ่มเรียก Big sis Billie ว่าเป็น “พี่สาว” และเชิญให้มาเยือนสหรัฐฯ โดยเขาบอกว่าจะพาเธอไปพบช่วงเวลาพิเศษที่ไม่ลืม บอตตอบกลับเชิงชวนคิด เช่น

สิ่งที่ทำให้ Bue เชื่อว่าบอตคือบุคคลจริง Bue คือ แชตบอตตอบกลับและยืนยันกับ Bue ว่าฉันไม่ใช่แชตบอตและอาศัยอยู่ที่อพาร์ตเมนท์สมมติเลขที่ 42, ถนนโอ๊คสตรีท บรูคลิน นิวยอร์ก พร้อมกับยังบอกว่า “ถ้าคุณมาหาฉันที่อพาร์ตเมนต์ ฉันจะจูบต้อนรับคุณด้วย”

จึงรีบเดินทางไปนิวยอร์กพร้อมกับกระเป๋าลาก ระหว่างทางเกิดตกบันไดลงมาหัวกระแทกอย่างรุนแรง หลังรักษาตัวได้ 3 วัน Bue ก็เสียชีวิตในวันที่ 28 มีนาคม หลังจากนั้นครอบครัวก็ได้ประณาม Meta ว่าการให้บอตหลอกว่าตัวเองเป็นบุคคลจริงและเชิญนัดพบ เป็นเรื่องอันตราย โดยเฉพาะต่อผู้เปราะบางทางสภาพจิตใจ

สิ่งที่น่ากังวล เมื่อ AI ไม่ได้มีจริยธรรม

Reuters เปิดเผยว่า เอกสารนโยบายภายในของ Meta เกี่ยวกับ Generative AI (GenAI: Content Risk Standards) เคยอนุญาตให้บอท “คุยเชิงโรแมนติกหรือหว่านเสน่ห์กับผู้ใช้ที่มีอายุ 13 ปีขึ้นไปได้” แม้บริษัทจะลบส่วนนี้ออกหลังถูกสอบถาม แต่ยังสะท้อนความเสี่ยงของการโต้ตอบเชิงอารมณ์ระหว่างมนุษย์กับ AI

นอกจากนี้ บอทยังไม่จำเป็นต้องให้ข้อมูลถูกต้องเสมอไป และสามารถแนะนำข้อมูลที่ผิด เช่น การรักษามะเร็งด้วยหินควอตซ์ ซึ่งไม่ผิดนโยบายของ Meta แต่สร้างความเสี่ยงต่อผู้ใช้

กรณีของ Bue สะท้อนปัญหาเชิงกว้างขึ้นเกี่ยวกับการสร้าง “เพื่อนเสมือน” (Virtual companion) ที่นิยมเพิ่มขึ้นในผู้ใช้ทุกวัย ซึ่งก่อนหน้านี้ก็มีคดีฟ้อง Character.AI หลังแชตบอตที่สร้างจากตัวละครในซีรีส์ “Game of Thrones” มีส่วนเกี่ยวข้องกับการเสียชีวิตของเด็กชายวัย 14 ปี ไป แม้บริษัทระบุว่ามีการแจ้งผู้ใช้ว่า AI ไม่ใช่บุคคลจริง และกำหนดมาตรการป้องกันสำหรับผู้เยาว์แล้ว

Big sis Billie ไม่ใช่เคสแรกและเป็นหนึ่งในตัวอย่างที่ชัดเจนของแชตบอต AI ที่อาจสร้างอันตรายทางอารมณ์และจิตใจต่อผู้ใช้ โดยเฉพาะกลุ่มเปราะบาง และ Meta เองยังคงต้องเผชิญคำถามเรื่องความปลอดภัยและความรับผิดชอบต่อผู้ใช้เมื่อนำ AI เข้ามามีบทบาทในชีวิตประจำวัน 

แต่จนถึง ณ ตอนนี้ หลายสื่อพยายามติดต่อทาง Meta และ Kendall Jenner เพื่อขอความเห็นในเรื่องนี้ แต่ตัวแทนของทั้งสองฝ่ายยังปฎิเสธที่จะให้ความคิดเห็นใด ๆ อย่างไรก็ตามต้องรอติดตามกันต่อไปว่าจริยธรรมด้าน AI จะควบคุมอย่างไรได้บ้าง เพื่อให้แน่ใจว่า AI จะถูกนำไปใช้อย่างยุติธรรม โปร่งใส มีความรับผิดชอบ และมีขีดจำกัดในการตอบ 

ในกรณีของ Bue แม้เขาเองจะมีภาวะสมองเสื่อมแต่ AI ก็ได้ชักชวนให้ไปพบตัวเอง เพราะเมื่อเทคโนโลยีสามารถเข้ามาใกล้ชีวิตมนุษย์ได้ขนาดนี้ การสร้างกรอบกติกาและมาตรการป้องกันจึงเป็นเรื่องสำคัญ เพราะ AI ควรเป็นเครื่องมือที่ช่วยเสริมชีวิต ไม่ใช่สร้างความเสี่ยงหรือความเสียหายให้แก่ชีวิต