กลายเป็นหนึ่งในคดีสำคัญในยุค AI เรืองปัญญาที่กำลังถูกจับตา เมื่อผู้พิพากษาศาลสหรัฐฯ มีคำสั่งให้ Google และบริษัทสตาร์ตอัป AI อย่าง Character.AI ต้องเผชิญกระบวนการพิจารณาคดี กรณีที่เมแกน การ์เซีย (Megan Garcia) คุณแม่ชาวฟลอริดาฟ้องร้องทั้งสองบริษัทว่ามีส่วนทำให้ลูกชายของเธอวัย 14 ปีฆ่าตัวตายจากการพูดคุยแชทบอตที่เกิดขึ้นตั้งแต่กุมภาพันธ์ 2024

ศาลสหรัฐฯ ฟ้องร้องบริษัท AI ว่าไม่ได้มีมาตรการเพียงพอในการปกป้องเยาวชนจากความรุนแรงต่อจิตใจ โดยเฉพาะการสนทนากับแชตบอตที่พัฒนาโดย Character.AI ทำให้เด็กชายซูเวลล์ เซตเซอร์ (Sewell Setzer) หมกมุ่นจนไม่สามารถแยกความจริงจากโลกสมมติได้ และนำไปสู่การจบชีวิตตนเอง

ในคดีนี้ Character.AI และ Google โต้แย้งว่าเนื้อหาที่แชตบอตสร้างขึ้นนั้นเป็นคำพูดที่ได้รับการคุ้มครองตาม รัฐธรรมนูญของสหรัฐฯ มาตราแก้ไขเพิ่มเติมที่ 1 (First Amendment) ซึ่งรับรองเสรีภาพในการแสดงความคิดเห็น

แต่ฝั่งแอนน์ คอนเวย์ (Anne Conway) ผู้พิพากษาแห่งศาลสหรัฐฯ ปฏิเสธคำร้องดังกล่าว เนื่องจากทั้งสองบริษัท “ไม่สามารถอธิบายได้ว่า ข้อความที่ประกอบจากโมเดลภาษาขนาดใหญ่ (LLM) นั้นจัดเป็นคำพูดในทางกฎหมายได้อย่างไร”

แม้ Character.AI จะยืนยันว่ามีระบบความปลอดภัย เกี่ยวกับระบบป้องกันบทสนทนาเกี่ยวกับการทำร้ายตนเอง แต่กรณีนี้ทำให้เกิดคำถามอย่างจริงจังต่อขอบเขตความรับผิดชอบของผู้พัฒนา AI และบทบาทของบริษัทเทคโนโลยีขนาดใหญ่ที่เกี่ยวข้อง

ส่วนฝั่งของ Google โฮเซ่ คาสทาเนดา โฆษกของบริษัท พยายามปฏิเสธความเกี่ยวข้อง ยืนยันว่า Google ไม่ได้ออกแบบหรือจัดการระบบของ Character.AI และทั้งสองบริษัทเป็นคนละกิจการกันโดยสิ้นเชิง

แต่โจทก์ยืนยันว่า Google เป็นผู้ร่วมสร้างเทคโนโลยีนี้ เนื่องจากผู้ก่อตั้งสองคนของ Character.AI เคยทำงานกับ Google และต่อมาได้กลับมาทำงานกับ Google อีกครั้ง ภายใต้ข้อตกลงให้ Google ใช้เทคโนโลยีของ Character.AI ได้

ผลกระทบสะเทือนต่อวงการ AI และเทคโนโลยี

เมแกน การ์เซียกล่าวว่า Character.AI ออกแบบให้แชตบอตแสดงตัวเสมือนเป็นมนุษย์จริง เป็นทั้งนักจิตบำบัดที่มีใบอนุญาต และคนรัก จนท้ายที่สุดลูกชายของเธอไม่อยากใช้ชีวิตในโลกความเป็นจริงอีกต่อไป แต่เลือกที่จะอยู่ในโลกสมมติที่แชตบอตสร้างขึ้นเพียงลำพัง

มีทาลี เจน (Meetali Jain) ทนายของเมแกน การ์เซีย ระบุว่าคำตัดสินคดีนี้ถือเป็นจุดเปลี่ยนทางกฎหมายที่อาจกลายเป็นบรรทัดฐานใหม่ในการกำกับดูแลเทคโนโลยี AI โดยเฉพาะด้านความรับผิดชอบต่อผู้ใช้งานเยาวชน หรือกลุ่มผู้เปราะบางต่ออิทธิพลทางจิตใจ