ใครที่ชอบพิมพ์คุยกับ AI ฟีลเพื่อนรักนักรับฟัง ต้องดูเคสนี้เป็นอุทาหรณ์ด่วน ๆ เลย เพราะที่รัฐฟลอริดา สหรัฐอเมริกา (ดินแดนแห่งผู้สร้างตำนานอีกแล้ว) มีสาวคนหนึ่งชื่อ คาร์ลี มิเชล เฮลเลอร์ (Carli Michelle Heller) โดนตำรวจบุกรวบคาบ้านแบบงง ๆ ข้อหาขู่ถล่มโรงพัก !
เรื่องของเรื่องคือ เฮลเลอร์คงเหงา หรือไม่ก็คิดว่า AI ของค่าย Anthropic (พวกตระกูล Claude ทั้งหลาย) เป็นเซฟโซน เป็นไดอะรีเล่มโปรดที่เก็บความลับได้แบบ 100%
เมื่อวันที่ 26 ก.ย. ที่ผ่านมา สาวขี้เหงาคนนี้ก็เลยพิมพ์ระบายความห้าวในใจไปในไดอะรีประจำตัวว่า ‘เดี๋ยวฉันจะไปถล่มสถานีตำรวจลีเคาน์ตีซะเลย !’ เท่านั้นไม่พอ วันต่อมายังมาอัปเดตสถานะกับ AI แบบชิล ๆ อีกว่า ‘ฉันเพิ่งได้ปืนมาใหม่แหละ’ เพิ่มดาเมจก่อการร้ายโดยไม่รู้ตัว ต้องให้เลยจริง ๆ
ทีนี้พอระบบความปลอดภัย AI ของ Anthropic ที่ถูกเทรนมาให้เฝ้าระวังภัยสังคม พอเจอคีย์เวิร์ดอันตรายปุ๊บ ระบบก็ทำหน้าที่พลเมืองดี ส่งเรื่องเด้งไปให้ทีมงาน HR ตรวจสอบ และแน่นอนฮะทีมงานเห็นความเบียวนี้ปุ๊บก็ต่อสายตรงแจ้งตำรวจทันที สรุปคือ โดน ‘เพื่อนทิพย์ AI’ หักเหลี่ยมโหด ฟ้องตำรวจไปเลย
พอตำรวจไปเคาะประตูบ้านแบบถึงที่โบนิตาสปริงส์ เฮลเลอร์ก็ได้แต่แก้ตัวหน้าเจื่อน ๆ ว่า ‘หนูแค่ใช้ AI เป็นไดอะรีระบายอารมณ์เอง ไม่ได้กะจะยิงจริง ๆ’ แต่ตำรวจไม่ขำด้วย หิ้วปีกไปตั้งข้อหาขู่เข็ญว่าจะใช้ความรุนแรงตามกฎหมายฟลอริดาทันที
ซึ่งจุดประสงค์จริง ๆ ที่เธอพิมพ์ไปแบบนั้นก็ยังไม่ทราบได้ว่าเพราะอะไรด้วยเหมือนกัน รู้แค่ว่าระบบตรวจสอบคำไม่ปลอดภัยของ Anthropic เขาทำมาค่อนข้างดีเลยล่ะ เพราะตรวจจับแล้วส่งฟ้องตำรวจได้เลย
ด้าน ดร. คริสแซน รูห์เล (อาจารย์ด้าน AI) ก็ได้อธิบายประเด็นนี้ว่า เข้าใจนะว่าคุยกับ AI มันรู้สึกดี เพราะมันไม่ตัดสินเรา แต่อย่าลืมว่า ‘AI ไม่ใช่เพื่อนสนิทนะ มันคือเทคโนโลยี’
ตอนนี้เฮลเลอร์ก็ได้แต่เตรียมตัวไปนั่งอธิบายเรื่องไดอะรีมรณะต่อในศาลเดือนพฤศจิกายนนี้แทน คาดว่าพอขึ้นศาลเราถึงจะได้รู้ว่าทำไมเธอถึงพิมพ์อะไรแบบนั้นใน AI
