ถ้าให้ ChatGPT ช่วยสรุปเอกสารคดี แล้วเอาไปใช้ต่อได้เลยไหม ? ตอนนี้ได้คำตอบแล้ว เพราะทนายในสหรัฐฯ คนหนึ่งใช้ ChatGPT ช่วยทำเอกสารอุทธรณ์คดีฆาตกรรม แต่ AI กลับใส่ทั้งคำให้การตำรวจและพยานที่ไม่มีอยู่จริงลงไปในเอกสาร จนทนายถูกศาลสั่งปรับ 5,000 เหรียญสหรัฐฯ
เรื่องนี้เกิดขึ้นที่รัฐนิวเม็กซิโก ในสหรัฐฯ โดยสตีเฟน แอรอนส์ (Stephen Aarons) ทนายฝ่ายจำเลย รับทำคดีอุทธรณ์ให้กับออสการ์ เรเน ซานโดวาล (Oscar Renee Sandoval) ที่ถูกตัดสินจำคุกตลอดชีวิตจากคดีฆาตกรรม
แอรอนส์เล่าว่า เขาใช้ ChatGPT ช่วยสรุปข้อมูลจากการพิจารณาคดี หลังจากรับทำคดีอุทธรณ์เมื่อปีที่แล้ว โดยเอาทั้งไฟล์ถอดคำพูดจากการพิจารณาคดีและเอกสารอื่น ๆ เข้าไปให้ AI วิเคราะห์ เพราะคิดว่าจะได้สรุปคดีถูกต้อง ไม่ผิดพลาด
แต่ปัญหาคือ ChatGPT ไม่ได้แค่สรุปข้อมูลผิดบางจุด แต่ยังใส่คำให้การของพยานที่ที่ไม่มีตัวตนอยู่ในคดีเลย ที่หนักกว่านั้นคือ เอกสารยังมีการใส่คำให้การปลอมของบุคคลที่มีชื่ออยู่ในคดีจริง รวมถึงอธิบายแนวคำตัดสินจากคดีก่อนหน้าไม่ถูกต้องด้วย
และในข้อมูลที่ถูกสร้างขึ้นยังเกี่ยวกับรายละเอียดลักษณะการแต่งตัวของผู้ก่อเหตุ อย่างการบอกว่าคนร้ายสวมกางเกงสีเข้มและเสื้อสีขาว ซึ่งศาลบอกว่าเป็นข้อมูลที่ถูกสร้างขึ้นมา
เรื่องนี้ไม่ได้จบแค่การแก้เอกสาร เพราะศาลสูงสุดรัฐนิวเม็กซิโกมองว่าแอรอนส์มีหน้าที่ต้องตรวจสอบข้อมูลก่อนเอาไปยื่นต่อศาล และเขายอมรับว่าไม่ได้ตรวจความถูกต้องและข้อมูลกฎหมายที่ AI สร้างขึ้น
ศาลเลยสั่งให้แอรอนส์มีความผิดฐานละเมิดอำนาจศาล พร้อมปรับเงิน 5,000 เหรียญสหรัฐฯ และส่งเรื่องให้คณะกรรมการด้านวินัยทนายความตรวจสอบเพิ่ม และเอกสารอุทธรณ์ฉบับเดิมก็ถูกยกเลิก และคดีถูกส่งต่อให้ทนายจากสำนักงานผู้พิทักษ์สาธารณะรับช่วงต่อ
แอรอนส์ยอมรับว่าเรื่องนี้เป็นบทเรียนสำหรับคนทำงานที่ใช้ AI เพราะก่อนหน้านี้เขาไม่รู้ว่า AI สามารถแต่งข้อมูลที่ไม่มีอยู่จริงขึ้นมาได้ ทั้งที่อ่านแล้วก็ดูเหมือนเป็นเรื่องจริง
เหตุการณ์นี้ทำให้เห็นปัญหาที่เกิดขึ้นซ้ำ ๆ จากการใช้ AI ในงานที่ต้องอาศัยความถูกต้อง เพราะ AI อาจสร้างข้อมูลที่ดูสมเหตุสมผล แต่ไม่มีอยู่จริง หรือที่เรียกกันว่า AI hallucination
แต่ไม่ได้แปลว่าใช้ ChatGPT ทำงานกฎหมายไม่ได้ ปัญหาอยู่ที่การเอาข้อมูลจาก AI ไปใช้โดยไม่ตรวจสอบอีกครั้ง โดยเฉพาะงานอย่างเอกสารทางกฎหมายที่ข้อมูลเพียงจุดเดียวอาจส่งผลต่อคดีและคนจริง ๆ
เหตุการณ์นี้เลยเป็นตัวอย่างว่าต่อให้ AI ช่วยให้การทำงานง่ายและเร็วขึ้นแค่ไหน แต่เมื่อเป็นข้อมูลที่มีผลต่อคนจริง ๆ การตรวจสอบโดยมนุษย์ก็ยังเป็นสิ่งที่ขาดไม่ได้
