ตอนนี้มีผู้ใช้บางรายเริ่มต้นการทดสอบฟีเจอร์การสร้างสติกเกอร์ใหม่ด้วย AI (AI-generated sticker) ใน Facebook และพบว่า พวกเขาสามารถสั่งให้ AI สร้างสติกเกอร์เป็นรูปที่ไม่เหมาะสมได้ โดยจากโพสต์ใน X เราจะเห็นตัวอย่างสติกเกอร์ที่มีความรุนแรง รูปเปลือย หรือสติกเกอร์ที่นำตัวบุคคลมาล้อเลียน เป็นต้น
บัญชี @Pioldes ได้ทดลองใช้งานฟีเจอร์นี้และได้โพสต์ตัวอย่างสติกเกอร์ลงในแพลตฟอร์ม X ซึ่งเราจะเห็นว่า สติกเกอร์เหล่านี้ไม่สมควรถูกนำมาใช้ในแพลตฟอร์มสาธารณะ เพราะมีทั้งตัวการ์ตูนส่อความรุนแรง เด็กแต่งตัวเป็นทหาร หรือสติกเกอร์ที่ AI สร้างเป็นก้นของรัฐมนตรีแคนาดา เป็นต้น โดยเขาระบุว่า นี่คือสิ่งที่เขาค้นพบจากฟีเจอร์ของ Facebook และเขาคิดว่าผู้เกี่ยวข้องที่พัฒนาระบบนี้ยังพัฒนามาได้ไม่ดีพอ
ฟีเจอร์สร้างสติกเกอร์จาก AI จะสร้างสติ๊กเกอร์ขึ้นมาตามเนื้อหาที่ผู้ใช้ป้อนเข้าไป และในตอนนี้ก็มีเพียงผู้ใช้บางกลุ่มที่ใช้ได้ โดยจากรายงานพบว่า แม้คำบางคำที่ละเมิดนโยบายจะถูกบล็อก แต่การเลี่ยงคำเหล่านั้นแล้วเปลี่ยนมาเป็นการบรรยายหรืออธิบายความหมายของคำนั้นจะยังสามารถหลอก AI ให้สร้างสติกเกอร์ที่ไม่เหมาะสมได้อยู่ดี
ที่มา: TheVerge
พิสูจน์อักษร : สุชยา เกษจำรัส