13 สิงหาคม xAI ได้เปิดตัวโมเดล AI ใหม่ Grok-2 และ Grok-2 mini รุ่นเบต้า ซึ่งมาพร้อมฟีเจอร์การสร้างรูปภาพด้วย AI ใหม่ และพบว่ามันสามารถสร้างรูปภาพได้โดยไม่มีการป้องกันหรือจำกัดขอบเขตที่เหมาะสม เช่น การสร้างภาพปลอมของโดนัลด์ ทรัมป์ กำลังนั่งสูบกัญชาในรายการพอดแคสต์ The Joe Rogan Experience ที่โพสต์เผยแพร่สำหรับผู้ใช้ 𝕏 Premium และ Premium+ ทั้งนี้พบว่าฟีเจอร์ใหม่ดังกล่าวได้รับการพัฒนาโดย Black Forest Labs ไม่ใช่ xAI
xAI เผยว่าได้ทำงานร่วมกับ Black Forest Labs เพื่อทดลองใช้โมเดล FLUX.1 ในการขยายความสามารถของ Grok บน 𝕏 หลังจากที่ Black Forest Labs ได้ประกาศเปิดตัวบริษัทเมื่อ 1 สิงหาคม ซึ่งมาพร้อมด้วยโมเดล FLUX.1 สำหรับสร้างรูปภาพด้วยข้อความ ดังนั้นสรุปง่าย ๆ ว่า xAI ได้นำโมเดล FLUX.1 มาใช้สร้างรูปภาพบน Grok-2 และ Grok-2 mini นั่นเอง แต่ทั้งนี้ไม่มีมาตรการป้องกันความเหมาะสมที่เข้มงวดเท่า Dall-E ของ OpenAI หรือ Imagen ของ Google DeepMind
Black Forest Labs เปิดตัวบริษัทด้วยเงินทุนเริ่มต้น 31 ล้านเหรียญ (1,087 ล้านบาท) มีสำนักงานใหญ่ตั้งอยู่ในเยอรมนี และเผยว่ากำลังจะเผยแพร่โมเดลสร้างรูปภาพด้วย AI โดยการโอเพนซอร์สบน Hugging Face และ GitHub ทั้งนี้ในกลุ่มผู้ใช้ AI สร้างสรรค์รูปภาพมีการวิเคราะห์ว่า FLUX.1 ของ Black Forest Lab มีคุณภาพเหนือกว่าโมเดลการสร้างรูปภาพของ Midjourney และ OpenAI
นอกจากนี้ Black Forest Labs กล่าวว่าจะปล่อยโมเดลสร้างวิดีโอด้วยข้อความในเร็ว ๆ นี้ และจะเพิ่มความเชื่อมั่นในความปลอดภัยของโมเดลด้วย แต่สังเกตว่าภาพผลลัพธ์ที่โมเดลสร้างออกมาล่าสุดไม่ได้ถูกป้องกันตามที่กล่าวเอาไว้
อันจ์นีย์ มิธา (Anjney Midha) กรรมการบริหารของ Black Forest Labs ได้โพสต์ภาพที่สร้างโดย Google Gemini ซึ่งเปิดตัวในวันแรก เทียบกับภาพที่สร้างโดย Flux บน Grok โดยชี้ให้เห็นว่าภาพบุคคลที่มีความถูกต้องทางประวัติศาสตร์โดย Google Gemini มีการใส่ความหลากหลายทางเชื้อชาติลงไปในภาพอย่างไม่เหมาะสม และชื่นชมว่าทีมงานของ Black Forest Labs ได้ทำงานเพื่อหลีกเลี่ยงปัญหานี้อย่างจริงจัง
X ถูกวิจารณ์หลายครั้งว่าขาดการป้องกันเกี่ยวกับการเผยแพร่ภาพไม่เหมาะสมบนแพลตฟอร์ม เช่น เดือนมกราคม มีการโพสต์ภาพอนาจารของ เทย์เลอร์ สวิฟต์ ที่สร้างด้วย AI, เดือนเมษายน X ได้ใช้ Grok ทดสอบโพสต์สรุปข่าว ซึ่งพบว่ามีความผิดพลาดหลายครั้ง และเมื่อสัปดาห์ที่ผ่านมา 5 เลขานุการของรัฐได้ส่งจดหมายเตือนว่า Grok AI ได้เผยแพร่ข้อมูลอันเป็นเท็จเกี่ยวกับรองประธานาธิบดี กมลา แฮร์ริสบน X
