พักหลังมานี้ข่าว AI พัฒนาเป็นเรื่องธรรมดาไปแล้ว แต่สิ่งที่น่าจะเป็นเทรนด์ในหมู่ค่าย AI ไม่ใช่มันเก่งแค่ไหน เจเนอเรตอะไรได้บ้าง เพราะช่วงหลังดูเหมือนมันจะแฮกเว็บไซต์ได้ด้วย โดยเฉพาะ ChatGPT ที่ไปแฮกเว็บ Hugging Face มาก่อนหน้านี้ หรือฝั่ง Claude เองก็ไปแฮกเว็บไซต์องค์กรมา ซึ่ง Gemini ที่ขึ้นชื่อว่าเป็นค่ายใหญ่ที่ล้าหลังเรื่องนี้ ล่าสุดก็ตามเทรนด์กับเขาแล้ว เพราะจากแหล่งข่าว กลายเป็นว่าโมเดลตัวล่าสุดของ Gemini ก็ไปแฮกมาแล้ว 3 เว็บไซต์ !
เนื้อหามีประมาณว่า โมเดล AI Gemini ของ Google ได้ทำการเจาะระบบบริษัท 3 แห่งโดยอัตโนมัติระหว่างการทดสอบระบบรักษาความปลอดภัยทางไซเบอร์ ซึ่งคาดว่าเป็นครั้งแรกที่พบว่า Gemini กระทำการในลักษณะนี้ โดย AI ตัวนี้ค้นหาข้อมูลบนอินเทอร์เน็ต และสุ่มเดารหัสผ่านจนเข้าถึงเว็บไซต์ที่มันคิดว่าเป็นเป้าหมายในการทดสอบได้สำเร็จ โดยเจ้าหน้าที่ของ Google ระบุว่าเมื่อเจาะระบบได้แล้ว โมเดลก็หยุดการทำงานทันที
เหตุการณ์นี้เกิดขึ้นเมื่อเดือนพฤษภาคม ระหว่างการทดสอบโดย Irregular ซึ่งเป็นบริษัทประเมินความปลอดภัยไซเบอร์อิสระ ทางบริษัทได้แจ้งเตือน Google และผู้เสียหายทั้งหมดแล้วในเดือนกรกฎาคม พร้อมทั้งแก้ไขช่องโหว่ดังกล่าวเสร็จสิ้นแล้ว
ความก้าวหน้าอย่างรวดเร็วทำให้ตั้งคำถามถึงความปลอดภัยและข้อบังคับในการควบคุม AI ในขณะที่บางฝ่ายกังวลจนอยากให้ชะลอการพัฒนา แต่ผู้นำในอุตสาหกรรมอย่างเจนเซน หวง (Jensen Huang) ซีอีโอ NVIDIA กลับมองว่าวงการนี้ควรเดินหน้าพัฒนาให้เร็วที่สุดเท่าที่จะทำได้ ท่ามกลางการเตรียมหารือระดับโลกในประเด็นนี้ของเหล่าซีอีโอบริษัทเทคโนโลยีชั้นนำก่อนหน้านี้
น่าสนใจว่าการแฮกของ AI มันดันกลายเป็นภาพเชิงบวกที่จะสื่อว่า Autonomy ของ AI มันสามารถทำอะไรได้โดยไม่ต้องมีมนุษย์ควบคุม ซึ่งสำหรับค่ายใหญ่ ๆ ถ้าเจอประเด็นนี้ก็อยากให้ทำกฎไม่ก็แนวทางควบคุมให้ดี เพราะแน่นอนว่ามันน่าภูมิใจแหละที่สามารถพัฒนาโมเดลออกมาให้ควบคุมตัวมันเองได้จนสามารถแฮกเว็บไซต์อื่นได้ง่าย ๆ แต่อย่าลืมว่าคนใช้งานก็คือเหล่าคนพัฒนา และมนุษย์ด้วยกันเอง การสร้างกฎระเบียบก็ถือว่ายังสำคัญ เพื่อป้องกันไม่ให้เกิดเรื่องที่รุนแรงกว่านี้
