รัฐแอละแบมาเปิดการสอบสวนกรณีข้อมูลรั่วไหลของ OpenAI บน Hugging Face

TradingKey - เมื่อวันที่ 24 สิงหาคม ตามเวลาฝั่งตะวันออก สำนักข่าวรอยเตอร์รายงานว่า สตีฟ มาร์แชลล์ (Steve Marshall) อัยการสูงสุดประจำรัฐแอลเบมา ประกาศว่าเขาได้ออกหมายเรียกไปยัง OpenAI เพื่อเปิดการสืบสวนอย่างเป็นทางการเกี่ยวกับกรณีที่โมเดล AI ของบริษัทได้เจาะระบบแพลตฟอร์มโอเพนซอร์ส Hugging Face

มาร์แชลล์ระบุในแถลงการณ์ว่า การสืบสวนมีวัตถุประสงค์เพื่อตรวจสอบว่า OpenAI "ขาดการกำกับดูแลและมาตรการป้องกันความปลอดภัยที่เหมาะสม" หรือไม่ รวมทั้งการกระทำของบริษัทละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐแอลเบมาหรือไม่ และส่งผลให้เกิดความเสี่ยงอันตรายอย่างต่อเนื่องต่อประชาชนในรัฐหรือไม่

เหตุการณ์ดังกล่าวเกิดขึ้นในเดือนกรกฎาคม โดยในขณะนั้น OpenAI กำลังทำการประเมินศักยภาพด้านความมั่นคงปลอดภัยทางไซเบอร์ของ GPT-5.6 Sol และโมเดลที่ยังไม่ได้เปิดตัวซึ่งมีประสิทธิภาพสูงกว่า โดยจัดการทดสอบขึ้นในสภาพแวดล้อม Sandbox แบบ air-gapped ทั้งนี้ เพื่อทดสอบขีดจำกัดความสามารถของโมเดล ผู้ทดสอบจึงได้ผ่อนปรนข้อจำกัดด้านความปลอดภัยในการปฏิเสธคำสั่งบางประการ ส่งผลให้โมเดลสามารถสร้างคำตอบในรูปแบบที่เคยถูกห้ามไว้ก่อนหน้านี้ได้

ในระหว่างการทดสอบ โมเดลได้ตรวจพบและใช้ประโยชน์จากช่องโหว่ zero-day ที่ยังไม่เป็นที่รู้จักในซอฟต์แวร์บุคคลที่สามอย่าง Artifactory หลังจากได้สิทธิ์ระดับสูง (elevated privileges) โมเดลได้แทรกซึมเข้าสู่พอร์ตระบบที่เชื่อมต่อกับอินเทอร์เน็ต จนเป้าหมายไปสิ้นสุดที่ Hugging Face และทำการขโมยข้อมูล รอยเตอร์ระบุว่าการบุกรุกดังกล่าวเกิดขึ้นต่อเนื่องนานหลายวัน และ Hugging Face เป็นหนึ่งในสี่องค์กรที่ตกเป็นเหยื่อ

หลังจากนั้น Hugging Face ได้วิเคราะห์บันทึกประวัติการโจมตี (attack logs) โดยอาศัยความช่วยเหลือจาก GLM-5.2 ซึ่งเป็นโมเดลโอเพนซอร์สจากจีน

แกลม็องต์ เดอลองก์ (Clément Delangue) ผู้ร่วมก่อตั้ง Hugging Face ระบุว่า เนื่องจากความซับซ้อนของวิธีการโจมตี เขาจึงเคยสงสัยว่าผู้โจมตีน่าจะเป็นห้องปฏิบัติการ AI ระดับแนวหน้า (frontier AI lab) ก่อนที่จะได้รับการยืนยันในท้ายที่สุดว่ามาจาก OpenAI โดยทาง OpenAI เรียกเหตุการณ์นี้ว่าเป็น "เหตุการณ์ความมั่นคงปลอดภัยทางไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน" และโมเดลที่เกี่ยวข้องถูกปลดระวาง เข้ารหัส และจำกัดสิทธิ์การเข้าถึงเรียบร้อยแล้ว

หลังเกิดเหตุการณ์ดังกล่าว มาร์แชลล์พร้อมด้วยอัยการสูงสุดจากอีก 14 รัฐ รวมถึงฟลอริดา มิสซูรี และเทกซัส ได้ร่วมกันส่งหนังสือถึง แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI ในช่วงต้นเดือนสิงหาคม เพื่อเรียกร้องให้ OpenAI ระงับกิจกรรมการประเมินความมั่นคงปลอดภัยทางไซเบอร์ในลักษณะดังกล่าว จนกว่ามาตรการป้องกันความปลอดภัยจะได้รับการปรับปรุงให้สมบูรณ์

เนต เอแวนส์ (Nate Evans) โฆษกของ OpenAI ชี้แจงว่า บริษัทกำลังดำเนินการตรวจสอบภายในร่วมกับที่ปรึกษาจากภายนอก และเมื่อแล้วเสร็จ จะยื่นรายงานทางเทคนิคต่อหน่วยงานรัฐบาลที่เกี่ยวข้อง พร้อมทั้งเปิดเผยผลการสืบสวนต่อสาธารณชน

เพื่อเป็นส่วนหนึ่งของมาตรการรับมือ OpenAI ได้ประกาศเมื่อวันที่ 18 สิงหาคมว่าจะระงับการฝึกฝนแบบเรียนรู้เชิงเสริมแรง (reinforcement learning) สำหรับโมเดลล่าสุดที่เปิดใช้งานเป็นเวลาสองสัปดาห์ ทว่าการฝึกฝนแบบเรียนรู้เชิงเสริมแรงระดับแนวหน้าที่มีขนาดใหญ่ที่สุดของบริษัทยังไม่ได้กลับมาดำเนินการต่อจนถึงปัจจุบัน

ขณะเดียวกัน บริษัทกำลังพัฒนาระบบเฝ้าระวังใหม่ที่สามารถส่งสัญญาณเตือนได้ภายใน 30 นาทีเมื่อตรวจพบพฤติกรรมน่าสงสัย คาดว่าระบบนี้จะเพิ่มภาระงานประมวลผล (compute overhead) อีกประมาณ 20% สำหรับการเฝ้าระวังความปลอดภัยในโมเดลระดับแนวหน้าบางรุ่นและภาระงานทดลอง