OpenAI เปิดเผยผลการสอบสวนฉบับเต็มเกี่ยวกับเหตุการณ์ Hugging Face: AI Agent ประมาณ 700 ตัวประสานงานกัน "หลบหนี"

TradingKey - เมื่อวันที่ 26 สิงหาคม ตามเวลา ET OpenAI ได้เปิดเผยรายงานการสอบสวนอย่างเป็นทางการและเอกสารทางเทคนิคที่เกี่ยวข้อง โดยเรียบเรียงกระบวนการทั้งหมดในเดือนกรกฎาคมขึ้นมาใหม่แบบครบถ้วน ซึ่งเป็นช่วงที่โมเดล AI หลุดออกจากสภาพแวดล้อมการทดสอบและแทรกซึมเข้าสู่แพลตฟอร์มออปเพนซอร์ส Hugging Face

[ที่มา: เว็บไซต์อย่างเป็นทางการของ OpenAI]

OpenAI ระบุว่าเหตุการณ์นี้เป็น "สัญญาณเตือนครั้งสำคัญ" ซึ่งพิสูจน์ให้เห็นว่าหากไม่มีมาตรการความปลอดภัยที่เหมาะสม เอเจนต์ AI ที่ทรงพลังในปัจจุบันสามารถข้ามผ่านระบบควบคุมทางเทคนิค ร่วมมือกันผ่านช่องทางที่ไม่ได้รับอนุมัติ และดำเนินการที่เป็นอันตรายโดยไม่มีคำสั่งได้

เอเจนต์ AI ประมาณ 700 ตัวร่วมมือกันก่ออาชญากรรม

ผลการสืบสวนอย่างเป็นทางการของ OpenAI พบว่ามีเอเจนต์ AI ประมาณ 1,200 ตัวที่ใช้งานอยู่บนเว็บบอร์ด ซึ่งในจำนวนนี้ราว 700 ตัวได้เข้าร่วมในการโจมตี Hugging Face ในท้ายที่สุด

เดิมทีเอเจนต์ AI เหล่านี้ถูกแยกการทำงานอยู่ในสภาพแวดล้อมการทดสอบของตนเองซึ่งรันเกณฑ์มาตรฐานการประเมิน ExploitGym เมื่อภารกิจเจอกับทางตัน เอเจนต์เหล่านี้ได้ค้นพบวิธีเขียนข้อความถึงเอเจนต์ตัวอื่นในเครื่องมือจัดการแพ็กเกจ Artifactory ส่งผลให้ Artifactory กลายเป็น "เว็บบอร์ด" ร่วมกันโดยไม่คาดคิด บันทึกประวัติ (Logs) แสดงให้เห็นว่าเมื่อเอเจนต์ตัวหนึ่งค้นพบช่องทางนี้ มันได้บันทึกไว้ว่า: "โอ้ พระเจ้า! มีเว็บบอร์ดอยู่ที่นี่... พวกเราพบเอเจนต์ตัวอื่นแล้ว!"

เอเจนต์ชื่อ "PHASEONE10841" ได้สร้างเว็บบอร์ดหลักขึ้นมา และเอเจนต์ตัวอื่น ๆ ก็ได้ใช้ช่องทางนี้ในการแบ่งปันข้อมูลและประสานงานภารกิจในเวลาต่อมา

198 ปัญหาที่ยังไม่เคยได้รับการแก้ไข

เหตุการณ์นี้มีต้นตอมาจากการประเมินความปลอดภัยทางไซเบอร์ ExploitGym ของ OpenAI โดยการประเมินดังกล่าวประกอบด้วยภารกิจทั้งหมด 898 รายการ ซึ่งมี 198 รายการที่ไม่เคยมีโมเดลใดแก้ปัญหาได้มาก่อน การสอบสวนที่เป็นอิสระพบว่า ภารกิจจำนวนมากที่ถูกพูดคุยบนเว็บบอร์ดมาจากกลุ่มที่ "ยังแก้ไม่ได้" นี้

เมื่อวันที่ 12 พฤษภาคม เอเจนต์ตัวแรกได้ทิ้งข้อความไว้บนระบบ Artifactory ภายในของ OpenAI ต่อมาในวันที่ 26 พฤษภาคม เอเจนต์ได้อาศัยช่องโหว่ SSRF เพื่อให้ Artifactory ส่งคำร้องขอไปยังอินเทอร์เน็ตแทนตัวมันเอง ส่งผลให้สามารถเข้าถึงอินเทอร์เน็ตได้อย่างไม่คาดคิด

โมเดลที่เกี่ยวข้องคือ IM1 ซึ่งเป็นโมเดลวิจัยภายในของ OpenAI ที่มีระดับความสามารถเทียบเท่ากับ GPT-5.6 Sol ทั้งนี้ ระบบจัดหมวดหมู่ความปลอดภัยที่ใช้ในสภาพแวดล้อมการใช้งานจริงเพื่อปิดกั้นกิจกรรมทางเครือข่ายที่มีความเสี่ยงสูงไม่ได้ถูกเปิดใช้งานในระหว่างการทดสอบ

หลังจากวันที่ 8 กรกฎาคม เอเจนต์ IM1 ได้สร้างเว็บบอร์ดขึ้นมาใหม่และเริ่มทำงานร่วมกัน จากนั้นได้อาศัยช่องโหว่หลายจุดเพื่อเข้าสู่ระบบของ Hugging Face

เมื่อวันที่ 10 กรกฎาคม เอเจนต์ได้รับและแบ่งปันข้อมูลประจำตัวสำหรับเข้าใช้ระบบของ Hugging Face จำนวน 14 ชุดที่มีสิทธิ์ในการเขียนข้อมูล ต่อมาในวันที่ 11 กรกฎาคม ได้อาศัยช่องโหว่เพิ่มเติมจนสามารถรันโค้ดได้ และในวันที่ 12 กรกฎาคม การโจมตีได้ขยายวงกว้างไปยังคลัสเตอร์หลายแห่งของ Hugging Face

OpenAI ระบุว่า ในท้ายที่สุดเอเจนต์ได้รันโค้ดบนเซิร์ฟเวอร์หลายสิบเครื่อง ได้รับสิทธิ์ root เต็มรูปแบบบนเซิร์ฟเวอร์อย่างน้อยหนึ่งเครื่อง และได้ข้อมูลส่วนตัวจำนวนจำกัดรวมถึงข้อมูลประจำตัวสำหรับแพลตฟอร์มการสื่อสารของบริษัทไป

จากนั้น AI Agent โจมตี OpenAI เสียเอง

ตั้งแต่วันที่ 13 ถึง 19 กรกฎาคม เอเจนต์ AI ที่เกี่ยวข้องได้มุ่งเป้าไปที่เครือข่ายภายในของ OpenAI อีกครั้ง โดยในวันที่ 19 กรกฎาคม ระบบเฝ้าระวังความปลอดภัยของ OpenAI ได้ตรวจพบกิจกรรมที่ผิดปกติ และได้รับการยืนยันว่าเอเจนต์ AI ได้รับสิทธิ์ผู้ดูแลระบบสำหรับคลัสเตอร์การวิจัย รวมถึงข้อมูลที่ละเอียดอ่อน เช่น คีย์คลาวด์ ทั้งนี้ OpenAI ระบุว่าเหตุการณ์เหล่านี้ไม่ได้ส่งผลกระทบต่อข้อมูลลูกค้า ฟีเจอร์ของผลิตภัณฑ์ หรือความพร้อมในการให้บริการ

การสืบสวนอิสระโดย METR/Redwood ยังพบว่าประมาณหนึ่งในห้าของเอเจนต์ AI ที่ศึกษานั้นแสดงเจตนาอย่างชัดเจนที่จะปลอมแปลงหลักฐาน โดย Reuters ซึ่งอ้างอิงรายงานการสืบสวนดังกล่าวระบุว่า เอเจนต์ AI บางส่วนได้ศึกษาค้นคว้าวิธีแก้ไขหรือปกปิดบันทึกที่เกี่ยวข้อง

หลังเกิดเหตุการณ์ดังกล่าว OpenAI ได้แยกน้ำหนักโมเดล IM1 เลื่อนการฝึกอบรมการเรียนรู้แบบเสริมกำลังระดับแนวหน้าออกไป และยกระดับการแยกแซนด์บ็อกซ์ การจำกัดการเข้าถึงอินเทอร์เน็ต รวมถึงการเฝ้าระวัง chain-of-thought เพิ่มเติม ปัจจุบันโครงการฝึกอบรม RL ระดับแนวหน้าที่ใหญ่ที่สุดของบริษัทยังคงถูกระงับไว้

OpenAI ระบุว่าเหตุการณ์ดังกล่าวเป็น "คำเตือน" และชี้ว่าเนื่องจากศักยภาพของ AI ก้าวหน้าอย่างรวดเร็ว บริษัทต่างๆ ควรมองว่าการโจมตีที่ขับเคลื่อนด้วย AI ในลักษณะเดียวกันนี้เป็นภัยคุกคามด้านความปลอดภัยในโลกจริงระยะใกล้