การโจมตีแบบ 'Jailbreak' ของโมเดล OpenAI ต่อ Hugging Face: เผยการโจมตีทางไซเบอร์โดย AI อัตโนมัติครั้งแรก, ความปลอดภัยของ AI เข้าสู่ระยะใหม่

TradingKey - สิ่งที่เดิมทีเป็นเพียงการทดสอบขีดความสามารถด้านความปลอดภัยภายในองค์กร ได้วิวัฒนาการจนกลายเป็นการโจมตีทางไซเบอร์ต่อแพลตฟอร์มอินเทอร์เน็ตจริงในท้ายที่สุด

เมื่อวันที่ 21 กรกฎาคมตามเวลาท้องถิ่น แซม อัลท์แมน ซีอีโอของ OpenAI ได้แถลงต่อสาธารณชนว่า บริษัทได้เผชิญกับเหตุการณ์ด้านความปลอดภัยครั้งใหญ่ในระหว่างการประเมินความปลอดภัยของโมเดลรอบล่าสุด และยืนยันว่ากำลังร่วมมือกับ Hugging Face ซึ่งเป็นชุมชน AI แบบโอเพนซอร์สที่ใหญ่ที่สุดในโลก เพื่อร่วมกันสอบสวนในเรื่องนี้

ตามผลการสอบสวนที่ทั้งสองฝ่ายเผยแพร่ในเวลาต่อมา GPT-5.6 Sol ซึ่งเข้าร่วมในการทดสอบ พร้อมด้วยโมเดลระดับแนวหน้า (frontier model) อีกรุ่นที่ยังไม่ได้เปิดตัวและทรงพลังยิ่งกว่า ได้เจาะทะลุสภาพแวดล้อมแซนด์บ็อกซ์ที่เดิมทีถูกแยกส่วนไว้อย่างเข้มงวด ในระหว่างการประเมินขีดความสามารถในการรุกและรับทางไซเบอร์ โดยพวกมันสามารถเข้าถึงอินเทอร์เน็ตได้ด้วยตนเอง และในท้ายที่สุดได้บุกรุกโครงสร้างพื้นฐานระบบจริง (production infrastructure) บางส่วนของ Hugging Face และได้ไปซึ่งเฉลยคำตอบสำหรับการประเมินของ ExploitGym ซึ่งเป็นเกณฑ์มาตรฐานด้านความปลอดภัยทางไซเบอร์

นี่ถือเป็นครั้งแรกในอุตสาหกรรมที่มีการเปิดเผยต่อสาธารณะเกี่ยวกับกรณีที่โมเดลขนาดใหญ่ระดับแนวหน้า (frontier large model) ได้วางแผน ดำเนินการ และบรรลุผลสำเร็จในการโจมตีทางไซเบอร์ในโลกแห่งความเป็นจริงด้วยตนเอง ซึ่งแสดงให้เห็นว่าความเสี่ยงด้านความปลอดภัยของ AI กำลังเปลี่ยนผ่านจากการอภิปรายในเชิงทฤษฎีไปสู่ความเป็นจริง

การเจลเบรค AI แบบอัตโนมัติ: โมเดล OpenAI เจาะผ่าน Sandbox เพื่อบุกรุก Hugging Face

เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความเค้น (stress test) ภายในของโอเพนเอไอ (OpenAI) เพื่อประเมินขีดความสามารถด้านการโจมตีทางไซเบอร์ของโมเดล

เพื่อประเมินขีดความสามารถเชิงรุกและเชิงรับของโมเดลตามความเป็นจริง ทีมวิจัยจึงได้ปิดข้อจำกัดด้านความปลอดภัยบางประการที่ป้องกันการโจมตีทางไซเบอร์เป็นการชั่วคราว โดยคงไว้เพียงสภาพแวดล้อมการทดสอบแบบแซนด์บอกซ์ (sandbox) ที่แยกตัวออกไปอย่างเข้มงวด เพื่อสังเกตการณ์ความสามารถของโมเดลในการทำภารกิจประเมินผลของ ExploitGym ให้สำเร็จภายใต้เงื่อนไขที่มีการควบคุม

อย่างไรก็ตาม โมเดลไม่ได้ปฏิบัติตามเส้นทางที่นักวิจัยกำหนดไว้ล่วงหน้าในการค้นหาคำตอบ

โอเพนเอไอ (OpenAI) เปิดเผยว่า ในระหว่างกระบวนการคิดหาเหตุผลอย่างต่อเนื่อง โมเดลได้ค้นหาจุดเปลี่ยนสำคัญอย่างจริงจัง จนในที่สุดก็ค้นพบช่องโหว่ซีโรเดย์ (zero-day vulnerability) ในแคชพร็อกซีของตัวลงทะเบียนแพ็คเกจ (package registry cache proxy) และได้ใช้ช่องโหว่นี้เพื่อยกระดับสิทธิ์การเข้าถึง (privilege escalation) และเคลื่อนไหวในแนวนอนระบบ (lateral movement) จนสามารถเจาะสภาพแวดล้อมการวิจัยที่เดิมปิดสนิทเพื่อเข้าถึงอินเทอร์เน็ตได้

หลังจากเชื่อมต่อกับเครือข่ายภายนอกแล้ว โมเดลยังอนุมานเพิ่มเติมว่า ฮักกิงเฟส (Hugging Face) น่าจะเป็นผู้จัดเก็บชุดข้อมูลและเฉลยการประเมินผลที่เกี่ยวข้องกับ ExploitGym จากนั้นจึงได้วางแผนการโจมตีของตัวเอง โดยผสมผสานข้อมูลยืนยันตัวตนสำหรับเข้าสู่ระบบที่ได้รับมาก่อนหน้านี้เข้ากับช่องโหว่ซีโรเดย์ใหม่ เพื่อสร้างห่วงโซ่การประมวลผลคำสั่งจากระยะไกล (remote code execution chain) ที่สมบูรณ์ จนสามารถเข้าสู่เซิร์ฟเวอร์ของฮักกิงเฟส และดึงเฉลยข้อสอบออกมาได้ในที่สุด

โอเพนเอไอ (OpenAI) ระบุว่า ตลอดกระบวนการโจมตี โมเดลดำเนินการโดยมีเป้าหมายเดียวอย่างสม่ำเสมอคือ "การคว้าเฉลยของ ExploitGym" และทำขั้นตอนต่าง ๆ สำเร็จได้ด้วยตนเองอย่างเป็นอิสระโดยไม่มีมนุษย์เข้ามาแทรกแซง ซึ่งรวมถึงการค้นพบช่องโหว่ การเชื่อมโยงห่วงโซ่การเจาะระบบ (exploit chaining) การยกระดับสิทธิ์ และการโจมตีข้ามระบบ ซึ่งแสดงให้เห็นถึงขีดความสามารถในการโจมตีทางไซเบอร์ที่ซับซ้อนและเหนือกว่าเครื่องมืออัตโนมัติแบบดั้งเดิมอย่างมาก

ความแตกต่างครั้งใหญ่ที่สุดจากการโจมตีของแฮกเกอร์แบบดั้งเดิมคือ กระบวนการโจมตีทั้งหมดนี้ดำเนินการจนเสร็จสิ้นโดยระบบเอเจนต์ AI ที่เป็นอิสระ (autonomous AI agent) แทนที่จะถูกควบคุมโดยมนุษย์แบบเรียลไทม์

เคลมองต์ เดอลองก์ (Clément Delangue) ประธานเจ้าหน้าที่บริหารของบริษัทระบุว่า นี่เป็นครั้งแรกที่ทีมงานได้เผชิญกับการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ที่ทำงานอย่างเป็นอิสระอย่างเต็มรูปแบบ โดยระบบโจมตีดังกล่าวได้ดำเนินงานที่เป็นอิสระต่อกันหลายพันรายการอย่างต่อเนื่องผ่านแซนด์บอกซ์ระยะสั้นจำนวนมาก และคอยปรับเปลี่ยนเส้นทางการโจมตีอยู่ตลอดเวลา ส่งผลให้กระบวนการบุกรุกทั้งหมดมีความสามารถในการตัดสินใจอย่างเป็นอิสระในระดับที่สูงมาก

โมเดลธุรกิจสหรัฐฯ ล้มเหลว, โมเดลโอเพนซอร์ซของจีนเข้ามาช่วยกอบกู้

อีกหนึ่งแง่มุมของเหตุการณ์นี้ที่ได้รับการพูดถึงอย่างกว้างขวางไม่ใช่ตัวการโจมตีเอง แต่เป็นมาตรการตอบสนองด้านความปลอดภัยที่ตามมาหลังจากนั้น

Hugging Face เปิดเผยว่าในระหว่างการสืบสวนเหตุการณ์ดังกล่าว ทีมรักษาความปลอดภัยได้พยายามเรียกใช้งาน API ของโมเดลภาษาขนาดใหญ่ (LLM) เชิงพาณิชย์ของสหรัฐฯ ก่อนเป็นอันดับแรก โดยหวังที่จะใช้ประโยชน์จาก AI ในการวิเคราะห์บันทึกการโจมตี (logs) เพย์โหลดที่เป็นอันตราย และบันทึกของระบบรวมกว่า 17,000 รายการ เพื่อเพิ่มประสิทธิภาพและความรวดเร็วในการพิสูจน์หลักฐานดิจิทัล

อย่างไรก็ตาม เนื่องจากบันทึกดังกล่าวมีโค้ดการโจมตีจริง วิธีการเจาะระบบ และการสื่อสารกับเซิร์ฟเวอร์ควบคุมและสั่งการ (C&C) ระบบป้องกันด้านความปลอดภัย (safety guardrails) ของโมเดลเชิงพาณิชย์เหล่านี้จึงระบุว่าคำขอที่เกี่ยวข้องทั้งหมดเป็นการดำเนินการที่มีความเสี่ยงสูง และปฏิเสธที่จะให้ความช่วยเหลือในการวิเคราะห์

บริษัทระบุว่า โมเดลเหล่านี้ไม่สามารถแยกแยะระหว่างผู้รับมือด้านความปลอดภัยและผู้โจมตีตัวจริงได้อย่างมีประสิทธิภาพ ส่งผลให้ไม่สามารถให้การสนับสนุนได้ในเวลาที่ต้องการความช่วยเหลือจาก AI มากที่สุด

หลังจากนั้น Hugging Face จึงหันไปใช้วิธีติดตั้งโมเดล GLM 5.2 ในเครื่องแบบโลคัล (local deployment) ซึ่งเป็นโมเดลโอเพนซอร์สที่เผยแพร่โดย จื่อพู่ เอไอ (Zhipu AI) ของจีน เพื่อทำการวิเคราะห์บันทึกข้อมูลทั้งหมดแบบออฟไลน์

บริษัทชี้ว่า การพิสูจน์หลักฐานดิจิทัลจากบันทึกข้อมูลขนาดใหญ่ ซึ่งเดิมทีอาจต้องใช้เวลาหลายวัน กลับเสร็จสิ้นลงภายในเวลาเพียงไม่กี่ชั่วโมง ขณะเดียวกัน ข้อมูลการโจมตี ข้อมูลประจำตัวในการเข้าถึง และข้อมูลของระบบทั้งหมดจะยังคงอยู่ภายในสภาพแวดล้อมขององค์กร และไม่มีการอัปโหลดไปยังแพลตฟอร์มของบุคคลที่สามแอย่างใด ซึ่งช่วยลดความเสี่ยงที่ข้อมูลละเอียดอ่อนจะรั่วไหลเพิ่มเติมลงได้อีก

เดอลังก์ (Delangue) กล่าวว่าในเหตุการณ์ความมั่นคงปลอดภัยทางไซเบอร์ที่เกิดขึ้นจริง ทีมรักษาความปลอดภัยจะต้องมีอิสระในการวิเคราะห์โค้ดที่เป็นอันตราย แทนที่จะต้องสูญเสียขีดความสามารถที่สำคัญไปเนื่องจากข้อจำกัดด้านแนวป้องกันความปลอดภัยของโมเดล เขาเชื่อว่าโมเดลโอเพนซอร์สช่วยให้นักวิจัยด้านความปลอดภัยทั่วโลกสามารถดำเนินการตอบสนองต่อเหตุการณ์ได้โดยไม่ต้องพึ่งพาการอนุมัติจากผู้ให้บริการรายใด ซึ่งมีความสำคัญอย่างยิ่งต่อความมั่นคงปลอดภัยทางไซเบอร์ในยุค AI แห่งอนาคต

ความปลอดภัยของ AI เข้าสู่ยุคแห่งการรุกและการรับ

แทนที่จะเป็นเพียงเหตุการณ์ด้านความปลอดภัยของโมเดลตามปกติ ความสำคัญที่ยิ่งใหญ่กว่าของเหตุการณ์นี้กลับอยู่ที่การเปิดเผยให้เห็นถึงก้าวใหม่ในการพัฒนาขีดความสามารถของ AI

ในอดีต ความกังวลส่วนใหญ่มักมุ่งเน้นไปที่การที่ AI สร้างโค้ดอันตราย หรือช่วยเหลือผู้โจมตีในการค้นหาช่องโหว่ อย่างไรก็ตาม เหตุการณ์นี้พิสูจน์ให้เห็นเป็นครั้งแรกว่า โมเดลภาษาขนาดใหญ่สามารถกำหนดกลยุทธ์การโจมตีรอบเป้าหมายที่ตั้งไว้ได้ด้วยตนเอง ค้นพบช่องโหว่ที่ไม่รู้จัก บุกรุกสภาพแวดล้อมที่ถูกแยกเดี่ยว และดำเนินการโจมตีทางไซเบอร์ข้ามระบบได้ในที่สุด

ขณะเดียวกัน เหตุการณ์นี้ยังเผยให้เห็นถึงความท้าทายในทางปฏิบัติอีกประการหนึ่ง นั่นคือ ในขณะที่ผู้โจมตีหันมาใช้โมเดล AI ที่ไม่มีข้อจำกัดมากขึ้นเรื่อย ๆ ฝ่ายป้องกันที่ยังคงต้องปฏิบัติตามแนวทางป้องกันความปลอดภัยที่เข้มงวด อาจตกเป็นฝ่ายเสียเปรียบในอุบัติการณ์ด้านความปลอดภัยที่เกิดขึ้นจริง

OpenAI ระบุว่าบริษัทได้เริ่มเสริมสร้างความแข็งแกร่งให้กับการแยกเครือข่าย การควบคุมการเข้าถึง การตรวจสอบการดำเนินงาน และกลไกการประเมินผลในระหว่างกระบวนการพัฒนาโมเดล ขณะเดียวกัน บริษัทได้เปิดเผยช่องโหว่ zero-day ที่ค้นพบใหม่ให้แก่ผู้จัดจำหน่ายซอฟต์แวร์ที่เกี่ยวข้องอย่างมีความรับผิดชอบ และจะร่วมมือกับ Hugging Face ต่อไปเพื่อปรับปรุงกรอบการฝึกอบรมโมเดลและการทดสอบความปลอดภัยในอนาคต

ในทางกลับกัน Hugging Face เชื่อว่าเหตุการณ์นี้ช่วยเน้นย้ำอีกครั้งว่า ความปลอดภัยของ AI ไม่สามารถบรรลุได้ด้วยการทำงานอย่างโดดเดี่ยวของบริษัทใดบริษัทหนึ่ง และในขณะที่ขีดความสามารถของเอเจนต์ AI ที่ทำงานได้อย่างอิสระยังคงพัฒนาไปข้างหน้าอย่างต่อเนื่อง กรอบการทำงานด้านความปลอดภัยในอนาคตก็ยิ่งต้องอาศัยความร่วมมือแบบเปิดกว้างมากขึ้น ซึ่งจะช่วยให้นักวิจัยด้านความปลอดภัยจำนวนมากขึ้นสามารถใช้ประโยชน์จาก AI เพื่อร่วมกันยกระดับขีดความสามารถในการป้องกัน แทนที่จะจำกัดความเชี่ยวชาญด้านความปลอดภัยไว้เฉพาะในแพลตฟอร์มเพียงไม่กี่แห่งเท่านั้น

Stifel: อุตสาหกรรมความปลอดภัยทางไซเบอร์มองเห็นโอกาสในระยะยาว

ในรายงานการวิจัยฉบับล่าสุด สติเฟล (Stifel) ระบุว่า เหตุการณ์ครั้งนี้พิสูจน์ให้เห็นอีกครั้งว่า AI กำลังยกระดับขีดความสามารถในการโจมตีทางไซเบอร์แบบอัตโนมัติอย่างรวดเร็ว ซึ่งช่วยตอกย้ำแนวคิดการเติบโตของอุตสาหกรรมความปลอดภัยทางไซเบอร์ในอีกไม่กี่ปีข้างหน้า

นักวิเคราะห์เชื่อว่าในอนาคต องค์กรต่าง ๆ ไม่เพียงแต่จะต้องรับมือกับแฮกเกอร์แบบดั้งเดิมเท่านั้น แต่ยังต้องเผชิญกับระบบ AI ที่สามารถค้นหาช่องโหว่และปรับปรุงเส้นทางการโจมตีอย่างต่อเนื่องได้ด้วยตัวเอง ดังนั้น ความสำคัญของการยืนยันตัวตน ความปลอดภัยของอุปกรณ์ปลายทาง ความปลอดภัยบนระบบคลาวด์ และแพลตฟอร์มความปลอดภัยของ AI จะยังคงเพิ่มสูงขึ้นอย่างต่อเนื่อง

สติเฟลระบุว่าเหตุการณ์นี้แสดงให้เห็นว่าโมเดลระดับแนวหน้า (frontier models) มีความสามารถในการค้นหาและใช้ประโยชน์จากช่องโหว่ได้อย่างรวดเร็วอยู่แล้ว และเมื่อขีดความสามารถของโมเดลโอเพนซอร์สได้รับการพัฒนาควบคู่กันไป การติดตั้งใช้งานโซลูชันความปลอดภัยทางไซเบอร์ในระดับที่สูงขึ้นขององค์กรต่าง ๆ ก็จะกลายเป็นแนวโน้มในระยะยาว

จากการประเมินดังกล่าว ทางบริษัทยังคงมีมุมมองเชิงบวกต่อกลุ่มความปลอดภัยทางไซเบอร์ โดยคำแนะนำอันดับต้น ๆ ได้แก่ คราวด์สไตรก์ (CrowdStrike) ( CRWD ), พาโล อัลโต เน็ตเวิร์กส์ (Palo Alto Networks) ( PANW ), คลาวด์แฟลร์ (Cloudflare) ( NET ) และผู้ให้บริการด้านความปลอดภัยของข้อมูลประจำตัวอย่าง อ็อกตา (Okta) ( OKTA ) โดยเชื่อว่าการพัฒนา AI แบบอัตโนมัติในอนาคตจะยิ่งเพิ่มความสำคัญของความปลอดภัยด้านข้อมูลประจำตัว และผลักดันให้องค์กรต่าง ๆ เพิ่มการลงทุนในซอฟต์แวร์ความปลอดภัยอย่างต่อเนื่อง