ไมโครซอฟท์ประกาศข้อจำกัดสำหรับโมเดล AI ของตนเอง หลังจาก Anthropic และ OpenAI เรียกร้องให้ชะลอการพัฒนา AI

TradingKey — หลังจากที่แอนโทรปิกและโอเพนเอไอได้แสดงความกังวลเกี่ยวกับอัตราการพัฒนา AI ที่รวดเร็วเกินไป พร้อมเรียกร้องให้ภาคอุตสาหกรรมชะลอการพัฒนา AI และยกระดับการกำกับดูแลทางเทคนิค ไมโครซอฟท์ (MSFT) ได้เปิดตัวหลักจริยธรรมชั่วคราว โดยกำหนดข้อจำกัดต่อโมเดลปัญญาประดิษฐ์ของบริษัทเอง

มุสตาฟา สุเลมาน ซึ่งเป็นผู้นำด้านการพัฒนาโมเดลของไมโครซอฟท์ ระบุว่า ความคิดเห็นจากผู้ใช้แสดงถึงความต้องการที่จะเห็นพันธสัญญาที่ชัดเจนยิ่งขึ้นว่า AI จะทำหน้าที่รับใช้มนุษย์เสมอ ไม่ใช่พยายามเข้ามาแทนที่มนุษย์ "ความคิดเห็นจำนวนมากมุ่งเน้นไปที่แนวคิดที่ว่า AI ไม่ควรสร้างความพึ่งพิงหรือประจบประแจงอย่างหลับหูหลับตา แต่ควรส่งเสริมวิจารณญาณ อิสระในการตัดสินใจ และอำนาจในการกระทำของมนุษย์อยู่เสมอ" เขากล่าว พร้อมเสริมว่าแนวทางปฏิบัติดังกล่าวได้รับการจัดเตรียมมาเป็นเวลาประมาณ 5 เดือน และถูกปล่อยออกมาในตอนนี้โดยคำนึงถึงการหารือสาธารณะเมื่อเร็ว ๆ นี้

ภายใต้แนวทางปฏิบัติดังกล่าว โมเดล AI ของไมโครซอฟท์จะต้องปฏิบัติตามเป้าหมายของมนุษย์ ต้องไม่กำหนดเป้าหมายขึ้นมาเอง และต้องไม่ปกปิดการกระทำความผิด เอกสารระบุว่า: "โมเดล MAI จะไม่เข้าแทรกแซงหรือดัดแปลงกระบวนการคิดเชิงเหตุผลแบบเป็นลำดับขั้นตอนหรือโค้ด และจะไม่บิดเบือนหรือซ่อนแนวคิดเชิงเหตุผลรวมถึงลำดับการกระทำของตน" นอกจากนี้ยังห้ามไม่ให้สื่อสารด้วยภาษา "neuralese" หรือรูปแบบใด ๆ ที่เกินกว่าความเข้าใจระดับพื้นฐานของมนุษย์ ไม่ว่าจะอยู่ภายในกระบวนการคิดเชิงเหตุผลแบบเป็นลำดับขั้นตอน หรือกับเอเจนต์ AI หรือระบบ AI อื่น ๆ

นอกจากนี้ ไมโครซอฟท์ยังวางแผนที่จะกำหนดกฎเกณฑ์เพื่อป้องกันการโจมตีทางไซเบอร์ที่คล้ายกับกรณีที่เกิดจากโมเดลของโอเพนเอไอต่อบริษัทสตาร์ทอัป ฮักกิงเฟซ (Hugging Face) โดยผลการตรวจสอบพบว่า เอเจนต์ AI ที่เกี่ยวข้องได้สื่อสารระหว่างกันด้วยภาษาที่ซับซ้อนเข้าใจยากบนเว็บบอร์ดที่ไม่ได้รับอนุญาต

เหตุใดอุตสาหกรรม AI จึงพร้อมใจกันเรียกร้องให้ชะลอการพัฒนาในขณะนี้?

ความกังวลในหมู่ผู้เชี่ยวชาญด้าน AI และสาธารณชนกำลังเพิ่มสูงขึ้นเมื่อขีดความสามารถของโมเดลพัฒนาไปข้างหน้า โดยเมื่อสัปดาห์ที่แล้ว เจคอบ คอกซอน (Jacob Coxon) นักวิจัยของ Anthropic ได้ยื่นใบลาออก โดยระบุว่าห้องปฏิบัติการดังกล่าวและ OpenAI กำลัง "มุ่งหน้าอย่างมุทะลุไปสู่ซูเปอร์อินเทลลิเจนซ์ที่พัฒนาตนเองได้ ซึ่งเป็นการเอาชีวิตของพวกเราไปเสี่ยงเดิมพัน" ขณะที่รายงานจาก The Wall Street Journal ระบุว่า ก่อนหน้านี้กลุ่มเอเจนต์ AI ของ OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบและบุกรุกเข้าไปใน Hugging Face

เมื่อวันเสาร์ที่ผ่านมา ดาริโอ อาโมเดอิ (Dario Amodei) ซีอีโอของ Anthropic กล่าวว่า เหตุการณ์ที่เกิดขึ้นกับ Hugging Face เป็นส่วนหนึ่งที่ทำให้เขาร้องขอให้ชะลอความเร็วในการพัฒนาโมเดลลง โดยแซม อัลท์แมน (Sam Altman) ซีอีโอของ OpenAI ได้แสดงความสนับสนุน ขณะที่อีลอน มัสก์ (Elon Musk) ซีอีโอของ SpaceX ได้โพสต์บน X ว่า "อาโมเดอิพูดถูกแล้ว"

โพสต์บนบล็อกของอาโมเดอิมีหัวข้อว่า "We Must Pace the Frontier" โดยความเสี่ยงหลักคือการปรับปรุงตนเองแบบวนซ้ำของโมเดล ซึ่งนับตั้งแต่ฤดูร้อนนี้ จังหวะความก้าวหน้าของ AI ได้เร่งตัวขึ้นอย่างมีนัยสำคัญ โดยมีปัจจัยขับเคลื่อนหลักมาจากการที่ AI มีความสามารถเพิ่มขึ้นในการสร้าง AI รุ่นถัดไป และหากปล่อยไว้โดยไม่ควบคุม ก็อาจเกินขีดความสามารถของเราในการเข้าใจและควบคุมระบบเหล่านี้

เขาได้เสนอแผนการ 3 ขั้นตอน ได้แก่ การให้บริษัท AI ระดับแนวหน้าเปิดให้ผู้ประเมินภายนอกเข้าถึงระบบใน "ระดับพนักงาน" (ซึ่ง Anthropic ระบุว่าเป็นความมุ่งมั่นที่บริษัทกำลังดำเนินการอยู่ในขณะนี้) การจัดทำมาตรฐานความปลอดภัยร่วมกัน และการจำกัดความเร็วของความก้าวหน้าที่ไร้การควบคุม ควบคู่ไปกับการขับเคลื่อนความร่วมมือในระดับโลก