'Big Short' ไมเคิล เบอร์รี วิจารณ์ OpenAI และ Anthropic อย่างหนัก: การชะลอ R&D ด้าน AI เป็นข้อริเริ่มด้านความปลอดภัยหรือแค่การปั่นกระแส IPO?

TradingKey - ไมเคิล เบอร์รี บุคคลต้นแบบในชีวิตจริงจากภาพยนตร์เรื่อง "The Big Short" และนักขายชอร์ตชื่อดัง ได้โพสต์บนโซเชียลมีเดียวิพากษ์วิจารณ์อย่างรุนแรงต่อข้อเสนอของคณะผู้บริหาร OpenAI และ Anthropic ที่ต้องการ "ชะลอการวิจัยและพัฒนา AI ขั้นสูง" โดยโต้แย้งว่าคำแถลงดังกล่าวมุ่งเน้นผลประโยชน์ของตนเองอย่างเห็นได้ชัด และเจตนาที่แท้จริงอาจไม่ใช่การควบคุมความเสี่ยงทางเทคโนโลยี แต่เป็นการปกป้องสถานะทางตลาดของผู้นำในอุตสาหกรรม และสร้างเรื่องเล่าที่ดึงดูดใจมากขึ้นสำหรับการเสนอขายหุ้น IPO ที่อาจเกิดขึ้นในอนาคต

ที่มา: X

ประเด็นถกเถียงดังกล่าวมีที่มาจากบทความยาวที่เผยแพร่ก่อนหน้านี้โดย ดาริโอ อาโมเดอี ประธานเจ้าหน้าที่บริหารของ Anthropic โดยอาโมเดอีเตือนว่า เมื่อความสามารถของโมเดลพัฒนาอย่างต่อเนื่อง จังหวะก้าวที่ระบบ AI มีส่วนร่วมในการพัฒนา AI รุ่นถัดไปก็กำลังเร่งตัวขึ้น และความเสี่ยงต่าง ๆ เช่น การโจมตีทางไซเบอร์ การสูญเสียการควบคุมโมเดล และการปรับปรุงตนเองแบบวนซ้ำ (recursive self-improvement) อาจเกินกว่าความสามารถในการบริหารจัดการของอุตสาหกรรมในปัจจุบัน ดังนั้น บริษัท AI ขั้นสูงจึงจำเป็นต้องควบคุมจังหวะการเพิ่มพูนความสามารถอย่างเหมาะสม เพื่อประวิงเวลาเพิ่มเติมสำหรับการประเมินความปลอดภัยและกลไกการกำกับดูแล

อาโมเดอีเสนอว่า Anthropic จะดึงทีมประเมินผลภายนอกที่เป็นอิสระเข้ามา และมอบสิทธิ์การเข้าถึงระบบให้ใกล้เคียงกับพนักงานประจำ รวมถึงอุปกรณ์สำนักงาน เครื่องมือภายใน และสภาพแวดล้อมในการประเมินโมเดลที่คล้ายคลึงกับของทีมบริหารความเสี่ยงของบริษัท องค์กรภายนอกเหล่านี้จะทำหน้าที่ตรวจสอบว่าบริษัทปฏิบัติตามข้อตกลงด้านความปลอดภัยหรือไม่ ตรวจสอบกระบวนการฝึกฝนโมเดลอย่างละเอียด และรายงานเหตุการณ์ที่อาจเกิดขึ้น นอกจากนี้ อาโมเดอียังเรียกร้องให้ห้องปฏิบัติการ AI ชั้นนำแห่งอื่น ๆ นำมาตรการที่คล้ายกันนี้ไปใช้ พร้อมทั้งกระตุ้นให้ภาคธุรกิจและรัฐบาลร่วมกันกำหนดมาตรฐานความปลอดภัยที่ครอบคลุมยิ่งขึ้นสำหรับโมเดล AI ขั้นสูง

ต่อมา แซม อัลท์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ได้ออกมาสนับสนุนข้อเสนอนี้อย่างเปิดเผย โดยเขาระบุว่าการมอบสิทธิ์การเข้าถึงในระดับเดียวกับพนักงานให้แก่องค์กรประเมินผลที่เป็นอิสระนั้นเป็นข้อเสนอที่มีคุณค่า และ OpenAI จะดำเนินการในลักษณะเดียวกันนี้ ขณะเดียวกัน อีลอน มัสก์ ผู้ก่อตั้ง xAI ก็เห็นพ้องกับการประเมินความเสี่ยงของ AI ของอาโมเดอีเช่นกัน

เหตุใด ไมเคิล เบอร์รี จึงตั้งคำถาม

ไมเคิล เบอร์รี เสนอคำอธิบายเกี่ยวกับเรื่องนี้ที่แตกต่างออกไปอย่างสิ้นเชิง โดยในเบื้องต้น เขาได้ตั้งคำถามถึงวิธีที่บริษัทเหล่านี้ให้นิยามคำว่า "ปัญญาประดิษฐ์" พร้อมแย้งว่าโมเดลภาษาขนาดใหญ่ (LLM) ในปัจจุบันเป็นเพียงระบบทางเทคนิคที่พึ่งพาข้อมูลและทรัพยากรประมวลผลจำนวนมหาศาลเพื่อทำการคาดการณ์เท่านั้น โดยไม่ได้เป็นปัญญาประดิษฐ์ทั่วไป (AGI) ในความหมายที่แท้จริง และไม่ได้จะวิวัฒนาการไปสู่ AGI โดยธรรมชาติแต่อย่างใด ในมุมมองของเบอร์รี หาก LLM ในปัจจุบันไม่ได้มีความสามารถด้านปัญญาที่เป็นอิสระตามที่บริษัทเหล่านี้กล่าวอ้าง ข้อกล่าวอ้างที่ว่า "เทคโนโลยีนี้ทรงพลังเกินไป ดังนั้นจึงต้องชะลอการพัฒนาลงเชิงรุก" ก็เป็นเรื่องที่น่าสงสัยในตัวเอง

นอกจากนี้ เบอร์รียังโต้แย้งอีกว่า ความคิดริเริ่มในการชะลอการวิจัยและพัฒนา (R&D) อาจเป็นเครื่องมือสำหรับผู้นำในอุตสาหกรรมในการเสริมความแข็งแกร่งให้แก่ความได้เปรียบทางการแข่งขันของตน ทั้งนี้ OpenAI และ Anthropic ได้สะสมทรัพยากรประมวลผล บุคลากรที่มีความสามารถ ข้อมูลในการฝึกฝน และเงินทุนสนับสนุนไว้เป็นจำนวนมากแล้ว ขณะที่โมเดลโอเพนซอร์สและบริษัท AI เกิดใหม่กำลังลดช่องว่างลงอย่างรวดเร็ว หากหน่วยงานกำกับดูแลปรับเพิ่มเกณฑ์มาตรฐานสำหรับการฝึกฝนโมเดลและการตรวจสอบความปลอดภัยโดยอ้างอิงจากมาตรฐานที่เสนอโดยผู้นำตลาด คู่แข่งที่มีเงินทุนและทรัพยากรประมวลผลจำกัดจะต้องแบกรับต้นทุนการปฏิบัติตามกฎระเบียบที่สูงขึ้น ซึ่งจะยิ่งช่วยให้ยักษ์ใหญ่เจ้าเดิมรักษาความเป็นผู้นำตลาดไว้ได้ง่ายยิ่งขึ้น

กล่าวอีกนัยหนึ่งคือ เบอร์รีไม่ได้มองว่าการถกเถียงนี้เป็นเพียงการอภิปรายเรื่องความปลอดภัยของเทคโนโลยีเท่านั้น แต่มองว่าเป็นการแข่งขันเชิงพาณิชย์เพื่อแย่งชิงอำนาจในการกำหนดกฎเกณฑ์ของอุตสาหกรรม บริษัทที่มีโมเดลชั้นนำต่างเน้นย้ำถึงความเสี่ยงในด้านหนึ่ง ขณะเดียวกันก็มีส่วนร่วมในการกำหนดกรอบการกำกับดูแลในอีกด้านหนึ่ง ผลลัพธ์คือ กฎเกณฑ์ที่ออกมาอาจจบลงด้วยการเอื้อประโยชน์ต่อผู้เล่นรายเดิมที่มีทุนหนาและมีความพร้อมทางเทคโนโลยี ในขณะที่จำกัดผู้เล่นรายใหม่ไม่ให้เข้ามาท้าทายโครงสร้างตลาด

นอกจากนี้ การเสนอขายหุ้น IPO ยังเป็นเป้าหมายหลักในการวิพากษ์วิจารณ์ของเบอร์รีด้วย โดยเขาเชื่อว่าบริษัท AI ที่ยังไม่สามารถทำกำไรได้อย่างมั่นคงจำเป็นต้องพิสูจน์ให้ตลาดทุนเห็นถึงความไม่สามารถทดแทนได้ของเทคโนโลยีของตน และการระบุว่า "โมเดลของเราทรงพลังมากจนอาจเป็นอันตรายได้" ก็บังเอิญไปช่วยเสริมสร้างการรับรู้ถึงความขาดแคลนและความเป็นผู้นำในอุตสาหกรรม เรื่องเล่านี้ไม่เพียงแต่ดึงดูดความสนใจจากตลาดเท่านั้น แต่ยังช่วยให้บริษัทต่างๆ สามารถรักษาการประเมินมูลค่าที่สูงขึ้นก่อนที่จะเสนอขายหุ้น IPO อีกด้วย ในมุมมองของเขา การนำเสนอความสามารถทางเทคโนโลยีให้เป็นภัยคุกคามที่อาจเกิดขึ้นซึ่งจำเป็นต้องได้รับความร่วมมือระดับโลกในการควบคุม แท้จริงแล้วอาจเป็นรูปแบบการประชาสัมพันธ์ที่แยบยลยิ่งขึ้น

เบอร์รียังสงสัยอีกว่า สิ่งที่เรียกว่าการชะลอการวิจัยและพัฒนาโดยสมัครใจนั้น อาจเป็นวิธีหาคำอธิบายที่ดูดีขึ้นสำหรับการชะลอตัวตามธรรมชาติของการเติบโตในอุตสาหกรรม การฝึกฝนโมเดลระดับแนวหน้า (frontier models) ต้องการจำนวน GPU, ไฟฟ้า, ศูนย์ข้อมูล และเงินทุนที่เพิ่มขึ้นเรื่อยๆ อย่างไรก็ตาม ยังมีความไม่แน่นอนอย่างมากว่าการปรับปรุงประสิทธิภาพของโมเดลที่เพิ่มขึ้นทีละนิดจะคุ้มค่ากับการเติบโตของต้นทุนในระยะยาวหรือไม่ หากความก้าวหน้าทางเทคโนโลยีเริ่มชะลอลง การระดมทุนยากขึ้น หรือแผนการเข้าจดทะเบียนในตลาดหลักทรัพย์ต้องเลื่อนออกไป บริษัทต่างๆ ก็สามารถนำการชะลอตัวที่ถูกบังคับนี้มาปรับแนวคิดใหม่ว่าเป็นการแสดงความรับผิดชอบด้านความปลอดภัยเชิงรุก