แซม อัลท์แมน สนับสนุนการควบคุมจังหวะการพัฒนา AI ระดับแนวหน้า ด้าน OpenAI เตรียมนำการประเมินความปลอดภัยที่เป็นอิสระมาใช้

TradingKey - แซม อัลท์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ได้โพสต์บนแพลตฟอร์มโซเชียลมีเดีย X เมื่อวันที่ 14 กันยายน เพื่อสนับสนุนการจัดตั้งกรอบความปลอดภัยระดับรัฐบาลกลางสำหรับบริษัท AI ระดับแนวหน้า เขาระบุว่าแรงกดดันด้านการแข่งขันที่สหรัฐฯ กำลังเผชิญในภาคส่วน AI ไม่ควรเป็นข้ออ้างให้บริษัทต่างๆ ดำเนินการอย่างประมาท หรือปล่อยให้ความสามารถของโมเดลพัฒนาแซงหน้าขีดความสามารถด้านความปลอดภัยและการตรวจสอบ

[ที่มา: X]

อัลท์แมนได้สรุปประเภทความเสี่ยงหลักไว้ 2 ประการ ได้แก่ ประการแรก มนุษยชาติอาจสูญเสียการควบคุมอนาคต ดังนั้น AI จึงต้องรับใช้มนุษย์อยู่เสมอ ประการที่สอง AI ขั้นสูงอาจนำไปสู่การกระจุกตัวของอำนาจมากเกินไป ซึ่งทำให้คนจำนวนน้อย บริษัทไม่กี่แห่ง หรือแม้กระทั่งบางประเทศมีอิทธิพลมากเกินไป

OpenAI สนับสนุนการนำผู้ประเมินอิสระเข้ามามีส่วนร่วม โดยอัลท์แมนเชื่อว่าบริษัท AI ระดับแนวหน้าไม่ควรรอกฎหมายที่เกี่ยวข้องหรือการยกเว้นกฎหมายต่อต้านการผูกขาด แต่ควรรีบพัฒนามาตรฐานความปลอดภัยร่วมกันทันที ทั้งนี้ เมื่อความสามารถของโมเดลพัฒนาไปข้างหน้า เทคโนโลยีด้านการสอดคล้องและความปลอดภัยจะต้องก้าวล้ำนำหน้าอยู่เสมอ ขณะที่มาตรการตรวจสอบก็ต้องก้าวตามให้ทัน

OpenAI เพิ่มข้อพิจารณาด้านความปลอดภัยก่อนการฝึกฝนโมเดลระดับแนวหน้า

อัลท์แมนระบุว่า การปรับจังหวะการพัฒนาไม่ได้หมายถึงการหยุดการวิจัยและพัฒนา แม้ว่าข้อพิจารณาด้านความปลอดภัยและการติดตามตรวจสอบอย่างต่อเนื่องจะเพิ่มต้นทุนและอาจทำให้ความคืบหน้าในการฝึกฝนช้าลงบ้าง แต่การพัฒนาโมเดลและความก้าวหน้าทางเทคโนโลยีจะยังคงดำเนินต่อไป

ก่อนหน้านี้ นโยบายการขยายขนาดอย่างมีความรับผิดชอบที่บริษัท AI ชั้นนำบางแห่งนำมาใช้ และกรอบความพร้อมที่จัดทำโดย OpenAI มุ่งเน้นไปที่โมเดลที่ฝึกฝนเสร็จสมบูรณ์และความเสี่ยงในการนำไปใช้งานเป็นหลัก อัลท์แมนเชื่อว่าการจัดการความปลอดภัยควรรอบคลุมถึงกระบวนการพัฒนาและประเมินผลโมเดลด้วยเช่นกัน

สำหรับการฝึกฝนการเรียนรู้แบบเสริมกำลังระดับชั้นนำที่คาดว่าจะช่วยเพิ่มขีดความสามารถของโมเดลได้อย่างมีนัยสำคัญ OpenAI ได้เริ่มกำหนดข้อพิจารณาด้านความปลอดภัยที่ชัดเจนก่อนการฝึกฝน ขณะเดียวกันก็ยังคงรักษาการประเมินความปลอดภัยก่อนการเปิดตัวโมเดลไว้ บริษัทหวังว่าบริษัท AI ชั้นนำอื่น ๆ จะนำแนวทางของตนไปปรับใช้และเสนอโซลูชันของตัวเอง เพื่อขับเคลื่อนการสร้างมาตรฐานร่วมกันสำหรับปัญหาความไม่สอดคล้องของโมเดล การติดตามตรวจสอบ และความปลอดภัย

อัลท์แมนระบุว่า การปรับจังหวะการพัฒนาไม่ได้เท่ากับการหยุดการวิจัยและพัฒนา ข้อพิจารณาด้านความปลอดภัยและการติดตามตรวจสอบอย่างต่อเนื่องจำเป็นต้องใช้ทรัพยากรมากขึ้น และจะทำให้อัตราการพัฒนาขีดความสามารถของ AI ชั้นนำต่ำกว่ากรณีที่ไม่มีมาตรการดังกล่าว แต่การวิจัยและพัฒนาที่เกี่ยวข้องจะยังคงรุดหน้าต่อไป

OpenAI ตอบกลับข้อเสนอแนะ 3 ประการของ Anthropic

ความคิดเห็นของอัลท์แมนมีขึ้นเพื่อตอบรับข้อเสนอแนะเมื่อวันที่ 12 กันยายน จากดาริโอ อะโมเดอี ประธานเจ้าหน้าที่บริหารของแอนโทรพิก โดยอะโมเดอีระบุว่า ยิ่ง AI มีส่วนร่วมในการพัฒนาโมเดลรุ่นต่อไปมากขึ้น ความสามารถของโมเดลก็อาจก้าวหน้าไปเร็วกว่าที่อุตสาหกรรมจะสามารถเข้าใจและควบคุมความเสี่ยงที่เกี่ยวข้องได้

อะโมเดอีได้เสนอมาตรการ 3 ประการ ได้แก่ การที่บริษัท AI ชั้นแนวหน้าให้สิทธิ์ทีมประเมินที่เป็นบุคคลภายนอกเข้าถึงข้อมูลอย่างต่อเนื่องในระดับที่ใกล้เคียงกับพนักงาน การส่งเสริมการจัดทำมาตรฐานความปลอดภัยร่วมกันระหว่างบริษัทที่เกี่ยวข้องในประเทศกลุ่มประชาธิปไตย และการผลักดันความร่วมมือระหว่างประเทศซึ่งรวมถึงประเทศอย่างสหรัฐฯ และจีน

แอนโทรพิกได้ให้คำมั่นที่จะดึงทีมประเมินจากภายนอกเข้ามาทำงาน ขณะเดียวกัน อัลท์แมนระบุว่าโอเพนเอไอจะนำแนวทางการประเมินอิสระที่คล้ายคลึงกันมาใช้เช่นกัน แม้ว่าบริษัทยังไม่ได้เปิดเผยรายละเอียดสิทธิ์การเข้าถึงเฉพาะของผู้ประเมินและกรอบเวลาในการดำเนินการก็ตาม

ในประเด็นเรื่องความเร็วในการพัฒนา ลำดับความสำคัญของทรัมป์มีความแตกต่างจากผู้นำบางคนในบริษัท AI ชั้นแนวหน้า โดยทรัมป์มองว่าสหรัฐฯ ไม่มีความจำเป็นต้องชะลอการพัฒนา AI เพื่อหลีกเลี่ยงการสูญเสียการเป็นผู้นำเหนือจีน ขณะเดียวกัน อัลท์แมนสนับสนุนให้ดำเนินการวิจัยและพัฒนาต่อไป พร้อมทั้งสร้างความมั่นใจว่ามาตรการด้านความสอดคล้อง ความปลอดภัย และการตรวจสอบ จะไม่ล้าหลังความก้าวหน้าด้านขีดความสามารถของโมเดล