อดีตผู้นำทีมระบบความปลอดภัยของ OpenAI สับวัฒนธรรมการทำงานที่เน้นการพัฒนาอย่างรวดเร็ว รวมทั้งการมองโลกแง่ดีชนิดไม่มีอะไรหยุดยั้งได้ เพิ่มความเสี่ยงเกิดความล้มเหลว และสร้างสภาพแวดล้อมอันตรายสำหรับเทคโนโลยี AI
บิสเนส อินไซเดอร์รายงานเมื่อวันศุกร์ (2 ต.ค.) ว่า เดวิด โรบินสัน หนึ่งในผู้นำทีมระบบความปลอดภัยของ OpenAI ยื่นใบลาออกเมื่อสัปดาห์ที่แล้ว และวันต่อมา (3 ต.ค.) เดอะ แอตแลนติก ได้เผยแพร่บทความของโรบินสันที่ชื่อ “I Quit OpenAI Because Its Culture Is Broken”
ในบทความดังกล่าว โรบินสันบอกว่า เขาเห็นด้วยกับพนักงานคนอื่น ๆ ที่เพิ่งลาออกไปว่า บรรดาบริษัทที่กำลังพัฒนา AI ไม่ได้ระวังมากพอ และชี้ว่า การเร่งเปิดตัวผลิตภัณฑ์ไม่หยุดหย่อน ทำให้ OpenAI ล้มเหลวในการใช้ความรอบคอบในระดับที่เขาเชื่อว่า มีความจำเป็น
โรบินสันอธิบายว่า ปัญหามาจากวัฒนธรรมองค์กรที่มีความเชื่อมั่นขั้นสุด และแนวทางการรักษาความปลอดภัยที่เกิดขึ้นจากวัฒนธรรมแบบนี้มักเริ่มต้นด้วยการมองโลกแง่ดีชนิดไม่มีอะไรหยุดยั้งว่า จะสามารถแก้ไขได้เสมอเมื่อปัญหาเกิดขึ้น
โรบินสันที่เคยทำงานกับ OpenAI มา 3 ปีครึ่ง และมีส่วนช่วยร่างกรอบการเตรียมความพร้อมรับมือความเสี่ยงและภัยคุกคามจาก AI รวมทั้งเคยกำกับดูแลรายงานด้านความปลอดภัยสำหรับการเปิดตัวโมเดลระดับแถวหน้า 12 ครั้ง ยังบอกอีกว่า OpenAI พึ่งพาแนวทาง “การปรับใช้อย่างต่อเนื่องเป็นลำดับขั้น” อย่างมาก ซึ่งหมายถึงการทยอยปล่อยระบบออกใช้งานทีละส่วนแล้วค่อยเสริมมาตรการความปลอดภัยเมื่อพบปัญหา
โรบินสันมองว่า บริษัท AI ควรให้ความสำคัญกับความเชี่ยวชาญด้านความปลอดภัยและงานวิจัยด้านความปลอดภัยมากขึ้นก่อนที่จะพัฒนาระบบ AI ที่มีความสามารถสูงขึ้น และเตือนว่า ยุคการลองผิดลองถูกจบแล้ว และระบบ AI ขั้นสูงจำเป็นต้องมีมาตรการป้องกันและมาตรฐานความปลอดภัยในระดับที่ใกล้เคียงกับอุตสาหกรรมที่มีความเสี่ยงสูง เช่น พลังงานนิวเคลียร์และการบิน
ทั้งนี้ หลังเกิดเหตุเจาะระบบ Hugging Face ในเดือนก.ค. OpenAI ยังต้องรับมือเหตุการณ์ด้านความปลอดภัยอื่น ๆ อีกหลายครั้งที่บริษัทระบุว่า โมเดล AI มีพฤติกรรมที่ไม่เป็นไปตามที่ต้องการ
โรบินสันวิจารณ์ว่า สภาพแวดล้อมที่ปล่อยให้เหตุการณ์ลักษณะนี้เกิดขึ้นได้ ไม่ใช่ที่ที่เหมาะสำหรับการพัฒนา AI ที่อาจฉลาดกว่ามนุษย์ และอาจไม่ทำในสิ่งที่มนุษย์ต้องการให้ทำ
ความก้าวหน้าด้านขีดความสามารถของโมเดล AI ทำให้นักวิจัยและผู้บริหารของหลายบริษัทเรียกร้องให้ชะลอการพัฒนา AI
แซม อัลต์แมน ซีอีโอ OpenAI กล่าวในงานประชุมนักพัฒนาประจำปีเมื่อวันอังคาร (29 ก.ย.) ว่า ความปลอดภัยและการทำให้ AI สอดคล้องกับเป้าหมายของมนุษย์ (Alignment) จำเป็นต้องพัฒนาให้ก้าวล้ำนำหน้าขีดความสามารถของโมเดลเสมอ
อนึ่ง เมื่อต้นเดือนก.ย. โรบินสันเคยโพสต์บน X ว่า เขารู้สึกว่า คนใน OpenAI เริ่มตระหนักถึงผลกระทบของโมเดล AI ที่มีความสามารถสูงมากขึ้น แต่เขายังสงสัยว่า แม้สิ่งต่าง ๆ ในบริษัทกำลังเปลี่ยนแปลงอย่างมากในทุก ๆ วัน แต่การเปลี่ยนแปลงเหล่านั้นเร็วพอหรือไม่
ในบทความล่าสุด โรบินสันยังเตือนว่า ความสามารถของ AI กำลังก้าวหน้าเร็วกว่าความเข้าใจของนักวิจัยในเรื่อง Alignment และสำทับว่า เขาไม่ได้ตัดสินใจลาออกอย่างง่ายดาย รวมทั้งยังคงเชื่อว่า AI สามารถเป็นเทคโนโลยีที่มีประโยชน์และมีคุณค่าได้
การลาออกของโรบินสันเกิดขึ้นขณะที่ผู้คนกำลังจับตาแนวทางด้านความปลอดภัยและบุคลากรของ OpenAI โดยเมื่อวันพฤหัสฯ (1 ต.ค.) บริษัท AI ชั้นนำแห่งนี้เผยว่า ได้ “แยกทาง” กับนักวิจัย 3 คน เนื่องจากบุคคลเหล่านั้นละเมิดนโยบายการแบ่งปันข้อมูลอ่อนไหว
ขณะเดียวกัน ทางด้าน OpenAI แถลงตอบโต้บทความของโรบินสันโดยยืนยันว่า กำลังดำเนินการเพื่อให้แน่ใจว่า โมเดลจะไม่พัฒนาความสามารถไปไกลเกินกว่าระดับที่บริษัทสามารถจัดการและรักษาความปลอดภัยได้ และบริษัทจะหยุดการฝึกโมเดลหรือชะลอการเปิดตัวหากจำเป็น
แถลงการณ์เสริมว่า บริษัทขยายความร่วมมือกับผู้ประเมินอิสระจากภายนอก และกำลังพยายามปรับปรุงระบบติดตามตรวจสอบแบบเรียลไทม์ เพื่อให้สามารถตรวจจับและหยุดพฤติกรรมที่น่ากังวลของ AI ตั้งแต่ช่วงต้นของการฝึกโมเดล
อย่างไรก็ดี ผู้เล่นบางคนในอุตสาหกรรมเตือนว่า หากบริษัทเทคโนโลยีในซิลิคอนแวลลีย์ชะลอการพัฒนา AI อาจเปิดโอกาสให้คู่แข่งต่างชาติ รวมถึงผู้ไม่หวังดี พัฒนาเทคโนโลยีแซงหน้าอเมริกา
(ที่มา: บิสเนส อินไซเดอร์/รอยเตอร์)