ซีอีโอ Anthropic เรียกร้องบริษัท AI ชะลอการพัฒนาความสามารถของโมเดลขั้นสูงท่ามกลางความกังวลว่า ปัญญาประดิษฐ์อาจถูกนำไปใช้ผิดวัตถุประสงค์ อย่างไรก็ตาม เขายอมรับว่า โจทย์ที่ยากที่สุดคือ จะเกิดอะไรขึ้น ถ้าประเทศคู่แข่ง โดยเฉพาะอย่างยิ่งจีนไม่ยอมเล่นด้วย
ดาริโอ อโมเดอี ซีอีโอ Anthropic กล่าวในรายการ Sunday Morning ของ CBS News ว่า ในระยะยาว สิ่งที่ควรทำคือการร่วมกันกำหนดขีดจำกัดความเร็วในการพัฒนา AI ซึ่งตัวเขาเองยังไม่แน่ใจว่า จะทำได้จริงหรือไม่ เนื่องจากบริษัทต่างๆ มีแรงจูงใจสูงมากในการนำหน้าคู่แข่ง รวมถึงความได้เปรียบทางการทหารที่เกิดขึ้นจากเทคโนโลยีนี้ แต่ถึงอย่างไรก็ควรพยายาม
วันเสาร์ (12 ก.ย.) อโมเดอีเผยแพร่บทความเรียกร้องให้บริษัท AI ชะลอความเร็วในการพัฒนาโมเดลที่ล้ำหน้าที่สุด หลังจากไม่กี่วันก่อนหน้านั้น เจค็อบ ค็อกซอน นักวิจัยของ Anthropic ประกาศลาออก เนื่องจากกังวลว่า Anthropic และคู่แข่งสำคัญอย่าง OpenAI ที่ตัวเขาเคยทำงานด้วย กำลัง “เอาชีวิตของพวกเรามาเสี่ยง”
ขณะเดียวกัน โมเดล AI จากบริษัทสตาร์ทอัปของจีนมีความสามารถเพิ่มขึ้นอย่างรวดเร็ว และสามารถแข่งขันกับโมเดลชั้นนำของบริษัทอเมริกันได้มากขึ้น จุดชนวนความกังวลในหมู่สมาชิกรัฐสภาของอเมริกาและผู้เชี่ยวชาญในซิลลิคอนแวลลีย์
ระหว่างการประชุมสุดยอดกลุ่ม BRICS ที่อินเดียเมื่อวันอาทิตย์ (13 ก.ย.) ประธานาธิบดีสี จิ้นผิง เรียกร้องให้มีกรอบการกำกับดูแล AI ระดับโลกบนพื้นฐานฉันทามติร่วมกัน พร้อมประกาศว่า จีนจะช่วยจัดตั้งชุมชม AI แบบโอเพนซอร์สของ BRICS หรือกลุ่มความร่วมมือประเทศตลาดเกิดใหม่ที่ปัจจุบันมีสมาชิก 11 ชาติ ซึ่งรวมถึงจีน อินเดีย รัสเซีย บราซิล อิหร่าน และสหรัฐอาหรับเอมิเรตส์
IPO ครั้งประวัติศาสตร์
บทความของอโมเดอีเผยแพร่ออกมาขณะที่อุตสาหกรรม AI กำลังเผชิญกระแสต่อต้านจากสาธารณชนเกี่ยวกับดาต้าเซ็นเตอร์ ขณะที่นักการเมืองในวอชิงตันกดดันหนักขึ้นให้มีการออกกฎระเบียบควบคุม AI
CNBC รายงานว่า OpenAI และ Anthropic ยังอยู่ระหว่างเตรียมความพร้อมในการเข้าจดทะเบียนในตลาดหลักทรัพย์ ซึ่งอาจกลายเป็นหนึ่งใน IPO ครั้งประวัติศาสตร์ของอุตสาหกรรม แม้ว่าทั้งสองบริษัทยังไม่ได้ประกาศวันเข้าตลาดอย่างเป็นทางการ
อย่างไรก็ดี เมื่อวันเสาร์ แซม อัลต์แมน ซีอีโอ OpenAI เผยว่า บริษัทอาจยังไม่เข้าตลาดหุ้นภายในปีนี้ ส่วนหนึ่งเนื่องจากความกังวลเกี่ยวกับประเด็นความปลอดภัยของ AI
แม้ความสัมพันธ์ระหว่างอัลต์แมนกับอโมเดอี ซึ่งลาออกจาก OpenAI ก่อนไปก่อตั้ง Anthropic ค่อนข้างตึงเครียดในช่วงหลายปีที่ผ่านมา แต่อัลต์แมนโพสต์บน X ว่า เห็นด้วยกับแนวคิดของอโมเดอีในการชะลอการพัฒนา AI ระดับแนวหน้า (Frontier) เช่นเดียวกับผู้นำในอุตสาหกรรมหลายคน รวมถึงเดมิส ฮัสซาบิส ประธาน Google DeepMind และอีลอน มัสก์ ซีอีโอ Tesla และ SpaceX
ในบทความดังกล่าว อโมเดอีเสนอแผนการสามขั้นตอนเพื่อชะลอความเร็วในการพัฒนา AI โดยไม่ต้องเสียสละความได้เปรียบทางธุรกิจหรือความเป็นผู้นำด้าน AI ของอเมริกา และเสริมว่า Anthropic ดำเนินการ “ฝ่ายเดียว” ในขั้นตอนนี้ไปแล้วด้วยการเปิดให้หน่วยงานประเมินอิสระจากภายนอกเข้าถึงข้อมูลในระดับเดียวกับพนักงาน เพื่อให้สามารถตรวจสอบมาตรการด้านความปลอดภัยของบริษัทและรายงานเหตุการณ์ที่เกิดขึ้น
ขั้นตอนที่สองคือ ส่งเสริมให้บริษัท AI ชั้นนำในประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานด้านความปลอดภัย และขั้นที่สาม ประสานความร่วมมือระหว่างรัฐบาลประเทศประชาธิปไตยกับรัฐบาลประเทศที่ใช้ระบอบเผด็จการหรืออำนาจนิยม
กลัวจีนไล่จี้
อโมเดอีกล่าวว่า การชะลอการพัฒนา AI ในประเทศประชาธิปไตยควรดำเนินการในระดับที่ยังคงรักษาความได้เปรียบของบริษัทอเมริกันเหนือจีน เนื่องจากหากจีนกลายเป็นฝ่ายได้เปรียบจะสร้างความเสี่ยงต่อความมั่นคงแห่งชาติของอเมริกา
เขายังเรียกร้องให้มีมาตรการควบคุมเข้มงวดขึ้นเกี่ยวกับชิป AI ขั้นสูง, Model Distillation หรือกระบวนการถ่ายทอดความสามารถจากโมเดล AI ขนาดใหญ่ไปยังโมเดลอื่น และการขโมยค่าน้ำหนักในโมเดล เพื่อสกัดจีนในการลดช่องว่างความสามารถด้าน AI กับอเมริกา
มัสก์ที่เตือนเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจาก AI มานานหลายปี โพสต์บน X เมื่อเช้าวันอาทิตย์ว่า อโมเดอีพูดถูกว่า ควรมีการกำกับดูแลบางอย่าง และการให้บริษัท AI คู่แข่งตรวจสอบกันเองเป็นวิธีที่เหมาะสมในการเริ่มต้นเรื่องนี้
เดวิด แซ็กส์ ที่เคยเป็นผู้ดูแลด้าน AI และคริปโตของคณะบริหารของประธานาธิบดีโดนัลด์ ทรัมป์ โพสต์บน X ว่า เขาสนับสนุนการตัดสินใจที่จะรับผิดชอบ หาก OpenAI และ Anthropic เชื่อจริงๆ ว่า โมเดลของตนเองน่ากลัวระดับที่จะต้องชะลอการพัฒนา
อย่างไรก็ตาม เขาสำทับว่า ทั้งสองบริษัทควรหยุดทำเหมือนว่า ต้องได้รับอนุญาตจากคนอื่นก่อน รวมทั้งควรยอมรับว่า ไม่ได้มีแรงจูงใจจากความปรารถนาดีต่อสังคมเพียงอย่างเดียว
แซ็กส์ชี้ว่า การที่ OpenAI และ Anthropic ยอมลดระดับพลังหรือความสามารถแบบดิบๆ ของโมเดลลงบางส่วน เพื่อแลกกับความน่าเชื่อถือและความสามารถในการคาดการณ์พฤติกรรมของระบบเป็นการตัดสินใจที่เหมาะสมทางธุรกิจ เนื่องจากทั้งคู่กำลังเผชิญความเสี่ยงด้านความรับผิดทางกฎหมายจากผลิตภัณฑ์ในระดับสูงมาก หากผลิตภัณฑ์ของพวกเขาถูกนำไปใช้ก่อเหตุ เช่น การโจมตีทางไซเบอร์ที่สร้างความเสียหายร้ายแรง
แซ็กส์ทิ้งท้ายว่า การที่ทั้งสองบริษัทเรียกร้องให้รัฐบาลยอมรับกรอบการกำกับดูแลที่ตนเองต้องการ เพื่อแลกกับการยอมชะลอการพัฒนาดูเหมือนเป็นการขู่เข็ญสังคมและระบบการเมือง ดังนั้น ถ้าคิดจะชะลอการพัฒนาเทคโนโลยี AI ระดับแนวหน้า ทั้งคู่สามารถทำได้เลยเพราะเป็นผู้กำหนดเทคโนโลยีนี้อยู่แล้ว และวิธีที่ง่ายที่สุดในการไม่สร้าง Superintelligence คือการตกลงกันว่า จะไม่สร้างสิ่งนี้