นักวิจัยที่เคยทำงานให้สองบริษัท AI ยักษ์ใหญ่ เป็นคนวงในรายล่าสุดที่เตือนว่า การแข่งขันด้าน AI เต็มไปด้วยความประมาทและอันตรายมากขึ้น ขณะที่พนักงาน Anthropic บางคนเชื่อ AI อาจสังหารมนุษย์ทั้งหมดภายในสิ้นทศวรรษ นอกจากนั้นเมื่อไม่กี่วันก่อน หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้โพสต์บทความเตือนว่า โลกยังไม่พร้อมรับมือผลกระทบที่อาจเกิดขึ้นจากการพัฒนา AI ที่ก้าวหน้าอย่างรวดเร็ว
เจคอบ ค็อกซอน ที่เคยทำงานให้ OpenAI ยื่นใบลาออกจาก Anthropic เมื่อวันอังคาร (8 ก.ย.) และบอกว่า ทั้งสองบริษัทนี้ไม่มีบริษัทไหนดำเนินการอย่างมีความรับผิดชอบ เพราะต่างตั้งหน้าตั้งตาแข่งกันสร้าง AI ที่ฉลาดเหนือมนุษย์และสามารถพัฒนาตัวเองได้ ที่ร้ายคือ กำลังเดิมพันด้วยอนาคตและความอยู่รอดของมนุษยชาติ
ค็อกซอนเคยเป็นสมาชิกฝ่ายเทคนิคของ OpenAI ตั้งแต่ปี 2023 จนถึงเดือนก.ค.ปีนี้ ก่อนย้ายไปเป็นนักวิจัยที่ Anthropic งานวิจัยของเขาตอนอยู่ OpenAI รวมถึงโปรเจ็กต์ GPT-4o
ในโพสต์เมื่อวันอังคาร ค็อกซอนบอกว่า ห้องปฏิบัติการ AI ทั้งสองแห่งไม่ได้เปิดเผยต่อสาธารณชนอย่างตรงไปตรงมาเกี่ยวกับความกังวลที่มีต่อ AI
“ผู้ที่มีส่วนร่วมในการสร้าง AI เชื่ออย่างจริงจังว่า AI อาจฆ่าพวกเราทุกคนภายในสิ้นทศวรรษนี้”
เขายังบอกอีกว่า ผู้บริหารและนักวิจัยอาวุโสหลายคนมักพูดกับสื่ออย่างระมัดระวัง แต่เมื่อคุยกันส่วนตัว เขาได้ยินคนกลุ่มเดียวกันนี้แสดงความหวาดกลัว
อย่างไรก็ตาม ค็อกซอนชี้ว่า 2 ยักษ์ใหญ่ AI มีความแตกต่างกันอย่างหนึ่งคือ ที่ OpenAI หลายคนยังไม่ได้ตระหนักอย่างลึกซึ้งถึงเดิมพันด้านอารยธรรม แต่คนที่ Anthropic เข้าใจเดิมพันนี้ดี เพียงแต่บริษัทติดกับดักการแข่งขันที่ต่างฝ่ายต่างแย่งชิงกันเพื่อให้ไปถึงเส้นชัยก่อน กระนั้น พวกเขาเชื่อว่า ไม่มีบริษัทไหนดำเนินการอย่างรับผิดชอบ ดังนั้น พวกเขาจึงต้องเป็นฝ่ายทำแม้จะเสี่ยงก็ตาม
เอแวน ฮิวบิงเกอร์ หัวหน้าทีมทดสอบความปลอดภัยและความสอดคล้องของ AI (Alignment) ของ Anthropic เห็นด้วยกับค็อกซอนโดยบอกว่า พวกเขาเชื่ออย่างจริงจังว่า AI อาจสังหารมนุษย์ทั้งหมด ซึ่งโดยส่วนตัวเขาคิดว่า มีความเป็นไปได้เกิน 10% ที่เหตุการณ์นี้จะเกิดขึ้นภายในทศวรรษหน้า
ฮิวบิงเกอร์ยังเชื่อว่า Anthropic พยายามอย่างเต็มที่ แต่ขณะนี้ยังไม่มีแผนที่สามารถแก้ปัญหา Alignment สำหรับ AI ที่ฉลาดเหนือมนุษย์ได้
Business Insider ได้ติดต่อขอความคิดเห็นเรื่องนี้จาก OpenAI และ Anthropic แต่ไม่ได้รับการตอบกลับจากทั้งสองบริษัท
ความปลอดภัยต้องหลบให้ผลิตภัณฑ์สุดว้าว
ค็อกซอนถือเป็นบุคลากรคนล่าสุดในกลุ่มพนักงานจากห้องปฏิบัติการ AI ชั้นแนวหน้าที่ตัดสินใจลาออก รวมทั้งยังออกมาเตือนเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้น ซึ่งถือเป็นปรากฏการณ์ที่โดดเด่นเป็นพิเศษในยุคทอง AI
ทั้งนี้ แม้ยุคดอตคอมและยุคสมาร์ทโฟนมีข้อกังวลของตัวเอง เช่น ความเหลื่อมล้ำทางดิจิทัลหรือฟองสบู่ทางเศรษฐกิจ แต่ในยุคนั้นไม่ได้มีบุคลากรที่อยู่ใกล้ชิดกับเทคโนโลยีมากที่สุดออกมาตั้งคำถามเกี่ยวกับความปลอดภัยในระดับเดียวกับที่เกิดขึ้นในแวดวง AI
หลายปีมานี้ OpenAI สูญเสียนักวิจัยด้านความปลอดภัยหลายคน และปัจจุบัน Anthropic กำลังเผชิญสถานการณ์แบบเดียวกัน
เดือนก.พ. มรินัก ชาร์มา นักวิจัยด้านมาตรการป้องกันความเสี่ยงของ Anthropic ตัดสินใจลาออก โดยบอกว่า อยากไปทำสิ่งที่สอดคล้องกับความซื่อสัตย์ต่อหลักการของตัวเองอย่างแท้จริง
เดือนเดียวกัน ฮิว ฟาม นักวิจัยของ OpenAI บอกว่า เริ่มรู้สึกถึงภัยคุกคามต่อการดำรงอยู่ของมนุษย์ที่ AI กำลังสร้างขึ้น ปลายเดือนนั้นเขายื่นใบลาออกโดยให้เหตุผลว่า หมดไฟ
ย้อนกลับไปเมื่อสองปีที่แล้ว ยาน ไลเคอ อดีตหัวหน้าทีม Alignment ของ OpenAI ลาออก โดยบอกว่า มาถึง “จุดแตกหัก” ในความสัมพันธ์กับฝ่ายบริหาร
ไลเคอแจงว่า OpenAI กำลังแบกรับความรับผิดชอบมหาศาลแทนมนุษยชาติทั้งหมด แต่ช่วงหลายปีที่ผ่านมา วัฒนธรรมและกระบวนการด้านความปลอดภัยกลับถูกลดทอนความสำคัญลงเพื่อเปิดทางให้กับผลิตภัณฑ์ใหม่ๆ ที่น่าตื่นตาตื่นใจ
เหตุการณ์เมื่อเร็วๆ นี้ยิ่งทำให้ประเด็นความปลอดภัยน่ากังวลมากขึ้น เริ่มจากเดือนก.ค.ที่โมเดล AI ของ OpenAI หลุดออกจากสภาพแวดล้อมการทดสอบและเจาะระบบของ Hugging Face
OpenAI ระบุว่า เหตุการณ์ดังกล่าวเป็นสัญญาณเตือนสำคัญ และตัดสินใจหยุดการฝึก Reinforcement Learning (การฝึกที่ปล่อยให้โมเดลเรียนรู้จากการลองผิดลองถูกและปรับพฤติกรรมจากผลลัพธ์ที่ได้รับ) สำหรับโมเดล Frontier ขนาดใหญ่ที่สุดที่บริษัทวางแผนไว้
เดือนเดียวกันนั้น Anthropic ตรวจพบโมเดล Claude ของตนเองเข้าถึงระบบขององค์กรอื่นโดยไม่ได้รับอนุญาต 3 ครั้งระหว่างการทดสอบการรักษาความปลอดภัยทางไซเบอร์
ปีนี้ Anthropic ยังแก้ไขคำมั่นด้านความปลอดภัยที่สำคัญของบริษัท โดยยกเลิกข้อผูกพันเดิมที่ระบุว่าจะไม่ฝึกโมเดลที่มีความสามารถสูงขึ้นหากยังไม่มีมาตรการป้องกันเพียงพอ และเปลี่ยนมาใช้แผนงานด้านความปลอดภัยและรายงานความเสี่ยงแทน
หัวหน้านักวิทย์ OpenAI เตือนแรง
นอกจากนั้น เมื่อวันอาทิตย์ (6 ก.ย.) ยาคูบ ปาฮอตสกี หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้โพสต์บทความในชื่อ “An Alien Mind” บนบล็อกของบริษัท แสดงความกังวลว่า โลกยังไม่พร้อมรับมือผลกระทบที่อาจเกิดขึ้นจากการพัฒนา AI ที่ก้าวหน้าอย่างรวดเร็ว
หนึ่งในข้อกังวลสำคัญคือ AI Agent ที่ทำงานได้ด้วยตัวเองหลังได้รับคำสั่งจากมนุษย์ โดยมีรายงานว่า AI Agent บางระบบสามารถดำเนินการด้านไซเบอร์ได้ในโลกจริง ทำให้เกิดความกังวลเกี่ยวกับการควบคุมและความปลอดภัยของ AI ขั้นสูง
OpenAI ยืนยันว่า จะพัฒนาระบบป้องกันและวิธีแก้ปัญหา Alignment เพื่อให้ AI ทำงานตรงเป้าหมายและปลอดภัยสำหรับมนุษย์ โดยหนึ่งในเป้าหมายหลักคือ การสร้างนักวิจัย AI อัตโนมัติ ซึ่งนักวิจัยจริงมีส่วนร่วมในกระบวนการนี้ด้วย เพื่อให้มนุษย์สามารถติดตามความก้าวหน้าของ AI ทัน
กระนั้น ปาฮอตสกีมองว่า การควบคุมภายในบริษัทเพียงอย่างเดียวไม่เพียงพอ และเรียกร้องให้มีความระมัดระวังขั้นสูงสุด เพื่อให้มนุษย์ยังสามารถควบคุมทิศทางอนาคตของ AI ได้ รวมทั้งเรียกร้องมาตรฐานความปลอดภัยสากลขั้นต่ำ และการตรวจสอบโดยหน่วยงานอิสระ รัฐบาล หรือองค์กรระหว่างประเทศ พร้อมแสดงความหวังว่า บริษัท AI ต่างๆ จะชะลอการพัฒนาโดยสมัครใจจนกว่าจะมีระบบควบคุมร่วมกัน
ทว่า BBC รายงานว่า นักวิจารณ์บางคนมองว่า การสร้าง AI Agent ภายในองค์กรเพื่อศึกษาปัญหาเหล่านี้ไม่เพียงพอที่จะตอบโจทย์ความกังวลของสังคมเกี่ยวกับความปลอดภัยทางไซเบอร์ การสูญเสียงาน ข้อผิดพลาด และการฉ้อโกง และเรียกร้องให้ OpenAI เปิดเผยข้อมูลความเสี่ยงอย่างโปร่งใสมากขึ้น
ทั้งนี้ บทความ An Alien Mind เผยแพร่หลังจากเมื่อวันพฤหัสฯ (3 ก.ย.) OpenAI ซึ่งเป็นผู้สร้าง ChatGPT เปิดตัวโมเดลล่าสุด GPT-6 Astra ซึ่งบริษัทระบุว่า เป็นผลิตภัณฑ์ทรงพลังที่สุดของตนเองจนถึงขณะนี้