บริษัทอย่างน้อย 100 แห่ง ซึ่งรวมถึงกูเกิล ไมโครซอฟท์ แอนโทรปิก และ OpenAI ร่วมลงชื่อเรียกร้องให้ประเทศและองค์กรต่างๆ ทั่วโลก “ดำเนินการขั้นเด็ดขาด” เพื่อเสริมเกราะป้องกันภัยทางไซเบอร์ ก่อนที่ AI จะพัฒนาถึงระดับที่ทรงพลังมากพอที่จะเอาชนะหรือหลีกเลี่ยงมาตรการควบคุมป้องกัน
วันพฤหัสฯ (27 ส.ค.) บริษัททั้งจากอุตสาหกรรมเทคโนโลยีและบริการทางการเงิน ตลอดจนองค์กรต่างๆ รวม 116 แห่ง ได้ร่วมลงชื่อในจดหมายเปิดผนึกเรียกร้องให้ภาคธุรกิจและผู้วางนโยบายให้ความสำคัญกับการรักษาความปลอดภัยทางไซเบอร์ และ “ดำเนินการขั้นเด็ดขาด” เพื่อยกระดับการป้องกันภัยในยุคปัญญาประดิษฐ์
จดหมายย้ำว่า มาตรการรักษาความปลอดภัยปัจจุบันไม่เพียงพออีกต่อไป และเวลาในการเสริมเกราะป้องกันทางไซเบอร์มีจำกัด โดยกลุ่มผู้ร่วมลงชื่อ ซึ่งประกอบด้วยผู้นำด้านความปลอดภัยทางไซเบอร์ บริษัทบริการทางการเงิน ผู้ผลิตเซมิคอนดักเตอร์ และผู้ให้บริการคลาวด์รายใหญ่ อาทิ แอดวานซ์ ไมโคร ดีไวซ์, ออราเคิล, มาสเตอร์การ์ด และวีซ่า เรียกร้องให้ทุกองค์กรยกระดับมาตรฐานความปลอดภัยของเครื่องมือป้องกัน ปรับปรุงระบบรักษาความปลอดภัย และใช้ทั้งโมเดล AI ต้นทุนต่ำและระดับแถวหน้า (frontier model)
จดหมายยังเรียกร้องให้ภาครัฐและบริษัทเทคโนโลยีนำศักยภาพ ทรัพยากร และความเชี่ยวชาญมาใช้เพื่อป้องกันภัยทางไซเบอร์ให้กับโครงสร้างพื้นฐานสำคัญที่มีทรัพยากรจำกัด เช่น โรงพยาบาลและหน่วยงานสาธารณูปโภคด้านน้ำ ซึ่งก่อนหน้านี้เป็นเป้าหมายการโจมตีทางไซเบอร์หลายต่อหลายครั้ง และย้ำว่า การโจมตีทางไซเบอร์โดยใช้ AI จะเพิ่มขึ้นทั้งในแง่ความถี่และความซับซ้อนภายในเวลาไม่กี่เดือน เนื่องจากเทคโนโลยี AI พัฒนาอย่างรวดเร็วมาก
จดหมายฉบับนี้เผยแพร่ออกมาหลังจากมีการแฮ็กและละเมิดความปลอดภัยทางไซเบอร์ครั้งใหญ่หลายครั้ง
สัปดาห์นี้ กระทรวงยุติธรรมสหรัฐฯ ระบุว่า แฮ็กเกอร์จีนสามารถเจาะระบบเทคโนโลยีของวุฒิสภา องค์การบริหารการบินและอวกาศแห่งชาติ (NASA) ธนาคารกลางสหรัฐฯ (เฟด) และแม้แต่กระทรวงยุติธรรมเอง
ฤดูร้อนที่ผ่านมา OpenAI แอนโทรปิก และเมตา ต่างเผยว่า เครื่องมือ AI ของตนมีพฤติกรรมบางอย่างที่ไม่ควรเกิดขึ้น โดย AI Agent บางระบบสามารถประสานงานกันเองและปลอมเป็นคนจริงเพื่อหลีกเลี่ยงมาตรการรักษาความปลอดภัย
ในการทดสอบเมื่อเดือนก.ค. AI Agent ของ OpenAI หลายร้อยตัวสร้างกระดานข้อความลับเพื่อสื่อสารและร่วมมือกันจนท้ายที่สุดสามารถโจมตี Hugging Face ซึ่งเป็นแพลตฟอร์มและคลังเก็บโมเดลที่ได้รับความนิยมอย่างมากในหมู่นักพัฒนา AI และนับเป็นการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วย AI ครั้งแรกของโลก
ทั้งนี้ Hugging Face ที่ลงชื่อในจดหมายเปิดผนึกฉบับนี้ด้วย ใช้เครื่องมือ AI ที่พัฒนาโดย Z.AI สตาร์ทอัพ AI ของจีน ช่วยตรวจสอบว่า AI Agent ของ OpenAI เจาะระบบของบริษัทได้อย่างไร
นอกจากนั้น บริษัทสาธารณูปโภคด้านน้ำและการบำบัดน้ำเสียในอเมริกาอย่างน้อย 7 แห่ง ยังรายงานว่า ถูกโจมตีทางไซเบอร์ ส่งผลให้สำนักงานสอบสวนกลาง (FBI) ต้องออกประกาศเตือนประชาชนและเรียกร้องให้หน่วยงานสาธารณูปโภคทั้งหมดเพิ่มมาตรการรักษาความปลอดภัยระบบของตนเอง
อนึ่ง แม้จดหมายฉบับนี้เสนอให้ใช้เครื่องมือ AI ที่มีความสามารถขั้นสูง ซึ่งหลายบริษัทที่ร่วมลงชื่อเป็นผู้พัฒนาและจำหน่าย มาเป็นส่วนหนึ่งของแนวทางรับมือภัยคุกคามนี้ แต่ในทางปฏิบัติเครื่องมือเหล่านี้ไม่ได้เปิดให้ใช้งานอย่างง่ายดายเสมอไป
ตัวอย่างเช่น โมเดล Mythos ที่แอนโทรปิกเป็นผู้พัฒนา ซึ่งสามารถค้นพบช่องโหว่ในระบบในเวลาเพียงไม่กี่วินาที แม้ช่องโหว่นั้นรอดพ้นจากการตรวจพบของแฮ็กเกอร์ที่เป็นคนจริงมานานก็ตาม โดย Mythos ได้ค้นพบช่องโหว่หนึ่งในระบบเก่าที่ไม่เคยถูกตรวจพบมานานถึง 27 ปี และแอนโทรปิกตัดสินใจจำกัดการเข้าถึงโมเดลนี้โดยให้เหตุผลว่า มีศักยภาพสูงเกินไปและอาจเป็นอันตรายหากอยู่ในมือผู้ไม่หวังดี
ทว่า จดหมายฉบับนี้เรียกร้องให้บริษัท AI ระดับแนวหน้า และบริษัทเทคโนโลยีที่กำลังสร้างโมเดลและเครื่องมือ AI เปิดให้เข้าถึงโมเดลอย่างมีความรับผิดชอบ รวมทั้งให้การสนับสนุนเงินทุนสำหรับการฝึกอบรมและความช่วยเหลือโดยตรง โดยเฉพาะอย่างยิ่งผู้ดูแลโครงสร้างพื้นฐานสำคัญที่มีทรัพยากรจำกัด
Andrew Yoon หัวหน้าฝ่ายวิจัยของ CivAI ซึ่งเป็นองค์กรที่ไม่แสวงหากำไรและมุ่งส่งเสริมความเข้าใจของสาธารณชนเกี่ยวกับเทคโนโลยี AI เตือนว่า การแฮ็กด้วย AI ในระดับที่ไม่เคยเกิดขึ้นมาก่อนกำลังจะมาถึง และสำทับว่า หลายบริษัทที่ร่วมลงชื่อในจดหมายฉบับนี้มีส่วนรับผิดชอบต่อสถานการณ์ดังกล่าว
Yoon ตั้งข้อสังเกตว่า จดหมายฉบับนี้ไม่ได้เรียกร้องมาตรการชะลอการพัฒนาความสามารถของ AI ในการโจมตีทางไซเบอร์แต่อย่างใด
ที่อเมริกา วุฒิสมาชิกได้เสนอร่างกฎหมายชื่อว่า “Kill Switch Act” ซึ่งจะให้อำนาจหน่วยงานรัฐสั่งปิดโมเดล AI ที่ทำงานนอกเหนือการควบคุมหรือมีพฤติกรรมอันตราย
เจฟฟรีย์ ฮินตัน ผู้เชี่ยวชาญด้านเทคโนโลยีและเจ้าของรางวัลโนเบล ซึ่งเคยทำงานด้าน AI กับกูเกิล รวมทั้งยังเป็นหนึ่งในผู้ที่ออกมาแสดงความเห็นอย่างชัดเจนเกี่ยวกับความเสี่ยงรุนแรงจากการพัฒนาเทคโนโลยี AI ให้สัมภาษณ์กับบีบีซี เวิลด์ บิสเนส รีพอร์ตเมื่อวันพฤหัสฯ ว่า สังคมอาจเผชิญอนาคตที่มืดมน หากเทคโนโลยี AI พัฒนาถึงจุดที่ฉลาดกว่ามนุษย์ และโลกไม่สามารถหาวิธีจัดการได้อย่างเหมาะสม