OpenAI เปิดตัว “ChatGPT for Teens” สำหรับวัยรุ่นโดยเฉพาะ โดยเพิ่มมาตรการความปลอดภัยสำหรับเยาวชน ท่ามกลางกระแสการโจมตีและการฟ้องร้องที่มีการกล่าวหาว่า การแชตที่ไม่เหมาะสมกับแชตบอตยอดนิยมนี้มีส่วนทำให้เด็กได้รับอันตรายหรือฆ่าตัวตาย
วันอังคาร (18 ส.ค.) OpenAI โพสต์บนบล็อกว่า ChatGPT for Teens จะรวบรวมเครื่องมือและมาตรการด้านความปลอดภัยสำหรับเยาวชนหลายอย่างที่บริษัททยอยเปิดตัวตลอดปีที่ผ่านมาเข้าด้วยกัน โดยมาตรการใหม่เหล่านี้จะใช้ระบบป้องกันที่เหมาะสมตามช่วงวัย ซึ่งออกแบบมาเพื่อลดโอกาสที่ผู้ใช้จะพบเนื้อหาที่อาจเป็นอันตรายหรือไม่เหมาะสมต่อพัฒนาการ แต่ยังคงเปิดโอกาสให้วัยรุ่นได้เรียนรู้ สร้างสรรค์ และสำรวจสิ่งต่างๆ
มาตรการเหล่านี้รวมถึงการแจ้งเตือนผู้ใช้งานที่เป็นวัยรุ่นให้พักการใช้งาน หลังจากใช้แชตบอตนี้รวมกันนาน 90 นาทีภายใน 3 ชั่วโมง นอกจากนี้ยังเพิ่มตัวเลือกให้วัยรุ่นหรือผู้ปกครองสามารถกำหนด “Quiet Hours” หรือช่วงเวลาที่ไม่สามารถใช้งานได้ หรือ “Study Hours” ซึ่งในช่วงเวลานี้ระบบจะเปิด Study Mode เป็นค่าเริ่มต้น โหมดนี้จะมีระบบเตือนให้ทำการบ้าน แบบทดสอบ และสื่อรูปภาพเพื่อช่วยอธิบายเนื้อหา ส่งเสริมให้เด็กเรียนรู้และหาคำตอบด้วยตัวเอง แทนการแชร์คำตอบให้โดยตรง
OpenAI เสริมว่า ได้ปรับปรุงระบบป้องกันเพื่อไม่ให้ ChatGPT แสดงออกในลักษณะที่ทำให้ผู้ใช้รู้สึกว่า แชตบอตมีความรู้สึกส่วนตัวหรือความผูกพันทางอารมณ์กับผู้ใช้ อีกทั้งยังเพิ่มข้อความเตือนให้วัยรุ่นทบทวนการตัดสินใจ หากพยายามอัปโหลดรูปภาพส่วนตัวที่ละเอียดอ่อนเข้าสู่แชตบอต ขณะที่ฟีเจอร์บางอย่าง เช่น โหมดเสียงจะถูกปิดใช้งาน รวมทั้งมีการจำกัดการพูดคุยประเด็นที่มีความเสี่ยงสูง เช่น การทำร้ายตัวเองและความรุนแรง
ผู้ใช้ที่แจ้งตอนสมัครใช้งานว่า อายุต่ำกว่า 18 ปีจะถูกตั้งค่าเข้าสู่ระบบป้องกันเหล่านี้โดยอัตโนมัติ นอกจากนี้ OpenAI ยังใช้ AI ประเมินอายุผู้ใช้ และจะนำมาตรการเหล่านี้ไปใช้กับผู้ที่ระบบคาดว่า อายุไม่ถึง 18 ปี แม้วันเกิดที่ระบุในโปรไฟล์บอกว่า อายุมากกว่านั้นก็ตาม
นอกจากมาตรการเหล่านี้ ช่วงฤดูใบไม้ร่วงที่ผ่านมา OpenAI ได้เปิดตัวระบบควบคุมเพื่อให้ผู้ปกครองปิดฟีเจอร์บางอย่างใน ChatGPT เช่น Memory และประวัติการสนทนา รวมทั้งรับการแจ้งเตือนเมื่อระบบพบว่า เด็กกำลังอยู่ในช่วงทุกข์ใจอย่างรุนแรงระหว่างใช้แชตบอต และในอีกไม่กี่สัปดาห์บริษัทจะเพิ่มระบบแจ้งเตือนผู้ปกครองเกี่ยวกับความผิดปกติด้านการกินของเด็กด้วย
ลอเรน โจนาส หัวหน้าฝ่ายเยาวชนและครอบครัวของ OpenAI ให้สัมภาษณ์กับซีเอ็นเอ็นว่า ChatGPT for Teens เป็นประสบการณ์ที่ออกแบบมาสำหรับวัยรุ่นโดยเฉพาะ โดยเน้นการเรียนรู้ควบคู่กับมาตรการป้องกันและระบบความปลอดภัยเพิ่มเติม
ทั้งนี้ ผลการศึกษาของพิว รีเสิร์ช เซ็นเตอร์ที่เผยแพร่เมื่อเดือนธ.ค.ที่ผ่านมาพบว่า วัยรุ่นอเมริกันเกือบ 1 ใน 3 ใช้แชตบอต AI ทุกวัน และ ChatGPT เป็นแชตบอตที่ได้รับความนิยมสูงสุด โดยวัยรุ่นกว่าครึ่งที่ร่วมตอบแบบสำรวจระบุว่า เคยใช้แชตบอตนี้
ขณะเดียวกัน OpenAI กำลังถูกตรวจสอบหนักจากความกังวลว่า ChatGPT อาจทำให้เยาวชนเข้าถึงเนื้อหาที่ไม่เหมาะสม ทำให้ความรู้สึกโดดเดี่ยวรุนแรงขึ้นหรือส่งผลกระทบต่อการเรียนรู้ โดยขณะนี้บริษัทถูกฟ้องร้องหลายคดีจากครอบครัวที่กล่าวหาว่า แชตบอตนี้มีส่วนทำให้หรือยุยงให้บุตรหลานของตนฆ่าตัวตาย ทว่า ChatGPT ยืนกรานปฏิเสธข้อกล่าวหาเหล่านี้
เดือนก.ย.ปีที่แล้ว คณะกรรมการการค้าของอเมริกา (FTA) เปิดการตรวจสอบแชตบอต AI ที่ทำหน้าที่เสมือนคู่หูดิจิทัล โดยเน้นความเสี่ยงที่อาจเกิดขึ้นกับเด็กและวัยรุ่น
เดือนเม.ย.ที่ผ่านมา ครอบครัวของเหยื่อ 7 คนจากเหตุกราดยิงในเมืองทัมเบลอร์ริดจ์ รัฐบริติชโคลัมเบีย แคนาดา ยื่นฟ้อง OpenAI และแซม อัลต์แมน ซีอีโอบริษัท โดยกล่าวหาว่า ChatGPT มีส่วนเกี่ยวข้องกับการบาดเจ็บล้มตายของบุตรหลานของพวกเขา เนื่องจากผู้ก่อเหตุถูกกล่าวหาว่า ได้พูดคุยกับแชตบอตหลายครั้งเกี่ยวกับความรุนแรงจากอาวุธปืน
อัลต์แมนขอโทษครอบครัวเหยื่อ ขณะที่ OpenAI ระบุว่า บริษัทได้เพิ่มความเข้มงวดของระบบป้องกัน
เดือนมิ.ย. OpenAI และอัลต์แมนถูกรัฐฟลอริดายื่นฟ้องโดยกล่าวหาว่า ไม่สามารถจัดการความเสี่ยงด้านความปลอดภัยของ ChatGPT สำหรับเยาวชนอย่างเหมาะสม
คำฟ้องยังกล่าวหาว่า แชตบอตนี้ช่วยเหลือผู้ก่อเหตุกราดยิง ส่งเสริมการฆ่าตัวตาย ทำให้เกิดความอับอายต่อสาธารณะ ทำให้เยาวชนเสพติดเครื่องมือที่ไม่มีการกำกับดูแลจากผู้ปกครอง รวมทั้งทำให้ผู้ใช้สูญเสียทักษะการคิดอย่างมีวิจารณญาณ
ด้าน OpenAI ยืนยันว่า บริษัทดำเนินมาตรการป้องกันและนโยบายชั้นนำในอุตสาหกรรม
ล่าสุดเมื่อสัปดาห์ที่แล้ว อัยการเขตของรัฐแมสซาชูเสตส์ตั้งข้อหาฆาตกรรม 2 กระทงกับเด็กวัย 17 ปี ที่เกี่ยวข้องกับการเสียชีวิตของแม่และน้องชาย ซึ่งตามข้อมูลของสำนักงานอัยการเขตระบุว่า ก่อนเกิดเหตุวัยรุ่นคนดังกล่าวแชตกับ ChatGPT เกี่ยวกับแนวคิดเชิงทฤษฎีหรือจินตนาการเกี่ยวกับการฆ่าสมาชิกในครอบครัวของตัวเอง
OpenAI ยังไม่ได้แสดงความคิดเห็นเกี่ยวกับคดีนี้ แต่โจนาสเปิดใจว่า แค่กรณีเดียวก็มากเกินพอ และสำทับว่า งานด้านความปลอดภัยของบริษัทไม่มีวันเสร็จสิ้น แต่เป็นงานที่ต้องทำตลอด 24 ชั่วโมงทุกวันเพื่อให้แน่ใจว่า วัยรุ่นจะได้รับความช่วยเหลือที่จำเป็นในเวลาที่ต้องการ