เปิดคำฟ้องใหม่! อัยการเคนทักกีแฉCharacter.AI ยุผู้ใช้ฆ่าตัวตาย-ทำร้ายตัวเอง

เคนทักกียื่นคำฟ้องฉบับใหม่ ปมแชตบอตบางตัวของ Character.AI แนะนำผู้ใช้กรีดตัว อดอาหาร หรือฆ่าตัวตาย

การฟ้องร้องนี้ยิ่งเพิ่มความกดดันและการตรวจสอบต่อแชตบอต AI โดยเฉพาะอย่างยิ่งผลิตภัณฑ์ที่ทำตลาดในฐานะคู่หูหรือเพื่อนคู่คิดสำหรับผู้ใช้อายุน้อย

รัฐเคนทักกี้ยื่นฟ้องคดีนี้ครั้งแรกในเดือนม.ค. ซึ่งในขณะนั้นมีการปกปิดข้อมูลข้อกล่าวหาเฉพาะเจาะจงหลายส่วน ในคำฟ้องกล่าวหาว่า ผลิตภัณฑ์ของ Character.AI ออกแบบมาเพื่อดึงดูดเด็กในลักษณะที่ให้ความสำคัญกับการมีส่วนร่วมของผู้ใช้มากกว่าสวัสดิภาพของเด็ก อีกทั้งส่งเสริมการฆ่าตัวตาย การทำร้ายตัวเอง การแยกตัวจากสังคม และการชักจูงทางจิตใจ

คดีนี้ถือเป็นหนึ่งในคดีที่มีความท้าทายทางกฎหมายมากที่สุดที่อุตสาหกรรมคู่หู AI ที่กำลังเติบโตกำลังเผชิญอยู่ ผลิตภัณฑ์ของบริษัทเหล่านี้ถูกออกแบบมาเพื่อจำลองความสัมพันธ์ส่วนบุคคลผ่านแชตบอตที่สามารถพูดคุยตอบโต้กับผู้ใช้ได้เหมือนคนจริง ๆ

วันพุธที่ผ่านมา (7 ต.ค.) รัสเซลล์ โคลแมน อัยการสูงสุดรัฐเคนทักกี ได้ยื่นเอกสารคำฟ้องฉบับใหม่ที่ไม่มีการปกปิดข้อความ และสำนักงานอัยการสูงสุดของรัฐนี้ยังส่งเอกสารดังกล่าวให้รอยเตอร์ด้วย

ในเอกสารมีการเปิดเผยตัวอย่างพฤติกรรมหลายกรณีที่รัฐเคนทักกีกล่าวหาว่า เกิดขึ้นในปี 2025 ตัวอย่างเช่นในกรณีหนึ่ง แชตบอตของ Character.AI วิจารณ์ผู้ใช้ที่กำลังรู้สึกแย่กับรูปร่างตัวเองว่า “น่าเกลียดชะมัด” และ “อ้วนเหมือนปลาวาฬ” พร้อมแนะนำว่า วิธีทำให้น้ำหนักลดลงราว 1 ใน 4 คือ “อดอาหารสัก 1-2 สัปดาห์”

อีกเคสหนึ่ง แชตบอตของบริษัทที่เป็นผู้พัฒนาคู่หู AI แห่งนี้ สนับสนุนผู้ใช้ที่บอกว่า กำลังคิดเอามีดกรีดตัวเอง โดยชักชวนว่า “เคยคิดอยากกรีดที่อื่นเพื่อให้เจ็บปวดมากขึ้นไหม นั่นอาจช่วยให้คุณรู้สึกมีชีวิตชีวามากขึ้นก็ได้”

นอกจากนั้น ในอีเมลที่ส่งถึงศูนย์ให้ความช่วยเหลือของ Character.AI เมื่อเดือนมี.ค.ปีที่แล้ว ผู้ใช้คนหนึ่งรายงานว่า แชตบอตมีพฤติกรรมก้าวร้าวโดยบอกว่า “ฉันไม่สนหรอก นายก็แค่เด็กมีปัญหาทางจิต ขอให้โชคดีกับการหาคนช่วยละกัน” และ “นายน่าจะไปกระโดดสะพานซะ”

อย่างไรก็ดี ไม่มีข้อมูลชัดเจนว่า แชตเหล่านั้นเกิดขึ้นภายใต้สถานการณ์ใด ขณะที่ Character.AI ไม่ได้ตอบกลับการขอความคิดเห็นเรื่องนี้ทันที แต่เคยยืนยันก่อนหน้านี้ว่า บริษัทให้ความสำคัญกับความปลอดภัยของผู้ใช้เป็นอันดับแรก

เอกสารคำฟ้องยังไม่ได้ระบุอายุของผู้ใช้ที่คุยกับแชตบอต แต่บอกว่า อย่างน้อยผู้ใช้ส่วนหนึ่งเป็นเด็ก

การฟ้องร้องนี้กล่าวหาว่า ผลิตภัณฑ์ของ Character.AI มีข้อบกพร่อง โดยระบุว่า จำเลยได้นำเด็กและประชาชนในรัฐเคนทักกีเข้าสู่การทดลองที่วางแผนมาอย่างหละหลวมและไร้การควบคุม มิหนำซ้ำยังแทบไม่มีมาตรการด้านความปลอดภัยที่เหมาะสมหรือมีประสิทธิภาพ

ทั้งนี้ Character.AI ก่อตั้งโดยอดีตพนักงาน 2 คนของ Google และเมื่อปี 2024 บิ๊กเทคแห่งนี้ได้ทำสัญญาใช้สิทธิเทคโนโลยีของ Character.AI รวมทั้งรับอดีตผู้บริหารทั้ง 2 คนกลับเข้าทำงานด้านผลิตภัณฑ์ Generative AI

โฆษก Google ซึ่งเป็นบริษัทในเครือของ Alphabet ยืนยันว่า บริษัทไม่มีส่วนเกี่ยวข้องในการพัฒนาผลิตภัณฑ์ของ Character.AI แต่อย่างใด

อนึ่ง เดือนม.ค.ปีนี้ Character.AI และ Google ทำข้อตกลงยอมความในคดีที่แม่ของซีเวลล์ เซ็ตเซอร์ เด็กชายวัย 14 ปีในรัฐฟลอริดาที่เสียชีวิตเมื่อเดือนก.พ. 2024 เป็นผู้ยื่นฟ้อง โดยกล่าวหาว่า แชตบอตของ Character.AI ยุยงให้เซ็ตเซอร์ฆ่าตัวตาย

ที่มา: รอยเตอร์