ติ๊กตอกยอมถอดวิดีโอหญิงผิวดำที่เอไอสร้างขึ้นเพื่อเป้าหมายทางเพศ หลังการตรวจสอบของบีบีซี

ติ๊กตอก (TikTok) ได้สั่งระงับบัญชีผู้ใช้งาน 20 บัญชี หลังจากบีบีซีเปิดเผยการใช้ภาพอินฟลูเอนเซอร์หญิงผิวดำที่สร้างโดยปัญญาประดิษฐ์ หรือเอไอ (AI) เพื่อดึงดูดผู้ใช้ไปยังเว็บไซต์ที่ส่งเสริมเนื้อหาทางเพศอย่างโจ่งแจ้ง

บัญชีเหล่านี้เป็นส่วนหนึ่งของกระแสที่กำลังเติบโตบนแพลตฟอร์มอินสตาแกรม (Instagram) และติ๊กตอก (TikTok) ซึ่งถูกวิพากษ์วิจารณ์ว่าเหยียดเชื้อชาติ ฉกฉวยผลประโยชน์ และทำให้เข้าใจผิด เนื่องจากมีการใช้ภาพและภาษาที่แสดงถึงการเหยียดเชื้อชาติ

บีบีซี และนักวิจัยจากริดแดนซ์ (Riddance) ซึ่งเป็นแหล่งข้อมูลอิสระด้านเอไอพบว่ามีบัญชีหลายสิบบัญชีบนสองแพลตฟอร์มดังกล่าวที่มีตัวละครดิจิทัลหรืออวตารหญิงผิวดำที่มุ่งเน้นในเรื่องทางเพศมากเกินไป

ภาพและวิดีโอเหล่านี้สร้างขึ้นโดยเอไอ แต่ไม่ยอมใส่ข้อความกำกับว่าทำขึ้นจากเอไอ ถือเป็นการละเมิดแนวทางของแพลตฟอร์มอย่างชัดเจน

เกือบทุกบัญชีอยู่บนอินสตาแกรม และประมาณ 1 ใน 3 มีเวอร์ชันบนติ๊กตอกด้วย บริษัทเมตา (Meta) ซึ่งเป็นบริษัทแม่ของอินสตาแกรมกล่าวกับบีบีซีว่ากำลังตรวจสอบอยู่ แต่ไม่ได้บอกว่าได้ดำเนินการอะไรไปบ้างแล้ว

อวตารเหล่านี้มักสวมใส่ชุดว่ายน้ำหรือเสื้อผ้าที่เปิดเผยร่างกาย และแสดงรูปร่างที่เกินจริง

บางตัวมีสีผิวที่เข้มมากเป็นพิเศษซึ่งถูกปรับแต่งทางดิจิทัล จนดูไม่เป็นธรรมชาติ

ชื่อบัญชีผู้ใช้มีคำต่าง ๆ เช่น "black" (ดำ), "noir" (ดำ), "dark" (มืด) และ "ebony" (ดำเป็นตอตะโก) หลายบัญชีมีการแสดงความคิดเห็นเกี่ยวกับชายผิวขาวในโพสต์ เช่น "รักผู้ชายผิวขาว" และ "ทำไมฉันถึงต้องการผู้ชายผิวขาวในชีวิต" หลายบัญชีต่างกดติดตาม (follow) หรือกดถูกใจ (like) กันและกัน

บีบีซีร่วมกับนักวิเคราะห์ เจเรมี คาร์ราสโก และแองเจล นูลานี จากริดแดนซ์ได้ระบุบัญชีผู้ใช้ดังกล่าว 60 บัญชี ส่วนใหญ่อยู่ในอินสตาแกรมที่มีลิงก์ หรือเครือข่ายลิงก์ ไปยังเนื้อหาทางเพศที่โจ่งแจ้งซึ่งต้องเสียค่าใช้จ่ายบนเว็บไซต์ของบุคคลที่ 3 เว็บไซต์เหล่านั้นระบุว่าภาพเหล่านั้นสร้างขึ้นโดยเอไอ แต่บัญชีอินสตาแกรมไม่ได้ระบุ

งานวิจัยยังระบุบัญชีผู้ใช้อีกมากมายทั้งในอินสตาแกรมและติ๊กตอกที่มีรูปประจำตัวที่สร้างโดยเอไอในลักษณะเดียวกัน แต่ไม่ได้เชื่อมโยงไปยังเนื้อหาที่ต้องเสียค่าใช้จ่าย

"ฉันโกรธมาก"

หนึ่งในบัญชีที่ถูกติ๊กตอกปิดไปแล้ว (แต่ยังคงพบเห็นการใช้งานได้ทางอินสตาแกรมในขณะที่เผยแพร่ข่าวนี้) ได้สร้างความโกรธเคืองเพิ่มขึ้นอีกจากการขโมยวิดีโอจากคนที่มีตัวตนจริง

บัญชีดังกล่าวถูกนำเสนอในรูปแบบของตัวละครที่สร้างขึ้นโดยเอไอที่โดดเด่น และมีผู้ติดตามถึง 3 ล้านคนภายในไม่กี่สัปดาห์หลังจากสร้างขึ้นในเดือน ธ.ค.

แต่บัญชีนี้ได้ดัดแปลงและโพสต์วิดีโอจากผู้สร้างคอนเทนต์ตัวจริงคือ ริยา อูลาน นางแบบสาวชาวมาเลเซีย

ใบหน้าของอวตาร ซึ่งมีสีผิวที่เข้มผิดปกติและดูปลอม ๆ ถูกนำมาซ้อนทับบนร่างกายของริยา และการเคลื่อนไหว เสื้อผ้า และฉากหลังของริยาก็ถูกจำลองขึ้นมา

"ฉันโกรธมาก" ริยาบอกกับบีบีซี "แน่นอนว่าวิดีโอของฉันทั้งหมดอยู่บนนั้น... แต่นั่นไม่ได้หมายความว่าคุณจะสามารถเอาไปขโมยและโพสต์ราวกับเป็นของคุณเองได้"

หนึ่งในวิดีโอที่ถูกดัดแปลงนั้นมียอดวิวมากกว่า 35 ล้านครั้งบนติ๊กตอก และ 173 ล้านครั้งบนอินสตาแกรม ซึ่งมากกว่ายอดวิวในโพสต์ต้นฉบับของริยาประมาณ 47 เท่า

แม้ว่าวิดีโอทั้ง 3 คลิปที่ตรงกับเนื้อหาของริยาจะไม่ใช่วิดีโอเกี่ยวกับเรื่องเพศ แต่คลิปวิดีโออื่น ๆ ในบัญชีเอไอที่ใช้อวตารตัวเดียวกันนั้น กลับแสดงให้เห็นตัวละครนั้นในชุดที่โชว์เนื้อหนัง หรือกำลังทำท่าทางยั่วยวน และมีลิงก์เชื่อมโยงจากบัญชีดังกล่าวไปยังเนื้อหาสำหรับผู้ใหญ่ที่ต้องเสียค่าใช้จ่าย

ริยากล่าวว่า "ฉันไม่แน่ใจว่าฉันกังวลมากกว่ากันระหว่างการที่พวกเขาเอาวิดีโอของฉันไปโปรโมตเนื้อหาที่โจ่งแจ้งของพวกเขา หรือกลัวว่าผู้คนเชื่อในเรื่องนั้นจริง ๆ"

เธอกล่าวเสริมว่า ตอนนี้ผู้ใช้เริ่มแยกแยะได้ยากขึ้นว่าเนื้อหาใดเป็นของจริง และ "ผู้คนยังคงหลงเชื่อโมเดลเอไอเหล่านี้อยู่"

ผู้ชมจำนวนมากดูเหมือนจะมองว่าอวตารเหล่านั้นเป็นของจริง แม้ว่าจะมีลักษณะที่ไม่สมจริงก็ตาม ในโพสต์หรือสตอรี่บนอินสตาแกรม บางบัญชีปฏิเสธว่าไม่ได้ใช้เอไอ รวมถึงบัญชีที่เอาเนื้อหาของริยาไปใช้ด้วย

ริยาบอกว่า เธอได้รายงานบัญชีดังกล่าวไปยังทั้ง 2 แพลตฟอร์มหลายครั้งแล้ว แต่ในขณะนั้น เนื้อหาดังกล่าวยังไม่ถูกลบออก ติ๊กตอกได้แบนบัญชีนั้นหลังจากที่บีบีซีติดต่อไปขอความคิดเห็น

"ภาพที่ไม่สมจริง"

"ฉันเชื่อว่าบัญชีเหล่านี้เหยียดเชื้อชาติ เพราะการดำรงอยู่ของพวกมันเป็นการสืบทอดประวัติศาสตร์อันยาวนานของการแสวงหาผลประโยชน์จากคนผิวดำ" นูลานี หนึ่งในนักวิจัยกล่าว

"การใช้ภาพล้อเลียน คำศัพท์เกี่ยวกับการเล่นบทบาททางเชื้อชาติ และภาพที่ไม่สมจริงของหญิงผิวดำพิสูจน์ให้เห็นว่าพวกเขาไม่ได้ห่วงใยความปลอดภัยหรือความเป็นอยู่ที่ดีของเรา แต่ห่วงใยความสามารถในการแสวงหาผลประโยชน์จากเราในฐานะส่วนหนึ่งของอุตสาหกรรมภาพยนตร์โป๊ออนไลน์" เธอกล่าวเสริม

คาร์ราสโก ผู้ซึ่งวิพากษ์วิจารณ์แนวโน้มและเทคนิคเอไอในบัญชีโซเชียลมีเดียของเขา กล่าวว่า "สิ่งใหม่คือปริมาณภาพเหยียดเชื้อชาติที่ไร้ความละอายของคนผิวดำอย่างมาก"

ในขณะที่ "ความลุ่มหลงนั้น" อาจเคยมีมาในอดีต เอไอ "ทำให้มันมีที่มาใหม่" เขากล่าวและอธิบายว่า เอไอทำให้การลบโทนสีผิวในภาพและวิดีโอเพื่อสร้างโทนสีผิวเข้มที่ไม่เป็นธรรมชาติ และสร้างเอฟเฟกต์ที่ก่อนหน้านี้ต้องใช้แอนิเมชันหรือการระบายสีผิวทำได้ง่ายขึ้น

นอกจากนี้ เขายังกล่าวว่าไม่มีผลกระทบทางสังคมใด ๆ ต่ออวตาร "ไม่มีความอับอาย... นั่นคือสิ่งที่เอไอใช้ประโยชน์อย่างไม่เหมือนใคร"

ฮูดา โฟโนเน นางแบบและผู้สร้างคอนเทนต์ชาวโมร็อกโก ผู้เป็นกระบอกเสียงให้กับการนำเสนอภาพลักษณ์ที่แท้จริงของหญิงผิวดำ กล่าวว่า เทรนด์นี้เกี่ยวกับการ "ลบเลือน"

"ผมเงางาม รูปร่างผอมบางมาก ๆ และผิวเนียนไร้ที่ติ... ราวกับว่าความงามของคนผิวดำจะได้รับการยอมรับก็ต่อเมื่อ 'ถูกปรับแต่ง' เท่านั้น"

เธอกล่าวว่า สิ่งนี้เสี่ยงต่อการตอกย้ำภาพเหมารวม ในขณะที่ "เรื่องราวและประสบการณ์ในชีวิตจริงของเราถูกแทนที่ด้วยภาพที่สร้างขึ้นมา"

บีบีซีได้ส่งตัวอย่างบัญชีที่เราพบไปยังเมตาและติ๊กตอก และขอคำตอบจากพวกเขา

2 วันต่อมา โฆษกของติ๊กตอกแจ้งกับบีบีซีว่าบริษัทได้ "ลบเนื้อหาและแบนบัญชีที่ละเมิดกฎของเรา"

ภายในไม่กี่วัน มีบัญชี 20 บัญชีถูกระบุว่า "ถูกแบน" บนแอปฯ

โฆษกของติ๊กตอกกล่าวว่า "ติ๊กตอกห้ามมิให้มีการใช้เนื้อหาที่สร้างโดยเอไอของบุคคลโดยไม่ได้รับอนุญาต และเรามีนโยบายไม่ยอมรับเนื้อหาใด ๆ ที่ส่งเสริมบริการทางเพศนอกแพลตฟอร์ม""

บริษัทรายนี้กล่าวว่า บริษัทห้ามและลบเนื้อหาที่สร้างโดยเอไอที่เป็นอันตรายหรือทำให้เข้าใจผิด และกำหนดให้ผู้ใช้ต้องติดป้ายกำกับเนื้อหาที่สร้างโดยเอไอที่สมจริง บริษัทกล่าวว่าได้ติดป้ายกำกับที่ถูกต้องให้กับวิดีโอจำนวนหนึ่งแล้ว

เมตากล่าวว่า กำลังตรวจสอบเนื้อหาที่ได้รับแจ้ง

บริษัทระบุว่า ต้องการให้ผู้ใช้ทราบเมื่อพวกเขากำลังดูโพสต์ที่สร้างด้วยเอไอ และมีนโยบายสำหรับการติดป้ายกำกับเนื้อหาที่สร้างโดยเอไออยู่แล้ว บัญชีอินสตาแกรม 9 บัญชีที่บีบีซีติดตามดูเหมือนจะไม่มีอยู่แล้ว

อย่างไรก็ตาม ทั้ง 2 แพลตฟอร์มไม่ได้ให้รายละเอียดเกี่ยวกับการตอบสนองต่อรายงานเบื้องต้นของริยา