อินเทอร์เน็ตอยู่ในอ้อมแขนเมื่อผู้ใช้ 4Chan ใช้โปรแกรมจำลองเสียง AI เพื่อปลอมเสียงของ Emma Watson ทำให้เธออ่านอัตชีวประวัติของฮิตเลอร์
อดีตพนักงานของ Google และ Palantir ร่วมกันเปิดตัว Elevenlabs สตาร์ทอัพซึ่งมีจุดประสงค์เพื่อสร้างการปลอมแปลงเสียงคุณภาพสูงของคนดังผ่านเครื่องมือการโคลนเสียง AI แต่การเปิดตัวรุ่นเบต้าไม่นานกลับสวนทางกับเสียงของคนดังหลายคนที่ดูถูกเหยียดหยาม รวมถึงเอ็มมา วัตสัน ด้วยเครื่องมือโคลนเสียง AI
แฟนๆ หลายคนรู้สึกโกรธเคืองกับการใช้เครื่องมือ AI ที่ผิดจรรยาบรรณและผิดศีลธรรม หลังจากที่โทรลล์บางคนใช้เสียงคนดังที่พวกเขาชื่นชอบในทางที่ผิดเพื่อแสดงความคิดเห็นที่อุกอาจ แต่การเริ่มต้นทำให้ทุกคนมั่นใจได้ว่าพวกเขากำลังจะเปลี่ยนรูปแบบเพื่อหลีกเลี่ยงปัญหาเพิ่มเติม
แฟน ๆ โกรธหลังจากผู้ใช้ 4Chan ใช้เสียงของ Emma Watson ในทางที่ผิดผ่านเครื่องมือ AI
การเปิดตัวเครื่องมือโคลนเสียง AI จาก Elevenlabs ทำให้อินเทอร์เน็ตลุกเป็นไฟหลังจากมีโทรลล์จำนวนมากใช้ประโยชน์จากเครื่องมือฟรีนี้ แม้ว่าหลายคนจะใช้ซอฟต์แวร์นี้เพื่อสร้างเนื้อหาที่มีประโยชน์ แต่อินเทอร์เน็ตส่วนหนึ่งได้ใช้เครื่องมือนี้ในทางที่ผิดเพื่อให้คนดังพ่นคำเหยียดหยามเหยียดผิวและแสดงความคิดเห็นที่อุกอาจ และนำไปใช้ในทางที่ผิด เอ็มม่า วัตสัน เสียงเป็นฟางเส้นสุดท้าย
ล่าสุด. มาเธอร์บอร์ดรายงานการใช้ซอฟต์แวร์ AI ในทางที่ผิดเพื่อสร้างเสียงปลอมที่น่ารังเกียจ แต่ฟางที่หักหลังอูฐคือผู้ใช้ 4Chan ซึ่งสร้างคลิปของ แฮร์รี่พอตเตอร์ แสดงเอ็มม่าวัตสันอ่าน การต่อสู้ของฉัน อัตชีวประวัติของอดอล์ฟ ฮิตเลอร์ ผู้นำเผด็จการนาซี
แฟนๆ ต่างโกรธเคืองกับการใช้ซอฟต์แวร์ที่ผิดจรรยาบรรณของเอ็มมา วัตสันและดาราดังคนอื่นๆ เช่น โจ โรแกน, โรบิน วิลเลียมส์ เป็นต้น Elevenlabs ซึ่งเผยแพร่เทคโนโลยีนี้สู่สาธารณะ ได้จัดการกับปัญหาที่เพิ่มขึ้นนี้และสาบานว่าจะต่อสู้กับ ละเมิดเครื่องมือโคลนเสียงของพวกเขา
อ่านเพิ่มเติม: ผู้กำกับ 'Prisoner of Azkaban' ขอให้ทั้งสามคนของ Harry Potter เขียนเรียงความเกี่ยวกับตัวละครของพวกเขา - Emma Watson เขียน 16 หน้า, Daniel Radcliffe มีบทสรุป 1 หน้า, Rupert Grint ไม่ได้เขียน
Elevenlabs ให้คำมั่นว่าจะหลีกเลี่ยงการใช้เครื่องมือ AI ในทางที่ผิดอีกต่อไป
บริษัทสตาร์ทอัพได้รับเสียงตอบรับในเชิงบวกอย่างล้นหลามในช่วงแรก เนื่องจากหลายคนใช้เครื่องมือการโคลนเสียงด้วย AI เพื่อการสร้างสรรค์ที่ดี แต่ในไม่ช้าบริษัทก็ประสบปัญหาหลังจากโทรลล์เริ่มใช้ประโยชน์จากซอฟต์แวร์เพื่อจุดประสงค์ที่ชั่วร้าย Elevenlabs ให้ความมั่นใจกับอินเทอร์เน็ตว่าพวกเขากำลังตรวจสอบเรื่องนี้อย่างลึกซึ้งและค้นหาวิธีแก้ปัญหาที่เป็นไปได้
แม้ว่าผู้สร้าง Elevenlabs จะยอมรับว่าพวกเขาสามารถติดตามกลับไปยังผู้ใช้ที่ใช้เครื่องมือ AI ในทางที่ผิด แต่พวกเขากำลังมองหามาตรการความปลอดภัยเพิ่มเติมเพื่อหลีกเลี่ยงปัญหานี้ ผู้สร้างได้แชร์แนวคิดต่างๆ เพื่อจัดการกับเรื่องนี้ ซึ่งรวมถึงการแนะนำการยืนยันด้วยตนเองสำหรับการโคลนแต่ละครั้ง และการตรวจสอบ ID แบบเต็มของผู้ใช้ผ่านการชำระเงินหรือวิธีอื่นใด
แม้ว่าการทดสอบเบต้าของ Startup จะเป็นจุดเริ่มต้นที่ผสมผสานกัน แต่แฟนๆ หลายคนก็เดือดดาลต่อการใช้เสียงคนดังอย่างผิดจรรยาบรรณผ่านเครื่องมือ AI โดยเฉพาะ Emma Watson แต่ผู้คนก็ยอมรับการเริ่มต้นที่ไม่ปัดเป่าสถานการณ์และใช้มาตรการเชิงรุกเพื่อจัดการกับโทรลล์ทางอินเทอร์เน็ตเหล่านี้
แหล่งที่มา: รอง
