รายงานภายในของ Facebook เซ็กซี่บาคาร่า พบว่าอัลกอริธึมของแพลตฟอร์มโซเชียลมีเดียซึ่งเป็นกฎที่คอมพิวเตอร์ใช้ในการตัดสินเนื้อหาที่คุณเห็น ทำให้แคมเปญบิดเบือนข้อมูลในยุโรปตะวันออกเข้าถึงชาวอเมริกันเกือบครึ่งก่อนการเลือกตั้งประธานาธิบดีปี 2020 ตาม รายงาน ในTechnology Review
แคมเปญสร้างเพจยอดนิยมสำหรับเนื้อหาคริสเตียนและชาวอเมริกันผิวดำ และโดยรวมแล้วมีผู้ใช้ในสหรัฐอเมริกา 140 ล้านคนต่อเดือน เจ็ดสิบห้าเปอร์เซ็นต์ของผู้คนที่เปิดเผยเนื้อหานั้นไม่ได้ติดตามหน้าใดเลย ผู้คนเห็นเนื้อหาเพราะระบบแนะนำเนื้อหาของ Facebook ใส่ลงในฟีดข่าวของพวกเขา
แพลตฟอร์มโซเชียลมีเดียพึ่งพาพฤติกรรมของผู้คนเป็นอย่างมากในการตัดสินใจเลือกเนื้อหาที่คุณเห็น โดยเฉพาะอย่างยิ่ง พวกเขาดูเนื้อหาที่ผู้คนตอบสนองหรือ “มีส่วนร่วม” ด้วยการกดชอบ แสดงความคิดเห็น และแชร์ ฟาร์มโทรลล์องค์กรที่เผยแพร่เนื้อหายั่วยุ ใช้ประโยชน์จากสิ่งนี้โดยคัดลอกเนื้อหาที่มีส่วนร่วมสูงและ โพสต์เป็น ของตนเอง
ในฐานะนักวิทยาศาสตร์คอมพิวเตอร์ที่ศึกษาวิธีที่ผู้คนจำนวนมากโต้ตอบโดยใช้เทคโนโลยี ฉันเข้าใจตรรกะของการใช้ภูมิปัญญาของฝูงชนในอัลกอริทึมเหล่านี้ ฉันยังเห็นข้อผิดพลาดมากมายในการปฏิบัติของบริษัทโซเชียลมีเดีย
จากสิงโตบนทุ่งหญ้าสะวันนาสู่ไลค์บน Facebook
แนวคิดเรื่องภูมิปัญญาของฝูงชนถือว่าการใช้สัญญาณจากการกระทำ ความคิดเห็น และความชอบของผู้อื่นเป็นแนวทางจะนำไปสู่การตัดสินใจที่ถูกต้อง ตัวอย่างเช่นการคาดคะเนโดยรวมมักจะแม่นยำกว่าการคาดการณ์รายบุคคล กลุ่มข่าวกรองใช้เพื่อทำนายตลาดการเงิน กีฬาการเลือกตั้งและแม้แต่การระบาดของโรค
ตลอดระยะเวลาหลายล้านปีของวิวัฒนาการ หลักการเหล่านี้ได้รับการเข้ารหัสในสมองของมนุษย์ในรูปแบบของอคติทางปัญญาที่มาพร้อมกับชื่ออย่างเช่นความคุ้นเคยการเปิดรับแสงเพียงอย่างเดียวและผลกระทบของวง ดนตรี ถ้าทุกคนเริ่มวิ่ง คุณควรเริ่มวิ่งด้วย อาจมีคนเห็นสิงโตวิ่งเข้ามาอาจช่วยชีวิตคุณได้ คุณอาจไม่รู้ว่าทำไม แต่ควรถามคำถามในภายหลัง
สมองของคุณหยิบเบาะแสจากสิ่งแวดล้อม รวมทั้งเพื่อนฝูง และใช้กฎง่ายๆเพื่อแปลสัญญาณเหล่านั้นเป็นการตัดสินใจอย่างรวดเร็ว: ไปกับผู้ชนะ ทำตามเสียงส่วนใหญ่ คัดลอกเพื่อนบ้านของคุณ กฎเหล่านี้ใช้ได้ผลดีในสถานการณ์ทั่วไปเพราะตั้งอยู่บนสมมติฐานที่ดี ตัวอย่างเช่น พวกเขาคิดว่าผู้คนมักทำตัวมีเหตุผล ไม่น่าจะเป็นไปได้ที่หลายคนผิด อดีตทำนายอนาคต และอื่นๆ
เทคโนโลยีช่วยให้ผู้คนเข้าถึงสัญญาณจากผู้คนจำนวนมากขึ้น ซึ่งส่วนใหญ่พวกเขาไม่รู้ แอปพลิเคชั่นปัญญาประดิษฐ์ใช้ประโยชน์จากความนิยมหรือสัญญาณ “การมีส่วนร่วม” เหล่านี้อย่างหนัก ตั้งแต่การเลือกผลลัพธ์ของเครื่องมือค้นหาไปจนถึงการแนะนำเพลงและวิดีโอ และจากการแนะนำเพื่อนไปจนถึงการจัดอันดับโพสต์บนฟีดข่าว
ไม่ใช่ทุกสิ่งที่ไวรัสสมควรจะเป็น
การวิจัยของเราแสดงให้เห็นว่าแทบทุกแพลตฟอร์มเทคโนโลยีเว็บ เช่น โซเชียลมีเดียและระบบแนะนำข่าวสาร มีอคติต่อความนิยมอย่างมาก เมื่อแอปพลิเคชันถูกขับเคลื่อนด้วยสัญญาณ เช่น การมีส่วนร่วม มากกว่าคำค้นหาของเครื่องมือค้นหาที่ชัดเจน ความลำเอียงจากความนิยมสามารถนำไปสู่ผลที่ไม่พึงประสงค์ที่เป็นอันตรายได้
โซเชียลมีเดียเช่น Facebook, Instagram, Twitter, YouTube และ TikTok อาศัยอัลกอริทึม AI อย่างมากในการจัดอันดับและแนะนำเนื้อหา อัลกอริธึมเหล่านี้ใช้เป็นอินพุตในสิ่งที่คุณชอบ แสดงความคิดเห็น และแบ่งปัน หรือกล่าวอีกนัยหนึ่งคือ เนื้อหาที่คุณมีส่วนร่วม เป้าหมายของอัลกอริทึมคือการเพิ่มการมีส่วนร่วมสูงสุดโดยค้นหาสิ่งที่ผู้คนชอบและจัดอันดับที่ด้านบนสุดของฟีด
ไพรเมอร์บนอัลกอริทึมของ Facebook
บนพื้นผิวนี้ดูเหมือนสมเหตุสมผล หากคนชอบข่าวที่น่าเชื่อถือ ความคิดเห็นของผู้เชี่ยวชาญ และวิดีโอสนุกๆ อัลกอริทึมเหล่านี้ควรระบุเนื้อหาคุณภาพสูงดังกล่าว แต่ภูมิปัญญาของฝูงชนทำให้เกิดข้อสันนิษฐานที่สำคัญที่นี่: การแนะนำสิ่งที่เป็นที่นิยมจะช่วยให้เนื้อหาคุณภาพสูง “ฟองขึ้น”
เราทดสอบสมมติฐานนี้โดยศึกษาอัลกอริทึมที่จัดอันดับรายการโดยใช้คุณภาพและความนิยมผสมกัน เราพบว่าโดยทั่วไป ความลำเอียงในความนิยมมักจะทำให้คุณภาพโดยรวมของเนื้อหาลดลง เหตุผลก็คือการมีส่วนร่วมไม่ใช่ตัวบ่งชี้คุณภาพที่เชื่อถือได้เมื่อมีเพียงไม่กี่คนที่ได้สัมผัสกับสินค้า ในกรณีเหล่านี้ การมีส่วนร่วมจะสร้างสัญญาณรบกวน และอัลกอริทึมก็มีแนวโน้มที่จะขยายสัญญาณรบกวนเริ่มต้นนี้ เมื่อความนิยมของสินค้าคุณภาพต่ำมีมากพอ มันก็จะเพิ่มมากขึ้นเรื่อยๆ
อัลกอริธึมไม่ใช่สิ่งเดียวที่ได้รับผลกระทบจากอคติของการมีส่วนร่วม แต่ก็สามารถส่งผลกระทบต่อผู้คนได้เช่นกัน หลักฐานแสดงให้เห็นว่าข้อมูลถูกส่งผ่าน ” การแพร่ระบาดที่ซับซ้อน ” ซึ่งหมายความว่ายิ่งผู้คนเปิดเผยแนวคิดทางออนไลน์มากเท่าใด พวกเขาก็มีแนวโน้มที่จะยอมรับและแชร์ต่อมากขึ้นเท่านั้น เมื่อสื่อสังคมออนไลน์บอกผู้คนว่าสิ่งของกำลังแพร่ระบาด ความลำเอียงทางปัญญาของพวกเขาจะเข้ามามีบทบาทและแปลเป็นแรงกระตุ้นที่ไม่อาจต้านทานได้ที่จะให้ความสนใจกับมันและแชร์มัน
ฝูงชนที่ไม่ฉลาด
เมื่อเร็ว ๆ นี้เราได้ทำการทดลองโดยใช้ แอปการรู้ข่าว ชื่อFakey เป็นเกมที่พัฒนาโดยแล็บของเรา ซึ่งจำลองฟีดข่าวเช่น Facebook และ Twitter ผู้เล่นจะเห็นบทความปัจจุบันที่ผสมผสานกันจากข่าวปลอม วิทยาศาสตร์ขยะ แหล่งข้อมูลที่เกินจริงและสมรู้ร่วมคิด ตลอดจนแหล่งข้อมูลกระแสหลัก พวกเขาได้รับคะแนนจากการแบ่งปันหรือกดถูกใจข่าวจากแหล่งที่เชื่อถือได้ และสำหรับบทความที่มีความน่าเชื่อถือต่ำเพื่อการตรวจสอบข้อเท็จจริง
เราพบว่าผู้เล่นมีแนวโน้มที่จะชอบหรือแชร์มากกว่า และมีโอกาสน้อยที่จะตั้งค่าสถานะบทความจากแหล่งที่น่าเชื่อถือต่ำ เมื่อผู้เล่นเห็นว่าผู้ใช้รายอื่นจำนวนมากมีส่วนร่วมกับบทความเหล่านั้น การเปิดรับตัวชี้วัดการมีส่วนร่วมจึงสร้างช่องโหว่
ภูมิปัญญาของฝูงชนล้มเหลว เพราะมันถูกสร้างขึ้นบนสมมติฐานที่ผิดๆ ว่าฝูงชนประกอบด้วยแหล่งที่หลากหลายและเป็นอิสระ อาจมีสาเหตุหลายประการที่ไม่เป็นเช่นนั้น
ประการแรก เนื่องจากแนวโน้มของผู้คนในการคบหากับคนที่คล้ายกัน ย่านออนไลน์ของพวกเขาจึงไม่มีความหลากหลายมากนัก ความง่ายดายในการที่ผู้ใช้โซเชียลมีเดียสามารถเลิกเป็นเพื่อนกับผู้ที่ไม่เห็นด้วยจะผลักดันให้ผู้คนเข้าสู่ชุมชนที่เป็นเนื้อเดียวกัน ซึ่งมักเรียกกันว่าห้องสะท้อนเสียง
ประการที่สอง เนื่องจากเพื่อนหลายคนเป็นเพื่อนกัน พวกเขาจึงมีอิทธิพลต่อกันและกัน การทดลองที่มีชื่อเสียงแสดงให้เห็นว่าการรู้ว่าเพลงใดที่เพื่อนของคุณชอบส่งผลต่อความชอบที่คุณระบุไว้ ความปรารถนาทางสังคมของคุณที่จะปฏิบัติตามนั้นบิดเบือนการตัดสินใจที่เป็นอิสระของคุณ
ประการที่สาม สัญญาณความนิยมสามารถเล่นได้ ตลอดหลายปีที่ผ่านมา เสิร์ชเอ็นจิ้นได้พัฒนาเทคนิคที่ซับซ้อนเพื่อตอบโต้สิ่งที่เรียกว่า “ ลิงค์ฟาร์ม ” และรูปแบบอื่นๆ เพื่อจัดการกับอัลกอริธึมการค้นหา ในทางกลับกัน แพลตฟอร์มโซเชียลมีเดียเพิ่งเริ่มเรียนรู้เกี่ยวกับจุดอ่อน ของ ตนเอง
ผู้คนที่มุ่งหมายจะบิดเบือนตลาดข้อมูลได้สร้างบัญชีปลอมเช่น โทรลล์และบอทโซเชียล และจัดระเบียบ เครือ ข่ายปลอม พวกเขาท่วมท้นเครือข่ายเพื่อสร้างรูปลักษณ์ที่ทฤษฎีสมคบคิดหรือผู้สมัครทางการเมืองเป็นที่นิยม โดยหลอกทั้งอัลกอริทึมของแพลตฟอร์มและอคติทางปัญญาของผู้คนในคราวเดียว พวกเขายังเปลี่ยนโครงสร้างของเครือข่ายสังคมเพื่อสร้างภาพลวงตาเกี่ยวกับความคิดเห็นส่วนใหญ่
การโทรลงหมั้น
จะทำอย่างไร? แพลตฟอร์มเทคโนโลยีอยู่ในการป้องกัน พวกเขากำลังก้าวร้าว มากขึ้น ในระหว่างการเลือกตั้งใน การลบบัญชีปลอมและข้อมูลที่ ไม่ถูกต้องที่เป็นอันตราย แต่ความพยายามเหล่านี้อาจคล้ายกับเกมตีตัวตุ่น
วิธีการป้องกันที่แตกต่างคือการเพิ่มแรงเสียดทาน กล่าวอีกนัยหนึ่งคือการชะลอกระบวนการเผยแพร่ข้อมูล พฤติกรรมที่มีความถี่สูง เช่น การกดชอบและการแชร์แบบอัตโนมัติอาจถูกขัดขวางโดยการทดสอบหรือค่าธรรมเนียม ของ CAPTCHA สิ่งนี้ไม่เพียงแต่ลดโอกาสในการยักย้ายถ่ายเท แต่ด้วยข้อมูลน้อยลง ผู้คนจะสามารถให้ความสนใจกับสิ่งที่พวกเขาเห็นได้มากขึ้น จะทำให้มีอคติในการมีส่วนร่วมน้อยลงที่จะส่งผลต่อการตัดสินใจของผู้คน
นอกจากนี้ยังช่วยได้เช่นกันหากบริษัทโซเชียลมีเดียปรับอัลกอริทึมของตนให้พึ่งพาการมีส่วนร่วมน้อยลงในการพิจารณาเนื้อหาที่พวกเขาให้บริการคุณ บางทีการเปิดเผยความรู้ของ Facebook เกี่ยวกับฟาร์มโทรลล์ที่ใช้ประโยชน์จากการมีส่วนร่วมอาจเป็นแรงผลักดันที่จำเป็น เซ็กซี่บาคาร่า / หนังญี่ปุ่น
