in Technology

Surveillance Capitalism

ช่วงนี้ Facebook กำลังเป็นที่สนใจอีกครั้งจากประเด็น whistleblower คืออดีตพนักงาน Frances Haugen ออกมาแฉบริษัท พร้อมหลักฐานเป็นเอกสารภายในหลายชิ้น (Facebook Files) รวมถึงไปให้การต่อสภาครองเกรส

นิตยสาร TIME เลยเกาะประเด็นเรื่องนี้ ถึงระดับใช้ปกรูปหน้า Mark Zuckerberg พร้อมปุ่ม Delete Facebook ออก

ในนิตยสารมีบทความของ Roger McNamee นักลงทุน VC ชื่อดังซึ่งเป็นผู้ก่อตั้งกองทุน VC ดังสองแห่งคือ Silver Lake Partners และ Elevation Partners รวมถึงเป็นหนึ่งในนักลงทุน Facebook รุ่นแรกๆ และเป็นที่ปรึกษาของ Mark Zuckerberg ด้วย (เป็นคนที่แนะนำว่าอย่าขายบริษัทให้ Yahoo เลย)

บทความมีชื่อว่า Facebook Will Not Fix Itself โดย McNamee ออกตัวว่าเขาพยายามใช้เส้นสาย คอนเนคชั่นที่มี เปลี่ยนแปลงบริษัทมาโดยตลอด แต่ก็ไม่สำเร็จ

Five years ago, I embarked on a mission to help Facebook change its culture, business model and algorithms. I had been involved with the company in its early days as an adviser and investor. Since then, I and countless others have pressed Facebook founder Mark Zuckerberg and chief operating officer Sheryl Sandberg to reform Facebook. I communicated with them privately. I spoke out in public. I wrote for TIME in 2019, urging Facebook and Silicon Valley to adopt human-driven technology over addictive, dangerous algorithms. Nothing happened.

คำอธิบายของ McNamee คือ Facebook ไม่มีทางเปลี่ยนแปลงตัวเองจากภายในได้ เพราะโมเดลธุรกิจของบริษัท เป้าหมายที่ต้องสร้างกำไรสูงสุด เป็นตัวกำหนดให้บริษัทต้องปฏิบัติตัวอย่างนี้

Facebook will not fix itself. All incentives direct the company to stay on its current course.

CEOs like Zuckerberg claim they have a mandate to maximize shareholder value. As with the phrase I’m just following orders, a single-minded focus on profits and shareholder value can be deployed to justify all manner of sins.

ส่วนโมเดลธุรกิจที่ว่านั้น McNamee ใช้คำเรียกว่าเป็น “Surveillance Capitalism”

ผมเคยอ่านเรื่อง Surveillance Capitalism มาพอสมควร แต่เพิ่งเคยเห็นนิยามที่แจ่มแจ้งกระจ่างชัดขนาดนี้เป็นครั้งแรก ประทับใจจนต้องมาจดไว้

The economics of surveillance capitalism come from converting human experience into data, building models for every human from that data, and using those models to predict and influence behavior. Advertisers pay for those predictions. Surveillance capitalists also use the models to inform recommendation engines that manipulate choices and sometimes behavior. It is immensely profitable because humans make decisions in predictable ways, which facilitates manipulation.

McNamee เสนอว่าถ้า Facebook เปลี่ยนตัวเองไม่ได้ ทางออกเดียวคือต้องใช้การกำกับดูแลโดยรัฐ โดยชี้ว่าต้องทำ 3 ประเด็นคือ safety, privacy and competition

เขาบอกว่ารัฐต้องสร้างหน่วยงานกำกับดูแลเทคโนโลยี ในลักษณะเดียวกับ FDA (อย. สหรัฐ) ขึ้นมา

We need legislation to address three related problems across the entire technology world: safety, privacy and competition.

Now we need something like an FDA for technology products, designed to prevent harmful technologies from coming to market. For qualifying products, it would set safety standards, require annual safety audits and certification as a condition for every product, and impose huge financial penalties for any harms that result.