Thursday, March 14, 2019

Zucked : Waking Up to the Facebook Catastrophe - Roger McNamee

రెండేళ్ళ క్రితం అనుకుంటా జార్జ్ ఆర్వెల్ రాసిన 1984 చదివాను..అందులో Oceania అనే కల్పిత దేశాన్ని పాలించే పార్టీ అధినేత 'బిగ్ బ్రదర్' (మనకు కనిపించడు) 'Thought policing' ద్వారా జనాల ఆలోచనలపై సైతం నిఘా పెడతాడు..అలాగే తమ పార్టీ భావాలకు అనుకూలంగా ఆలోచనతో నిమిత్తం లేని,భావాలను స్వేచ్ఛగా ప్రకటించడానికి సాధ్యం కాని 'Newspeak' అనే కొత్త భాషను ప్రవేశపెడతాడు..వ్యవస్థను అభివృద్ధి దిశగా ప్రభావితం చెయ్యవలసిన శక్తిమంతమైన మీడియా ప్రభుత్వం చేతిలో ఆయుధంగా మారితే సామాన్య ప్రజానీకానికి కలిగే నష్టాలేమిటో ఈ రచనలో అద్భుతంగా చూపించారు ఆర్వెల్..ఈ నవలలో మనిషి స్వేచ్ఛను మొదలంటా హరించివేసిన ఆర్వెల్ సృష్టించిన అథారిటేరియన్ సమాజాన్ని ఫిక్షన్ అని భ్రమపడి ఏమంత సమయం  కాలేదు..మన ఇళ్ళల్లో చాలా మంది 'బిగ్ బ్రదర్లు' మనకు కనిపించకుండా రహస్యంగా మన కార్యకలాపాలను గమనిస్తున్నారు..వాళ్ళకి మనకి కోపం ఎప్పుడొస్తుందో తెలుసు..మనం ఎప్పుడు ఏడుస్తామో తెలుసు,ఎప్పుడు నవ్వుతామో తెలుసు...మన గురించి మనక్కూడా తెలీని అనేక విషయాలు ఈ బిగ్ బ్రదర్లకి తెలుసు..Roger McNamee రాసిన 'Zucked' చదవడం పూర్తి చేశాక,మనం అందరం ప్రస్తుతం 1949 సంవత్సరంలో జార్జ్ ఆర్వెల్ హెచ్చరించిన 1984 డిస్టోపియన్ సొసైటీలోనే బ్రతుకుతున్నామని తెలియడం నా వరకూ ఒక పెద్ద షాక్.
Image Courtesy Google
'ఫిల్టర్ బబుల్స్' లో మనిషి మేథను ఖైదు చేసి,అల్గోరిథమ్స్ ను తమ సంస్థ ఆర్ధికాభివృద్ధికి అనువుగా మార్చుకుంటూ,ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ద్వారా మనిషి మెదడుని క్రమంగా తమ నియంత్రణలోకి తీసుకుంటూ,  ప్రపంచంలో శక్తిమంతమైన సోషల్ నెట్వర్కింగ్ సంస్థగా ఎదిగిన ఫేస్బుక్ వలన సమాజానికి జరుగుతున్న  నష్టాలనూ,భవిష్యత్తు తరాలకు పొంచి ఉన్న పెను ప్రమాదాలనూ రోజర్ ఈ పుస్తకంలో విస్తృతంగా చర్చించారు..మార్క్ జుకెర్బెర్గ్ కు ఒకప్పుడు ముఖ్య సలహాదారుగా వ్యవహరించడంతో పాటు,ఫేస్బుక్ CEO షెరిల్ సాండ్బర్గ్ నియామకం వరకూ,రోజర్ మెక్నమీ ఫేస్బుక్ ప్రస్థానంలో కీలకపాత్ర పోషించారు..ఈవిధంగా ఆయన మొదట్నుంచీ సిలికాన్ వాలీ అంతర్భాగంగా ఉంటూ వచ్చారు..అందువల్ల ఈ పుస్తకంలో రోజర్ చర్చించిన అంశాలన్నీ ఫేస్బుక్ పనితీరుకి ఒక ప్రత్యక్ష సాక్షి చేసిన పరిశీలనలుగా పరిగణించాలి.

ఇందులో టెక్నాలజీ రంగంతో ప్రత్యక్ష సంబంధం లేని సామాన్యులకు సైతం విభ్రాంతిని కలిగించే అంశాలు చాలానే ఉన్నాయి..ఉదాహరణకు 2016 ఎన్నికల్లో అమెరికా ప్రెసిడెంట్ గా డోనాల్డ్ ట్రంప్ ఎన్నిక..రష్యన్లు ఫేస్బుక్ లొసుగుల్ని సమర్ధవంతంగా స్వప్రయోజనార్ధం వాడుకుని 2016 అమెరికా ఎన్నికల్లో పరోక్షంగా పావులు కదిపారు..దీనితో పాటు వినియోగదారుల అనుమతి లేకుండా కేంబ్రిడ్జి అనలిటికా అనే సంస్థ 87 మిలియన్ల ఫేస్బుక్ ప్రొఫైళ్లను హ్యాక్ చేసింది,ఇది Brexit మీద ఎటువంటి ప్రభావం చూపిందో అందరికీ తెలిసిందే..ఇవే కాకుండా ఫేస్బుక్ పోస్టుల ద్వారా మియన్మార్ లో ద్వేషాన్ని రగిలించిన రోహింగ్యా సంక్షోభం మరో వైపు..ఇలా అడుగడుగునా 'గోప్యత' విషయంలో ఫేస్బుక్ తమ అసమర్ధతను చాటుకుంటూనే ఉంది..ప్రజాస్వామ్యానికి శరాఘాతంలా ఇన్ని ఉదంతాలు జరిగినా ఫేస్బుక్ వ్యవహారంలో పెనుమార్పులేవీ చోటు చేసుకోలేదంటారు రోజర్..'యూజర్ డేటా ప్రైవసీ' విషయంలో ఫేస్బుక్ ఇప్పటికీ అదే నిర్లక్ష్యధోరణి చూపిస్తోంది..థర్డ్ పార్టీ అప్లికేషన్స్ కు తలుపులు తెరవడం ద్వారా మనిషి ఆన్లైన్ ఆక్టివిటీస్ పై నిరంతరం నిఘా పెడుతోంది..ఈ నిఘా ఫేస్బుక్ కి మాత్రమే పరిమితమైందనుకుంటే పొరపాటే,గూగుల్,అమెజాన్ లాంటి టెక్నాలజీ జెయింట్స్ కూడా ఇదే కోవలో పని చేస్తున్నాయి..ఉదాహరణకు అమెజాన్ అలెక్సాను మన దైనందిన కార్యకలాపాలపై కన్ను వేసి ఉంచే గూఢచారిగా అభివర్ణిస్తారు రోజర్..మనిషి మనస్తత్వాన్ని అల్గోరిథమ్స్ తో అంచనా వేస్తూ,దాన్ని ఆర్టిఫిషియల్ ఇంటలిజెన్స్ కు మేతగా వేస్తూ,మనుషుల బలహీనతలను సొమ్ముచేసుకుంటున్న టెక్నాలజీ రంగం రానున్న కాలంలో మేథను పూర్తిగా నాశనం చేసి మనుషుల్ని పనికిరాని వాళ్ళుగా తయారు చేస్తుందని ఆందోళన వ్యక్తం చేస్తారు రోజర్..నేటి తరానికి సోషల్ నెట్వర్కింగ్ ఒక వ్యసనంగా మారిన తరుణంలో దాని వల్ల లాభనష్టాలను బేరీజు వేసుకునేలా చేస్తుంది ఈ పుస్తకం.

కేవలం టెక్నాలజీ వల్ల కలిగే నష్టాల్ని ఏకరువు పెట్టడం కాకుండా ఈ పుస్తకంలో కంప్యూటర్స్ ఆవిర్భావం,టెక్నాలజీ,సోషల్ నెట్వర్కింగ్,ఆర్టిఫిషియల్ ఇంటలిజెన్స్ మొదలు నేటి సెల్ ఫోన్స్ వరకూ సిలికాన్ వాలీ పురోగతికి సంబంధించిన ప్రతి చిన్న వివరాన్నీ పొందుపరిచారు..టెక్నాలజీ రంగంలో ఫేస్బుక్ తొలి అడుగులు వేస్తున్న సమయం నుండీ మొదలుపెట్టి మార్క్ జుకెర్బెర్గ్ వ్యూహాన్ని వివరంగా రాశారు..జుకెర్బెర్గ్ ఫేస్బుక్ మొదలుపెట్టినప్పుడు ప్రజలందర్నీ ఒకే చోటికి చేర్చాలనే మంచి ఆదర్శంతో మొదలుపెట్టినా,టెక్నాలజీ రంగంలో ఎదురులేని జైంట్ గా ఎదిగే క్రమంలో ఫేస్బుక్ నైతిక విలువలకు తిలోదకాలిచ్చింది..ముఖ్యంగా వినియోగదారుల వ్యక్తిగత సమాచారాన్ని అమ్ముకుని తన విజయానికి సోపానాలు వేసుకుంది..ప్రస్తుతం ఫేస్బుక్ కు అనుబంధంగా ఉన్న ఇంస్టాగ్రామ్,వాట్సాప్,Oculus లాంటి వాటి కొనుగోలు ద్వారా స్టార్ట్ అప్స్ కు అవకాశాలు ఇవ్వకుండా,మర్రి చెట్టులా మారి టెక్నాలజీ రంగాన్ని శాసించే స్థాయికి ఎదిగింది..కేవలం 33 ఏళ్ళ వయసులో అసంభవాన్ని సంభవం చేసిన మార్క్ బిజినెస్ స్ట్రాటజీని ఒక వ్యాపారాత్మక కోణం నుంచి చూస్తే మెచ్చుకోవచ్చు..కానీ మైక్రోసాఫ్ట్,ఆపిల్ లాంటి సంస్థల్లా ఫేస్బుక్ వ్యాపారంలో మానవీయ విలువలకు తావులేదు..“move fast and break things” సిద్ధాంతాన్ని పాటించే ఫేస్బుక్ తన దృష్టంతా విజయంవైపే పెడుతుంది తప్ప 'ప్రజాప్రయోజనం' గురించి ఇసుమంతైనా ఆలోచించదు..స్టీవ్ జాబ్స్ టెక్నాలజీని 'Bicycle for the mind' లా ఉండాలని అంటారు..టెక్నాలజీ మేథకు పదునుపెట్టి,అభివృద్ధి దిశగా నడిపించేదై ఉండాలి గానీ,నేటి సోషల్ మీడియాలా ప్రజల్ని అసమర్థుల్లా,వ్యసనపరులుగా మార్చేదిగా ఉండకూడదంటారు స్టీవ్.

ఈ పుస్తకంలో రోజర్ కేవలం సమస్యని చూపించి వదిలెయ్యకుండా దీనికి కొన్ని పరిష్కారాలు కూడా సూచించారు ..'human driven technology' ని ఈ సమస్యకు ప్రధాన పరిష్కారంగా చూపిస్తూ,ఫేస్బుక్ కి  చెక్ పెట్టాలంటే అది వినియోగదారునితోనే మొదలవ్వాలంటారు..వినియోగదారుడికి తన డేటా మీద సర్వ హక్కులూ ఉండేలా కట్టుదిట్టమైన చట్టాలు తీసుకురావాలని ప్రతిపాదిస్తారు..

There should be a version of social media that is human-driven. Facebook and Google seem to have discarded the bicycle for the mind metaphor. They advocate AI as a replacement for human activity, as described in a recent television ad for Google Home: “Make Google do it.

ఇప్పటికీ రోజర్ ఫేస్బుక్ వాడతారట,కానీ తన కంట్రోల్ ఫేస్బుక్ చేతికి ఇవ్వలేదంటారు..కుల మత రాజకీయ విషయాలపై వాదనలు,చర్చలు చెయ్యడం,అటువంటి పోస్ట్స్ రాసే 'Bad actors' ను ప్రోత్సహించడం,తమ ఐడియాలజీని సమర్ధించుకునే దిశగా 'hate speech', 'free speech' వంటివి కూడదంటారు..దానితో పాటు స్క్రీన్ టైమ్ తగ్గించుకోవడం,మొబైల్ నోటిఫికెషన్స్ ను అస్తమానం చెక్ చేసుకోకపోవడం లాంటివి మంచి ఫలితాలనిస్తాయంటూ,పిల్లలపై సోషల్ మీడియా ప్రభావం మరింత ప్రమాదకరంగా ఉందని హెచ్చరించారు..సోషల్ మీడియా కు బయట మానవసంబంధాలు కలిగి ఉండడం చాలా అవసరమంటారు..

There is a sufficiency in the world for man's need but not for man's greed. అంటారు మహాత్ముడు..
అటు వ్యాపారవేత్తలకే కాదు,ఇటు వినియోగదారులకి కూడా ఈ సూత్రం ఇంతవరకూ వంటబట్టినట్లు లేదు..హార్వార్డ్ యూనివర్సిటీ నుండీ మొదలుపెట్టి ఈరోజు వరకూ తన నిర్లక్ష్య ప్రవర్తనకు నిత్యం క్షమాపణలు చెప్పడం అలవాటైన మేధావి జుకెర్బెర్గ్ ఆసక్తికరమైన ప్రస్థానం ప్రక్కన పెడితే ఈ మొత్తం సమస్యకు అతణ్ణి మాత్రమే బాధ్యుణ్ణి చెయ్యడం సమంజసమేనా అని ఒక్క క్షణం నన్ను నేను ప్రశ్నించుకున్నాను..మరి బాధ్యత ఎవరిది ?? బహుశా సెల్ ఫోన్ కనిపెట్టినవాడు కూడా ఒక మంచి ఉద్దేశ్యంతోనే కనిపెట్టాడు..కానీ ఇక్కడ గంటలు గంటలు ఫోన్ సెన్స్ లేకుండా ఉపయోగిస్తూ,దానికి ఒక బానిసగా మారిన వినియోగదారుడి తప్పా ? లేక జీవంలేని సెల్ ఫోన్ తప్పా ? గ్లోబ్ మొత్తంలో వివిధ సంస్కృతులకు సంబంధించిన మనుషులందరూ కలిసి ఒక చోటికి చేరే అవకాశం వస్తే దాన్ని పండగలా మార్చుకోవడం చేతకాని మానవజాతి మనది..కుల,మత,భాష,జాతి వైషమ్యాలతో ఒకర్నొకరు నిరంతరం ద్వేషించుకుంటూ,ఏ పనీలేక కాలక్షేపానికి ఇంట్లో కూర్చుని సోషల్ మీడియాలో యుద్దాలు చేస్తున్న ఉత్తరకుమారులం మనం..ఫ్రీ స్పీచ్,లిబరల్ సొసైటీ ముసుగులో జనాల్ని రెచ్చగొట్టే రాతలు రాస్తూ విద్వేషాలను రెచ్చగొడుతున్న తీవ్రవాదులం మనం..కానీ మన తప్పులకు బాధ్యత తీసుకోవడం మానవ నైజం అస్సలు కాదు కాబట్టి మార్క్ జుకెర్బెర్గ్ నో ,పీటర్ థీల్ నో, ఎలోన్ మస్క్ నో, మరో అంబానీనో వేలెత్తి చూపిద్దాం..మన బలహీన మనస్తత్వాలపై మనకే అదుపాజ్ఞలు లేని మనం,వాటిని పెట్టుబడిగా పెట్టి సమర్ధవంతంగా సొమ్ము చేసుకుంటున్న వ్యాపారవేత్తలను బాధ్యుల్ని చేద్దాం..ఇది చదివాకా నేను ఫేస్బుక్ ను బహుశా మునుపటిలా వాడలేను..ఎందుకంటే నా ఎమోషన్స్ ని కాష్ చేసుకునే వారంటే నాకు అసహ్యం.. :) ఇంత మంచి పుస్తకాన్ని రికమెండ్  చేసిన నాగరాజు పప్పు గారికి కృతజ్ఞతలు.

పుస్తకం నుండి కొన్ని,
He asserted that Facebook was technically a platform, not a media company, which meant it was not responsible for the actions of third parties.

It never occurred to me that success would lead to anything but happiness.

Unfortunately, the pioneers of the internet made omissions that would later haunt us all. The one that mattered most was the choice not to require real identity. They never imagined that anonymity would lead to problems as the web grew.

You can imagine how attractive a philosophy that absolves practitioners of responsibility for the impact of their actions on others would be to entrepreneurs and investors in Silicon Valley. They embraced it. You could be a hacker, a rebel against authority, and people would reward you for it. Unstated was the leverage the philosophy conferred on those who started with advantages. The well-born and lucky could attribute their success to hard work and talent, while blaming the less advantaged for not working hard enough or being untalented. Many libertarian entrepreneurs brag about the “meritocracy” inside their companies.

Peter Thiel, Elon Musk, Reid Hoffman, Max Levchin, Jeremy Stoppleman, and their colleagues were collectively known as the PayPal Mafia, and their impact transformed Silicon Valley.Not only did they launch Tesla, Space-X, LinkedIn, and Yelp, they provided early funding to Facebook and many other successful players.

Too many in Silicon Valley missed the lesson that treating others as equals is what good people do.

Zuck and his executive team did not anticipate that people would use Facebook differently than Zuck had envisioned, that putting more than two billion people on the same network would lead to tribalism, that Facebook Groups would amplify that tribalism, that bad actors would take advantage to harm innocent people. They failed to imagine unintended consequences from an advertising business based on behavior modification. They ignored critics. They missed the opportunity to take responsibility when the reputational cost would have been low.

Like most successful entrepreneurs and executives, Zuck is brilliant (and ruthless) about upgrading his closest advisors as he goes along. In the earliest days of Facebook, Sean Parker played an essential role as president,but his skills stopped matching the company’s needs, so Zuck moved on from him. He also dropped the chief operating officer who followed Parker and replaced him with Sheryl. The process is Darwinian in every sense. It is natural and necessary.

What I did not grasp was that Zuck’s ambition had no limit. I did not appreciate that his focus on code as the solution to every problem would blind him to the human cost of Facebook’s outsized success. And I never imagined that Zuck would craft a culture in which criticism and disagreement apparently had no place.

Algorithms would not act in a socially responsible way on their own. Users would think they were seeing a balance of content when in fact they were trapped in what Eli called a “filter bubble” created and enforced by algorithms. He hypothesized that giving algorithms gatekeeping power without also requiring civic responsibility would lead to unexpected, negative consequences. Other publishers were jumping on board the personalization bandwagon. There might be no way for users to escape from filter bubbles. Eli’s conclusion? If platforms are going to be gatekeepers, they need to program a sense of civic responsibility into their algorithms. They need to be transparent about the rules that determine what gets through the filter. And they need to give users control of their bubble.

Google realized that its data set of purchase intent would have greater value if it could be tied to customer identity. I call this McNamee’s 7th Law: data sets become geometrically more valuable when you combine them.

It's not because anyone is evil or has bad intentions. It’s because the game is getting attention at all costs. —TRISTAN HARRIS

Adults get locked into filter bubbles, which Wikipedia defines as “a state of intellectual isolation that can result from personalized searches when a website algorithm selectively guesses what information a user would like to see based on information about the user, such as location, past click-behavior and search history.” Filter bubbles promote engagement, which makes them central to the business models of Facebook and Google.

It turns out that connecting 2.2 billion people on a single network does not naturally produce happiness for all. It puts pressure on users, first to present a desirable image, then to command attention in the form of Likes or shares from others. In such an environment, the loudest voices dominate,which can be intimidating. As a result, we follow the human instinct to organize ourselves into clusters or tribes. This starts with people who share our beliefs, most often family, friends, and Facebook Groups to which we belong. Facebook’s News Feed enables every user to surround him- or herself with like-minded people. While Facebook notionally allows us to extend our friend network to include a highly diverse community, in practice, many users stop following people with whom they disagree. When someone provokes us, it feels
good to cut them off, so lots of people do that. The result is that friends lists become more homogeneous over time, an effect that Facebook amplifies with its approach to curating News Feed. When content is coming from like-minded family, friends, or Groups, we tend to relax our vigilance, which is one of the reasons why disinformation spreads so effectively on Facebook.

Facebook’s terms of service have one goal and one goal only: to protect the company from legal liability. By using the platform, we give Facebook permission to do just about anything it wants.

At a time when technology could do practically anything, entrepreneurs chose to exploit weaknesses in human psychology. We’re just beginning to understand the implications of that.

ఒకే రకమైన నమ్మకాలను కలిగి ఉన్న గ్రూపుల్లో (ఫిల్టర్ బబుల్స్) ఉండడం 'intellectual isolation' కు దారితీస్తుందంటారు.
What differentiates filter bubbles from normal group activity is intellectual isolation. Filter bubbles exist wherever people are surrounded by people who share the same beliefs and where there is a way to keep out ideas that are inconsistent with those beliefs. They prey on trust and amplify it.

Thanks to Facebook’s extraordinary success, Zuck’s brand combines elements of rock star and cult leader.

ఫేస్బుక్ నిర్ణయాల విషయంలో జుక్,షెరిల్ ల తిరుగులేని ఆధిపత్య ధోరణిని వర్ణిస్తూ,
If you wanted to draw a Facebook organizational chart to scale, it would look like a large loaf of bread with a giant antenna pointing straight up. Zuck and Sheryl are at the top of the antenna, supported by Schrage until he departed, the company’s chief financial officer David Wehner, product boss Chris Cox, and a handful of others. Everyone else is down in the loaf of bread. It is the most centralized decision-making structure I have ever encountered in a large company, and it is possible only because the business itself is not complicated.

Instead, Facebook defied its critics without even acknowledging their existence. The company’s message to the world—“nothing to see here, move along”

Everybody gets so much information all day long that they lose their common sense. —GERTRUDE STEIN.

No comments:

Post a Comment