Les xarxes socials ens estan fent estúpids, però ho podem arreglar


Estem encantats de tornar a presentar Transform 2022 en persona el 19 de juliol i pràcticament del 20 al 28 de juliol. Uneix-te als líders d’IA i de dades per a converses aprofundides i oportunitats de creació de xarxes emocionants. Registra’t avui!


He passat la major part de la meva carrera estudiant com la tecnologia pot amplificar les habilitats humanes, des de millorar la destresa física fins a augmentar les habilitats cognitives. En els últims anys m’he centrat en com la tecnologia pot ajudar a fer grups humans més intel·ligents, des de petits equips fins a grans poblacions. I el que he trobat és que les plataformes de xarxes socials estan fent, sense voler, el contrari: danyant activament la nostra intel·ligència col·lectiva.

No, no estic parlant de la prevalença de contingut de baixa qualitat que insulta el nostre intel·lecte. Tampoc estic parlant de l’ús desenfrenat de la desinformació i la desinformació que ens enganya deliberadament. Després de tot, aquests no són problemes nous; El contingut defectuós ha existit al llarg de la història, des de idees errònies tontes fins a mentides i propaganda.

En canvi, estic parlant d’una cosa més fonamental: una característica de les xarxes socials que està perjudicant la nostra intel·ligència, tant si el contingut és real com fraudulent. Per explicar-ho, he de fer un pas enrere i abordar alguns punts sobre la cognició humana. Així doncs, aquí va…

Els humans som màquines de processament de la informació, ens passem la vida observant el nostre món i utilitzem aquestes observacions per construir models mentals detallats. Comencem des del moment del naixement, explorant i sentint el nostre entorn, provant i modelant les nostres experiències, fins que podem predir amb precisió com les nostres pròpies accions, i les accions dels altres, afectaran el nostre futur.

Considereu aquest exemple: un nen deixa caure una joguina i la mira com cau a terra; després de fer-ho moltes vegades amb el mateix resultat, el cervell del nadó generalitza el fenomen, construint un model mental de gravetat. Aquest model mental permetrà al nadó navegar pel seu món, predint com es comportaran els objectes quan siguin tombats, caiguts o llançats a l’aire.

Això funciona bé fins que el nadó experimenta un globus d’heli per primera vegada. Estan sorpresos quan el seu model de gravetat falla i el seu cervell s’ha d’ajustar, donant compte d’aquests objectes rars. D’aquesta manera, els nostres models mentals es tornen cada cop més sofisticats amb el temps. Això s’anomena intel·ligència.

I perquè la intel·ligència funcioni correctament, els humans hem de realitzar tres passos bàsics:

(1) Percebre el nostre món,

(2) Generalitzar les nostres experiències,

(3) Construir models mentals.

El problema és que les plataformes de xarxes socials s’han inserit en aquest procés crític, distorsionant el que significa “percebre el nostre món” i “generaritzar les nostres experiències”, cosa que ens porta a cometre errors significatius quan “construïm models mentals” a l’interior. els nostres cervells.

No, no estic parlant de com modelem el món físic de la gravetat. Estic parlant de com modelem el món social de les persones, des de les nostres comunitats locals fins a la nostra societat global. Els politòlegs es refereixen a aquest món social com “l’esfera pública” i definir-lo com l’àmbit en què els individus es reuneixen per compartir qüestions d’importància, intercanviant opinions mitjançant la discussió i la deliberació. És dins de l’esfera pública on la societat desenvolupa col·lectivament un model mental d’ella mateixa. I utilitzant aquest model, nosaltres, la gent, podem prendre bones decisions sobre el nostre futur compartit.

Ara ve aquí el problema: les xarxes socials han distorsionat l’esfera pública més enllà del reconeixement, donant a cadascun de nosaltres un model mental profundament defectuós de les nostres pròpies comunitats. Això distorsiona la nostra intel·ligència col·lectiva, dificultant que la societat prengui bones decisions. Però NO és el contingut mateix a les xarxes socials que està causant aquest problema; és la maquinària de distribució.

Deixa’m explicar.

Els humans hem evolucionat durant milions d’anys per confiar que les nostres experiències diàries proporcionen una representació precisa del nostre món. Si la majoria dels objectes que trobem cauen a terra, generalitzem i construïm un model mental de gravetat. Si uns quants objectes suren al cel, els modelem com a excepcions: esdeveniments rars que són importants d’entendre però que representen una petita porció del món en general.

Un model mental eficaç és aquell que ens permet predir el nostre món amb precisió, anticipant els fets comuns a un ritme molt més freqüent que els rars. Però les xarxes socials han descarrilat aquest procés cognitiu, moderant algorítmicament la informació que rebem sobre la nostra societat. Les plataformes ho fan alimentant-nos individualment notícies, missatges, anuncis i publicacions seleccionades que suposem que formen part de l’experiència de tothom, però que només poden trobar-se per segments reduïts del públic.

Com a resultat, tots creiem que estem vivint “l’esfera pública” quan, realment, tots estem atrapats en una representació distorsionada de la societat creada per les empreses de xarxes socials. Això fa que generalitzem incorrectament el nostre món. I si no podem generalitzar correctament, construïm models mentals defectuosos. Això degrada la nostra intel·ligència col·lectiva i danya la nostra capacitat de prendre bones decisions sobre el nostre futur.

I com que les empreses de xarxes socials ens apunten amb contingut amb el qual és més probable que ressonem, sobreestimen la prevalença de les nostres pròpies opinions i subestimem la prevalença de les opinions conflictives. Això distorsiona la realitat per a tots nosaltres, però els objectiu de contingut marginal poden ser enganyats perquè creguin que algunes nocions molt extremes són acceptades habitualment per la societat en general.

Si us plau, entengueu-vos, NO estic dient que tots hauríem de tenir les mateixes opinions i valors. Estic dient que tots hem d’estar exposats a una representació acurada de com es distribueixen els punts de vista i els valors entre les nostres comunitats. Això és saviesa col·lectiva. Però les xarxes socials han destrossat l’esfera pública en un mosaic de petites cambres d’eco alhora que enfosquien el fet que les cambres fins i tot existeixen.

Com a resultat, si tinc una perspectiva marginal sobre un tema en particular, potser no m’adono que la gran majoria de la gent troba que la meva visió és extrema, ofensiva o simplement absurda. Això em portarà a construir un model mental defectuós del meu món, avaluant incorrectament com encaixen les meves opinions a l’esfera pública.

Això seria com si un malvat científic criés un grup d’infants en un món fals on la majoria d’objectes estan plens d’heli i només uns quants xoquen a terra. Aquests nadons generalitzaran les seves experiències i desenvoluparien un profund defectuós model de realitat. Això és el que ens estan fent les xarxes socials a tots en aquests moments.

Això em porta de nou a la meva afirmació bàsica: el problema més gran de les xarxes socials no és el contingut en si, sinó la maquinària de distribució dirigida, ja que danya la nostra capacitat per construir models mentals precisos de la nostra pròpia societat. I sense bons models, no podem navegar intel·ligentment pel nostre futur.

És per això que cada cop més gent s’adhereix a teories de conspiració absurdes, dubta de fets científics i mèdics ben provats, perd la confiança en institucions ben respectades i perd la fe en la democràcia. Les xarxes socials fan que cada cop sigui més difícil per a la gent distingir entre uns pocs globus d’heli rars que suren i el món dels objectes sòlids que reflecteixen la nostra realitat comuna.

Personalment, crec que hem d’impulsar la “transparència en l’orientació”, exigint que les plataformes revelin clarament els paràmetres d’orientació de tot el contingut de les xarxes socials perquè els usuaris puguin distingir fàcilment entre el material que es consumeix àmpliament i el material que s’emmagatzema algorítmicament. I la divulgació s’ha de presentar als usuaris en temps real quan participen amb el contingut, permetent a cadascun de nosaltres considerar el context a mesura que formem els nostres models mentals sobre el nostre món.

Actualment, Twitter i Facebook permeten als usuaris accedir a una petita quantitat de dades sobre anuncis orientats. Per obtenir aquesta informació, heu de fer clic diverses vegades, moment en què rebeu un missatge estranyament escàs com ara “Pot ser que vegeu aquest anunci perquè l’empresa X vol arribar a persones que es troben aquí: els Estats Units”. Això no és gaire aclaridor. Necessitem una transparència real, i no només per als anuncis, sinó també per als canals de notícies i tot el contingut compartit desplegat mitjançant algorismes d’orientació.

L’objectiu hauria de ser una informació visual clara que subratlli com de gran o estreta una part del públic està rebent actualment cada contingut de les xarxes socials que apareix a les nostres pantalles. I els usuaris no haurien de fer clic per obtenir aquesta informació; hauria d’aparèixer automàticament quan interaccionen amb el contingut d’alguna manera. Podria ser tan senzill com un gràfic circular que mostri quin percentatge d’una mostra aleatòria del públic en general podria rebre el contingut mitjançant els algorismes que s’utilitzen per desplegar-lo.

Si un material que rebo s’està desplegant en una porció del 2% del públic en general, això m’hauria de permetre generalitzar correctament com s’adapta a la societat en comparació amb el contingut que s’està compartint dins d’una porció del 60%. I si un usuari fa clic al gràfic que indica l’orientació del 2%, se li hauria de presentar dades demogràfiques detallades de com es defineix aquest 2%. L’objectiu no és suprimir el contingut, sinó fer que la maquinària de distribució sigui el més visible possible, permetent a cadascú de nosaltres apreciar quan estem sent deliberadament aïllats en una cambra d’eco definida i quan no ho estem.

Amb la transparència en l’orientació, cadascú de nosaltres hauria de ser capaç de construir un model mental més precís de la nostra societat. Per descomptat, encara podria ressonar amb algun contingut marginal sobre determinats temes, però almenys sabré que aquests sentiments particulars són rars a l’esfera pública. I no em deixaré enganyar pensant que la idea extrema que em va aparèixer al cap ahir a la nit sobre els llangardaixos que dirigeixen la meva cadena de menjar ràpid preferida és un sentiment àmpliament acceptat que es comparteix entre el públic en general.

En altres paraules, les plataformes de xarxes socials encara podrien enviar-me un gran nombre de globus d’heli, i potser agrairia rebre aquests globus, però amb la transparència en l’orientació, no em deixaré enganyar pensant que el món sencer està ple d’heli. O gent llangardaix.

Lluís Rosenberg és pioner en els camps de VR, AR i IA. Fa trenta anys, va desenvolupar el primer sistema de realitat augmentada funcional per a la Força Aèria dels EUA. Després va fundar la primera empresa de realitat virtual Immersion Corporation (1993) i la primera empresa de realitat augmentada Outland Research (2004). Actualment és director general i científic en cap de Unanimous AI, una empresa que amplifica la intel·ligència dels grups humans. Va obtenir el seu doctorat a la Universitat de Stanford, va ser professor a la Universitat Estatal de Califòrnia i ha rebut més de 300 patents pel seu treball en VR, AR i IA.

DataDecisionMakers

Benvingut a la comunitat VentureBeat!

DataDecisionMakers és on els experts, inclosos els tècnics que treballen amb dades, poden compartir coneixements i innovació relacionats amb les dades.

Si voleu llegir idees d’avantguarda i informació actualitzada, bones pràctiques i el futur de la tecnologia de dades i dades, uniu-vos a nosaltres a DataDecisionMakers.

Fins i tot podria considerar aportant un article del teu!

Llegiu més de DataDecisionMakers