More

    Wat Facebook zou moeten veranderen, volgens zijn klokkenluider |

    Array

    De klokkenluider achter ‘bombshell’-onthullingen die Facebook de afgelopen weken op zijn kop hebben gezet, besteedde een groot deel van de drie uur durende hoorzitting van dinsdag aan het Congres om uit te leggen hoe Facebook zichzelf kon repareren.

    Terwijl de hoorzitting verre van de eerste keer was een Facebook-criticus heeft wetgevers ingelicht, haar voorkennis en expertise in het ontwerpen van algoritmen maakten haar bijzonder effectief. Haar achtergrond als onderdeel van het maatschappelijke integriteitsteam van het bedrijf betekende dat ze goed bekend was met enkele van de grootste problemen op Facebook.

    Tijdens de hoorzitting sprak Haugen in detail over de algoritmen van Facebook en andere interne systemen die de werking ervan hebben belemmerd. pogingen om verkeerde informatie en andere problematische inhoud te vertragen. Ze prees ook de onderzoekers van het bedrijf, noemde ze ‘helden’ en zei dat Facebook verplicht zou moeten worden hun werk openbaar te maken.

    Verwijder algoritmische rangschikking en ga terug naar chronologische feeds

    Een van de meest opvallende aspecten van Haugens getuigenis waren haar expertise, die haar een genuanceerd begrip geeft van hoe algoritmen werken en de vaak onbedoelde gevolgen van het gebruik ervan.

    “Ik hoop dat we zullen bespreken of er zo ’n ding als een veilig algoritme”, zegt senator.

    Hoewel Haugen die vraag nooit rechtstreeks beantwoordde, woog ze wel op de rangschikkingsalgoritmen die de feeds op Facebook en Instagram aandrijven. Ze merkte op dat Facebook’s eigen onderzoek heeft uitgewezen dat “op betrokkenheid gebaseerde ranking op Instagram kinderen in zeer korte tijd kan leiden van zeer onschuldige onderwerpen zoals gezonde recepten… naar anorexia-bevorderende inhoud.”

    Ze heeft ook zei dat de op AI gebaseerde moderatietools van Facebook veel minder effectief waren dan wat het bedrijf publiekelijk heeft geportretteerd. “We hebben uit herhaalde documenten in mijn onthullingen gezien dat de AI-systemen van Facebook slechts een zeer kleine minderheid van aanstootgevende inhoud opvangen”, zei Haugen. “In het beste geval, in het geval van iets als haatzaaien, zullen ze hoogstens 10 tot 20% bereiken.”

    Om dit aan te pakken, zei Haugen dat Facebook zou kunnen overstappen op een chronologische feed waar berichten worden geordend op recentheid, in plaats van op wat het meest waarschijnlijk betrokkenheid oplevert. “Ik ben een groot voorstander van chronologische rangschikking, of ordening op tijd met een klein beetje spamdegradatie, omdat ik denk dat we niet willen dat computers bepalen waar we ons op focussen,” zei Haugen.

    Ze merkte op dat Facebook zich waarschijnlijk tegen een dergelijk plan zou verzetten, omdat inhoud die meer betrokkenheid krijgt, beter is voor hun platform, omdat het ervoor zorgt dat mensen meer posten en reageren.

    “Als ik naar je toe kom en deze dingen zeg, veroordeel ik eigenlijk 10 jaar van mijn eigen werk.” AFP via Getty Images)TOM BRENNER via Getty Images

    Reform Section 230

    In dezelfde geest zei Haugen dat Sectie 230 — de wet van 1996 die bedrijven beschermt tegen aansprakelijkheid voor wat hun gebruikers zeggen en doen op hun platforms – moet worden hervormd “om Facebook verantwoordelijk te maken voor de gevolgen van hun opzettelijke rangschikkingsbeslissingen.” Ze zei dat een dergelijke wet waarschijnlijk “af zal komen van op engagement gebaseerde rankings”, omdat het een te grote aansprakelijkheid voor het bedrijf zou worden.

    Tegelijkertijd waarschuwde ze wetgevers om Facebook niet toe te laten ” hen te misleiden door te geloven dat het veranderen van Sectie 230 alleen voldoende zou zijn om de omvang van de problemen aan te pakken.

    “Door gebruikers gegenereerde inhoud is iets waar bedrijven minder controle over hebben, ze hebben 100% controle over hun algoritmen,” zei Haugen.

    De focus op Sectie 230 is belangrijk omdat wetgevers van beide partijen verschillende wijzigingen hebben voorgesteld om de wet. Tijdens de hoorzitting gaf Blumenthal aan dat hij ook voorstander was van “het verkleinen van deze ingrijpende immuniteit wanneer de algoritmen van platforms illegaal gedrag versterken”. Senator Amy Klobuchar heeft ook voorgesteld een einde te maken aan 230 beschermingsmaatregelen voor verkeerde informatie over vaccins en gezondheid. Ondertussen hebben de Republikeinen geprobeerd om Sectie 230 om heel verschillende redenen te elimineren.

    De viraliteit vertragen

    Evenzo stelde Haugen voor dat Facebook zijn platform zou vertragen met “zachte interventies” die zouden toevoegen kleine stukjes wrijving op het platform. Ze wees op Twitter’s “lees voordat je het deelt”-prompts als het soort maatregel dat de verspreiding van verkeerde informatie kan verminderen.

    “Voor kleine acties zoals die wrijving hoef je geen goede ideeën en slechte ideeën te kiezen,” zei ze . “Ze maken het platform gewoon minder zenuwachtig, minder reactief. En uit intern onderzoek van Facebook blijkt dat elk van die kleine acties desinformatie, haatzaaiende uitlatingen en tot geweld aanzettende inhoud op het platform drastisch vermindert.”

    Facebook heeft deze stappen in het verleden genomen.

    Het bedrijf voerde soortgelijke wijzigingen opnieuw door, minder dan een maand later, in de nasleep van de opstand van 6 januari.

    Huagen zei dat Facebook deze wijzigingen ten onrechte heeft bestempeld als schadelijk voor de vrijheid van meningsuiting, terwijl het bedrijf in feite bezorgd omdat het ‘die groei terug wilde’. Tijdens de hoorzitting zei ze dat Mark Zuckerberg persoonlijk was geïnformeerd over de impact van dergelijke veranderingen. Maar, zei ze, hij gaf prioriteit aan de groei van het platform “boven veranderingen die desinformatie en andere opruiende inhoud aanzienlijk zouden hebben verminderd.”

    Open Facebook’s onderzoek voor mensen buiten het bedrijf

    Toegang tot Facebook’s gegevens zijn de afgelopen weken een hot-button-probleem geworden, omdat onderzoekers van buiten het bedrijf hebben geklaagd dat het bedrijf onafhankelijk onderzoek verstikt. Haugen zei dat het sociale netwerk zou moeten werken aan het beschikbaar maken van zijn eigen interne onderzoek voor het publiek.

    Ze stelde voor dat er een bepaalde periode zou zijn – ze stelde 18 maanden voor – wanneer Facebook in staat is om haar onderzoek geheim houden. Maar dan moet het bedrijf het ook toegankelijk maken voor mensen buiten het bedrijf.

    “Ik geloof in samenwerking met academici en andere onderzoekers dat we privacybewuste manieren kunnen ontwikkelen om radicaal meer gegevens die vandaag beschikbaar zijn, bloot te leggen,” zei Haugen.

    Ze zei dat zo’n groep binnen een agentschap als de Federal Trade Commission “een regelgevend huis zou kunnen bieden waar iemand zoals ik een dienstplicht zou kunnen doen na op een plek als deze te hebben gewerkt.”

    “Op dit moment, de enige mensen ter wereld die zijn opgeleid om deze experimenten te analyseren, om te begrijpen wat er binnen Facebook gebeurt, zijn mensen die zijn opgegroeid binnen Facebook of Pinterest of een ander socialmediabedrijf,” zei ze.

    Belangrijk is. , zou dit “toezichtsorgaan” gescheiden zijn van de door Facebook opgerichte Oversight Board, die Facebook adviseert over specifieke inhoudsbeslissingen. Terwijl Facebook heeft gezegd dat de oprichting van de Oversight Board het bewijs is dat het probeert zichzelf te reguleren, schreef Haugen in voorbereide opmerkingen dat de Oversight Board “zo blind is als het publiek” als het erom gaat echt te weten wat er binnen het bedrijf gebeurt.< /p>

    Het is ook vermeldenswaard dat Haugen zei dat ze gekant was tegen pogingen om Facebook op te breken. Ze zei dat het scheiden van Facebook en Instagram waarschijnlijk zou resulteren in meer adverteerders die massaal naar Instagram zouden trekken, wat de middelen van Facebook zou kunnen uitputten om wijzigingen aan te brengen om zijn platform te verbeteren.

    Wat nu

    Hoewel het onduidelijk is welke , indien aanwezig, van de aanbevelingen van Haugen waar het Congres gevolg aan zal geven, hebben haar onthullingen al de aandacht getrokken van regelgevers.

    Ze beweerde dat Zuckerberg en andere leidinggevenden “beleggers en het publiek hebben misleid over zijn rol in het in stand houden van verkeerde informatie en gewelddadig extremisme met betrekking tot de verkiezingen van 2020 en de opstand van 6 januari”, aldus SEC-dossiers gepubliceerd door 60 Minutes.

    Ondertussen is Facebook doorgegaan met het terugdringen van de beweringen van Haugen. Een week nadat een leidinggevende de wetgevers had verteld dat “dit geen bombshell-onderzoek is”, probeerde het bedrijf Haugen directer in diskrediet te brengen. In een verklaring zei Lena Pietsch, directeur beleidscommunicatie van Facebook, Haugen “werkte minder dan twee jaar voor het bedrijf, had geen directe rapporten, woonde nooit een beslissingspuntvergadering bij met leidinggevenden op C-niveau. We zijn het niet eens met haar karakterisering van de vele problemen waarover ze getuigde.” Pietsch voegde eraan toe dat “het tijd is om standaardregels voor internet te maken.”

    In een verschijning op CNN na de hoorzitting verwees Facebook-vicevoorzitter Monika Bickert naar de onthullingen van Haugen als “gestolen documenten” en zei dat het bedrijf onderzoek was “verkeerd gekarakteriseerd”. Later die avond woog Zuckerberg voor het eerst publiekelijk sinds The Wall Street Journal begon met het publiceren van verhalen op basis van de onthullingen van Haugen (Zuckerberg verwees ooit naar eerdere berichtgeving over de schandalen en klaagde dat een nieuwsartikel zijn draagvleugelboot ten onrechte beschreef als een “elektrische motor”. surfboard.”) In zijn eerste inhoudelijke verklaring zei hij dat “veel van de beweringen nergens op slaan”, en dat “het argument dat we opzettelijk content pushen die mensen boos maakt om winst te maken, zeer onlogisch is.” 

    Het kan echter nog steeds moeilijker worden voor Facebook om Haugen tegen te gaan, vooral als nieuwe documenten openbaar worden.

    Haugen kan ook optreden voor wetgevers in andere landen. Europese wetgevers, van wie velen soortgelijke zorgen hebben geuit als hun Amerikaanse tegenhangers, hebben ook aangegeven met Haugen te willen praten en zelf nieuw onderzoek te willen doen..

    - Advertisement -inloopdouche

    Recent Articles

    douchecabine

    Related Stories

    LAAT EEN REACTIE ACHTER

    Vul alstublieft uw commentaar in!
    Vul hier uw naam in

    Stay on op - Ge the daily news in your inbox

    [tdn_block_newsletter_subscribe input_placeholder="Email address" btn_text="Subscribe" tds_newsletter2-image="730" tds_newsletter2-image_bg_color="#c3ecff" tds_newsletter3-input_bar_display="" tds_newsletter4-image="731" tds_newsletter4-image_bg_color="#fffbcf" tds_newsletter4-btn_bg_color="#f3b700" tds_newsletter4-check_accent="#f3b700" tds_newsletter5-tdicon="tdc-font-fa tdc-font-fa-envelope-o" tds_newsletter5-btn_bg_color="#000000" tds_newsletter5-btn_bg_color_hover="#4db2ec" tds_newsletter5-check_accent="#000000" tds_newsletter6-input_bar_display="row" tds_newsletter6-btn_bg_color="#da1414" tds_newsletter6-check_accent="#da1414" tds_newsletter7-image="732" tds_newsletter7-btn_bg_color="#1c69ad" tds_newsletter7-check_accent="#1c69ad" tds_newsletter7-f_title_font_size="20" tds_newsletter7-f_title_font_line_height="28px" tds_newsletter8-input_bar_display="row" tds_newsletter8-btn_bg_color="#00649e" tds_newsletter8-btn_bg_color_hover="#21709e" tds_newsletter8-check_accent="#00649e" embedded_form_code="YWN0aW9uJTNEJTIybGlzdC1tYW5hZ2UuY29tJTJGc3Vic2NyaWJlJTIy" tds_newsletter="tds_newsletter1" tds_newsletter3-all_border_width="2" tds_newsletter3-all_border_color="#e6e6e6" tdc_css="eyJhbGwiOnsibWFyZ2luLWJvdHRvbSI6IjAiLCJib3JkZXItY29sb3IiOiIjZTZlNmU2IiwiZGlzcGxheSI6IiJ9fQ==" tds_newsletter1-btn_bg_color="#0d42a2" tds_newsletter1-f_btn_font_family="406" tds_newsletter1-f_btn_font_transform="uppercase" tds_newsletter1-f_btn_font_weight="800" tds_newsletter1-f_btn_font_spacing="1" tds_newsletter1-f_input_font_line_height="eyJhbGwiOiIzIiwicG9ydHJhaXQiOiIyLjYiLCJsYW5kc2NhcGUiOiIyLjgifQ==" tds_newsletter1-f_input_font_family="406" tds_newsletter1-f_input_font_size="eyJhbGwiOiIxMyIsImxhbmRzY2FwZSI6IjEyIiwicG9ydHJhaXQiOiIxMSIsInBob25lIjoiMTMifQ==" tds_newsletter1-input_bg_color="#fcfcfc" tds_newsletter1-input_border_size="0" tds_newsletter1-f_btn_font_size="eyJsYW5kc2NhcGUiOiIxMiIsInBvcnRyYWl0IjoiMTEiLCJhbGwiOiIxMyJ9" content_align_horizontal="content-horiz-center"]