Orwellskt typsnitt ska censurera bort ”hat”

”Imagine a world where all hate could be rewritten”. Smaka på den frasen. Låter det lockande att leva i ett samhälle som försöker förverkliga den utopin?

Frasen kommer från en YouTube-film från det svensk-finska IT-företaget Tieto EVRY. De gör reklam för sitt nya typsnitt: Polite Type. Det är ett nedladdningsbart open-source typsnitt som när man använder det automatiskt skriver om eller stryker över (blurrar) ord och fraser som kan såra eller kränka andra människor. Enligt Tieto EVRY är det ”världens första typsnitt som korrigerar kränkande ord och föreslår bättre alternativ”.

Syftet uppges vara att förhindra nätmobbing bland barn och unga. Det har tagits fram tillsammans med genusvetare, diskrimineringsexperter, antirasister och representanter för olika religioner osv. Redan här ringer klockor. Även om syftet är gott, att motverka nätmobbing, är detta ett verktyg som bör stanna som pedagogiskt verktyg för diskussion, anser jag.   

Om språkets värde och naturliga föränderlighet

Det är så många problem med detta initiativ, så det är svårt att veta var man ska börja. Jag hör redan invändningen mot kritiken: ”Jamen detta handlar bara om enkla saker för barn”. Fast det är det inte. Att det ska användas för barn och unga har också implikationer. Men framför allt riskerar detta angreppssätt att försöka mota problem att påverka samhällsutvecklingen synnerligen negativt i förlängningen.

För det första handlar det om funktionen hos ett sådant verktyg. Språket förändras ständigt. Vilka ord som används i mobbing eller nedsättande tal förändras – särskilt snabbt om de censureras eller försöker städas bort för att hindra människor att uttrycka dem. Nya ord, liknelser och uttryck kommer att dyka upp, som censureras bort eller ändras också. Det är en konstant kapplöpning.

Problematiken finns alltid att nedsättande ord ofta är riktiga ord, men som tas ur kontext. Ordet autistisk kan användas nedsättande, men det är också ett ord och diagnos som finns och behöver användas. Andra ord som används som nedsättande, kan användas av personer i vissa kretsar för att beskriva sig själva och för att kommunicera dem emellan. N-ordet är ett sådant exempel. Det görs inte i negativ bemärkelse, utan för att stärka samhörigheten.

Inte heller går det att diskutera sådant som rasism och liknande, om orden för att förklara och beskriva dem, censureras. Detta sker på Facebook redan, att viktiga samhällsdiskussioner stryps. När ordet nazism inte får nämnas eller förklaras, går det heller inte att bekämpa nazism.

Genom att döma ut ord i censurverktyg tar man också bort möjligheten att ”återta” begrepp som vanliga ord efter att de varit nedsättande. Generellt, när allt fler ord bannlyses och kastas på soptippen, blir språket allt fattigare, torftigare och enklare. Det mesta kan tolkas nedsättande, i viss kontext, av vissa individer.

Bild från Twitter när Tieto EVRY gör reklam för sitt typsnitt.

Etiska problem när datorprogram tar över

Tieto EVRY skriver på sin sida att deras verktyg ska utvecklas. Antalet ord och uttryck som censureras ska utökas. Framöver ska också avancerad maskininlärning (att datorer lär sig själva) tillämpas för att verktyget ska kunna analysera och förstå mer avancerad kontext och skilja på olika sammanhang där ord används. Som jag tolkar det, är deras intention att verktygets tillämpningar också ska kunna utökas till andra sammanhang och målgrupper.

Viljan att begränsa och styra människors språk med teknik lyfter en rad etiska frågeställningar. Även om det är ett datorprogram som exekverar, är det människor som bedömer vilka ord som får användas och hur. Vem har det objektivt rätta, som andra ska leva utifrån och som ska tillämpas i stora system? I detta fall uppges att genusvetare och antirasister har påverkat vad som ska godtas och inte, vilket förstås väcker misstankar om politisk slagsida i analysen. Men det är också bara allmänt vanskligt att ansvar förflyttas från människor till ett datorprogram. På sikt kan detta förvrida hela vår syn på ansvarstagande.

Att som användare försöka uttrycka sig och ha ett datorsystem emot sig som tolkar helt fel, den känslan av frustration och maktlöshet har nog flera stött på. Denna maktlöshet är farlig när det byggs upp i ett samhälle. Därför är yttrandefriheten så viktig att värna. Det är en pysventil.

Tekniken förtvinar det mänskliga

Människor är experter på att försöka hitta genvägar, men de löser sällan grundproblemen. Snarare: När man fokuserar på enkla vägar, så tappar man bort det som kunde göra verklig och varaktig positiv skillnad.

När vuxna inte är intresserade eller orkar vara del av sina barns liv, eller snarare inte låter barnen vara del av deras liv så att barnen kan lära av de vuxna, så ska nu detta ansvar flyttas till datorer istället. Både vuxna och barn får genom detta lära sig att problem mellan människor löses genom system utan mänsklig inblandning,

Digitalt fostrade människor kommer i ännu mindre utsträckning än dagens vuxna, vara redo att ta svåra diskussioner, lösa konflikter eller bli sams. De kommer att inte att lära sig att det naturligt existerar många olika åsikter och människor. De kommer inte att lära sig om människans komplexitet, att vi alla har mörka och ljusa delar inom oss, men att vi faktiskt kan påverka oss själva, förändra oss. De kommer inte att lära sig att det är bra att lyssna och försöka förstå människor. Inte heller kommer de att öva sig på att säga ifrån, men också att förlåta. Allt detta kommer döljas i systemen som strömlinjeformar och tar bort komplexiteten.

Säg nej till det totalitära

Språket är något speglar vår civilisations avancemang. Under årtusendens lopp har det utvecklats och nyanserats för att vi ska kunna beskriva och samtala om allt mer komplexa och abstrakta saker. Nu går det bakåt i detta avseende.

Språket ses inte längre som en möjlighet för människan, som en lösning, utan som ett hot. Viljan och trenden att censurera speglar också en sviktande tillit till människan, till våra positiva grundläggande egenskaper; empati, förnuft, viljan att samarbeta och lära nytt. Det är obehagligt och oroväckande.

Att styra språket kommer inte att eliminera de mänskliga beteenden som är mindre bra. Det som förekommer IRL, kommer också att förekomma i skrift.

Tieto EVRY skriver att de med detta vill få till samtal om nätmobbing. Det är bra. Det behöver också barnen vara involverade i. Men detta verktyg bör, enligt mig, stanna som pedagogiskt verktyg för diskussion: ”Hur tolkas det om man säger X? Vad händer om man byter ut detta mot Y?” Låt det även bli en grund för diskussion om auktoritära och totalitära stater och samhällen, om yttrandefrihet och frihet generellt. Läs Orwells 1984 i skolan och diskutera om moraliskt rätt och fel. Om stater och myndigheter ska försöka styra hur människor ska leva, eller till och med avgöra vad som får säga och inte.  

Många är de i historien som tyckt sig sitta på det objektivt rätta och tvingat andra att tillämpa det, för deras eget bästa. Det räcker inte att vilja väl och ta första bästa sätt som ser ut att leda åt rätt håll, och dessutom ser enkelt ut, för att faktiskt lyckas göra något bättre. Min syn på nätmobbing är att vi måste adressera sådana mellanmänskliga problem på annat sätt än genom tvingande anonyma datorsystem eller styrning av språket.