Atslēgas līdzņemšanai
- Algoritmiskā novirze ir kaitīga pusaudžiem, kuri daudz laika pavada internetā, norāda eksperti.
- Twitter lietotāji nesen saskārās ar problēmu, kuras dēļ melnādainas sejas tika izmestas par labu b altajām.
- Pētnieki saka, ka pusaudžu smadzenes, kas attīstās, var būt īpaši jutīgas pret algoritmisko aizspriedumu kaitīgo ietekmi.
Aizspriedumi, kas saistīti ar dažām tehnoloģijām, kas pazīstami kā algoritmiskā novirze, var būt kaitīgi daudzām grupām, taču eksperti saka, ka tas ir īpaši kaitīgs pusaudžiem.
Algoritmiskā novirze, kad datorsistēmas uzrāda aizspriedumus, ir pieaugoša problēma. Twitter lietotāji nesen atrada platformas neobjektivitātes piemēru, kad attēlu noteikšanas algoritms, kas apgriež fotoattēlus, izgrieza melnās sejas par labu b altajām. Uzņēmums atvainojās par problēmu, bet vēl nav izlaidis labojumu. Tas ir piemērs neobjektivitātei, ar ko saskaras pusaudži, apmeklējot internetu, un to viņi dara vairāk nekā jebkura cita vecuma grupa, norāda eksperti.
"Lielākā daļa pusaudžu nezina, ka sociālo mediju uzņēmumi ir ieviesuši tos, lai reklamētu konkrētu saturu, kas, viņuprāt, patiks lietotājiem, [lai liktu viņiem palikt platformā pēc iespējas ilgāk," saka Dr. Mai- Li Nguyen Steers, Duquesne Universitātes Māsu skolas docente, kas pēta sociālo mediju lietošanu pusaudžu/koledžu studentu vidū, teica e-pasta intervijā.
"Pat ja ir zināms apziņas līmenis par algoritmu, nepietiekama atzīmju Patīk un komentāru trūkums joprojām ir spēcīgs un var ietekmēt pusaudžu pašcieņu," piebilda Stērss.
Smadzeņu attīstība
Algoritmiskā novirze var ietekmēt pusaudžus neparedzētā veidā, jo viņu prefrontālā garoza joprojām attīstās, Mikaela Pisani, Rootstrap galvenā datu zinātniece, paskaidroja e-pasta intervijā.
Ietekme, ka nesaņem pietiekami daudz atzīmju Patīk un komentāru, joprojām ir spēcīga un var ietekmēt pusaudžu pašcieņu.
"Tīņi ir īpaši neaizsargāti pret "Sociālās fabrikas" fenomenu, kur algoritmi tiešsaistes platformās veido sabiedrības kopas, izraisot trauksmi un depresiju, ja netiek apmierinātas pusaudžu sociālās apstiprināšanas vajadzības," sacīja Pisani. "Algoritmi tiek vienkāršoti, pamatojoties uz iepriekšējiem nepilnīgiem datiem, kas noved pie stereotipu pārmērīgas reprezentācijas uz niansētāku pieeju identitātes veidošanai rēķina.
"Raugoties no plašāka viedokļa, mums kā sabiedrībai ir arī jāšaubās, vai mēs vēlamies algoritmus, kas veido mūsu pusaudžu ceļu uz pieaugušo vecumu, un vai šī sistēma pat atbalsta, nevis apslāpē individuālo personīgo izaugsmi?"
Šo problēmu dēļ pieaug nepieciešamība paturēt prātā pusaudžus, izstrādājot algoritmus, saka eksperti.
"Pamatojoties uz attīstības speciālistu, datu zinātnieku un jaunatnes aizstāvju ieguldījumu, 21. gadsimta politikas saistībā ar datu privātumu un algoritmisko izstrādi varētu tikt veidotas arī, ņemot vērā pusaudžu īpašās vajadzības." Doktore Avriela Epsa-Dārlinga Hārvardas students, nesen rakstīja. "Ja mēs tā vietā turpināsim mazināt vai ignorēt veidus, kā pusaudži ir neaizsargāti pret algoritmisku rasismu, kaitējums, visticamāk, atbalsosies nākamajās paaudzēs."
Neobjektivitātes apkarošana
Kamēr nav risinājums, daži pētnieki cenšas atrast veidus, kā mazināt neobjektīvu algoritmu radīto kaitējumu jauniešiem.
"Intervences ir vērstas uz to, lai tīņi atpazītu, ka viņu sociālo mediju modeļi negatīvi ietekmē viņu garīgo veselību, un mēģina izstrādāt stratēģijas, lai to mazinātu (piemēram, samazinātu sociālo mediju izmantošanu), " sacīja Stērss.
"Daži no mūsu intervētajiem koledžas studentiem ir norādījuši, ka jūtas spiesti radīt saturu, lai tas būtu "atbilstošs", pat ja viņi nevēlas iziet vai publicēt ziņas," viņa turpināja. "Tomēr viņi uzskata, ka viņiem ir jāģenerē saturs, lai uzturētu sakarus ar saviem sekotājiem vai draugiem."
Galīgā atbilde varētu būt cilvēku aizspriedumu noņemšana no datoriem. Taču, tā kā programmētāji ir tikai cilvēki, tas ir grūts izaicinājums, saka eksperti.
Viens no iespējamiem risinājumiem ir izstrādāt datorus, kas ir decentralizēti un ieprogrammēti, lai aizmirstu apgūtās lietas, saka Džons Suits, robotikas uzņēmuma KODA galvenais tehnoloģiju vadītājs.
"Izmantojot decentralizētu tīklu, dati un šo datu analīze tiek apkopoti un analizēti no vairākiem punktiem," e-pasta intervijā sacīja Suits. “Dati tiek vākti un apstrādāti nevis no viena AI prāta apstrādes tā algoritma robežās, bet simtiem vai pat tūkstošiem.
"Kad šie dati tiek vākti un analizēti, vecie "secinājumi" vai lieki dati tiek aizmirsti. Izmantojot šo sistēmu, algoritms, kas, iespējams, ir sācies ar novirzi, galu galā labos un aizstās šo novirzi, ja tas izrādīsies nepareizs."
Lai gan aizspriedumi var būt sena problēma, var būt veidi, kā ar to cīnīties, vismaz tiešsaistē. Pirmais solis ir tādu datoru izstrāde, kas izkliedē mūsu aizspriedumus.
