Atslēgas līdzņemšanai
- AI un mašīnmācīšanās algoritmi vēro cilvēku uzvedību un var iemācīties ar to manipulēt, saka eksperti.
- Pētnieki nesen izveidoja veidu, kā atrast un izmantot ievainojamības veidus, kā cilvēki izdara izvēli, izmantojot AI.
- Šobrīd vismodernākais sociālo mediju algoritms ir TikTok, saka kāds novērotājs.
Mākslīgais intelekts (AI) un mašīnmācīšanās algoritmi arvien vairāk mācās, kā ietekmēt lietotāju uzvedību, norāda eksperti.
Austrālijas nacionālās zinātnes aģentūras pētnieki nesen radīja veidu, kā atrast un izmantot ievainojamības veidus, kā cilvēki izvēlas, izmantojot AI. Jaunākie pētījumi ir tikai viens no AI vadītu sistēmu vilnis, kas izstrādātas, lai manipulētu ar cilvēka lēmumu pieņemšanu.
"Nav gala daudzajiem veidiem, kā AI jau ietekmē uzvedību," Kentaro Toyama, Mičiganas Universitātes Informācijas skolas profesors un grāmatas Geek Heresy: Rescuing Social Change from the Cult of Technology autors., teikts e-pasta intervijā.
"Patiesībā, ja kādreiz esat veicis Google meklēšanu un sekojis kādai saitei, jūs ietekmēja mākslīgā intelekta sistēma, kas uzminēja jūsu intereses un sniedza rezultātus, kas jums bija visatbilstošākie."
AI pret cilvēkiem
Austrālijas pētījumā, kas publicēts nesenā rakstā, cilvēki dažādos eksperimentos spēlēja spēles pret datoru. Pirmajā eksperimentā dalībnieki noklikšķināja uz sarkanas vai zilas krāsas kastēm, lai laimētu naudu.
AI bija veiksmīga aptuveni 70% gadījumu, apgūstot dalībnieka izvēles modeļus un virzot viņus uz konkrētu izvēli.
Citā eksperimentā dalībnieki skatījās uz ekrānu un nospieda pogu, kad viņiem tika parādīts konkrēts simbols, vai arī nenospieda to, kad tika piedāvāts cits simbols. AI iemācījās pārkārtot simbolus, tāpēc dalībnieki pieļāva vairāk kļūdu.
Pētnieki secināja, ka eksperimentu rezultāts bija tāds, ka AI mācījās no dalībnieku atbildēm. Pēc tam iekārta identificēja un mērķēja uz ievainojamību cilvēku lēmumu pieņemšanā. Faktiski AI varētu manipulēt dalībniekus, lai viņi veiktu noteiktas darbības.
Fakts, ka AI vai mašīnmācība var manipulēt ar cilvēkiem, nav nekāds pārsteigums, saka novērotāji.
"AI katru dienu ietekmē mūsu uzvedību," e-pasta intervijā sacīja Tamāra Švarca, Pensilvānijas Jorkas koledžas kiberdrošības un biznesa administrācijas docente.
"Mēs visu laiku dzirdam par algoritmiem sociālo mediju lietojumprogrammās, piemēram, Facebook vai Twitter. Šie algoritmi pievērš mūsu uzmanību saistītajam saturam un rada "atbalss kameras" efektu, kas savukārt ietekmē mūsu uzvedību."
TikTok skatās
Šobrīd vismodernākais sociālo mediju algoritms ir TikTok, sacīja Švarcs. Lietojumprogramma analizē, kas jūs interesē, cik ilgi jūs kaut ko skatāties un cik ātri kaut ko izlaižat, un pēc tam uzlabo piedāvājumu, lai jūs turpinātu skatīties.
"TikTok rada daudz lielāku atkarību nekā citas platformas, pateicoties šim AI algoritmam, kas saprot, kas jums patīk, kā jūs mācāties un kā izvēlaties informāciju," viņa piebilda. "Mēs to zinām, jo vidējais laiks, ko lietotāji pavada vietnē TikTok, ir 52 minūtes."
Mākslīgā intelekta manipulācijām ar cilvēka uzvedību varētu būt pozitīvs pielietojums, e-pasta intervijā apgalvoja AI uzņēmuma Pathmind izpilddirektors Kriss Nikolsons. Sabiedrības veselības aģentūras, piemēram, varētu izmantot AI, lai mudinātu cilvēkus pieņemt labākus lēmumus.
Tomēr sociālie mediji, videospēļu veidotāji, reklāmdevēji un autoritāri režīmi meklē veidus, kā mudināt cilvēkus pieņemt lēmumus, kas nav viņu interesēs, un tas dos viņiem jaunus rīkus, lai to izdarītu. viņš piebilda.
Ētiskās problēmas, kas saistītas ar mākslīgā intelekta uzvedību ietekmēšanu, bieži vien ir zināmas, sacīja Tojama. AI nodrošina mērķtiecīgu reklāmu, kurā var izmantot individuālās preferences un vājās vietas.
"Piemēram, mākslīgā intelekta sistēma var identificēt cilvēkus, kuri cenšas atmest smēķēšanu, un papildināt viņus ar vilinošām cigarešu reklāmām," viņš piebilda.
Ne visi piekrīt, ka mākslīgā intelekta manipulācijas ar cilvēka uzvedību ir problemātiskas. Gan klasiskā psiholoģija, gan mākslīgais intelekts novēro datus, e-pasta intervijā norādīja Stīvensa Mākslīgā intelekta institūta direktors Džeisons J. Korso.
"Cilvēku zinātnieki, iespējams, labāk spēj vispārināt novērojumus un izstrādāt teorijas par cilvēka uzvedību, kas varētu būt plašāk piemērojamas, turpretim mākslīgā intelekta modeļi būtu piemērotāki, lai identificētu problēmas specifiskas nianses," sacīja Korso.
"No ētiskā viedokļa es neredzu atšķirību starp šiem."
