Atslēgas līdzņemšanai
- Pētnieki ir izveidojuši paņēmienus, kas ļauj lietotājiem ranžēt mašīnmācīšanās modeļa darbības rezultātus.
- Eksperti saka, ka šī metode parāda, ka mašīnas panāk cilvēku domāšanas spējas.
- AI sasniegumi varētu paātrināt datoru spēju saprast valodu un mainīt AI un cilvēku mijiedarbības veidu.
Jauns paņēmiens, kas mēra mākslīgā intelekta (AI) spriešanas spējas, parāda, ka mašīnas panāk cilvēku domāšanas spēju, saka eksperti.
Pētnieki MIT un IBM Research ir izveidojuši metodi, kas ļauj lietotājam ranžēt mašīnmācīšanās modeļa darbības rezultātus. Viņu tehnika, ko sauc par kopīgu interesi, ietver metriku, kas salīdzina, cik labi modeļa domāšana atbilst cilvēku domāšanai.
"Mūsdienās mākslīgais intelekts spēj sasniegt (un dažos gadījumos pat labāk) cilvēka veiktspēju, veicot konkrētus uzdevumus, tostarp attēlu atpazīšanu un valodas izpratni," saka Pīters Buteners, mašīnmācības un MI komunikāciju inženierzinātņu direktors. uzņēmums Sinch pastāstīja Lifewire e-pasta intervijā. "Izmantojot dabiskās valodas apstrādi (NLP), AI sistēmas var interpretēt, rakstīt un runāt valodās, kā arī cilvēkiem, un AI var pat pielāgot savu dialektu un toni, lai tas atbilstu saviem vienaudžiem."
Mākslīgie viedierīces
AI bieži rada rezultātus, nepaskaidrojot, kāpēc šie lēmumi ir pareizi. Un rīki, kas palīdz ekspertiem izprast modeļa argumentāciju, bieži vien sniedz tikai ieskatu, tikai vienu piemēru vienlaikus. AI parasti tiek apmācīts, izmantojot miljoniem datu ievades, tāpēc cilvēkam ir grūti novērtēt pietiekami daudz lēmumu, lai noteiktu modeļus.
Nesenā rakstā pētnieki teica, ka kopīga interese var palīdzēt lietotājam atklāt tendences modeļa lēmumu pieņemšanā. Un šie ieskati var ļaut lietotājam izlemt, vai modelis ir gatavs izvietošanai.
“Izstrādājot kopīgu interesi, mūsu mērķis ir palielināt šo analīzes procesu, lai jūs varētu globālākā līmenī saprast, kāda ir jūsu modeļa uzvedība,” Angie Boggust, darba līdzautore., teikts ziņu izlaidumā.
Shared Interest izmanto paņēmienu, kas parāda, kā mašīnmācības modelis pieņēma konkrētu lēmumu, kas pazīstams kā pamanāmības metodes. Ja modelis klasificē attēlus, pamanāmības metodes izceļ attēla jomas, kas ir svarīgas modelim, pieņemot lēmumu. Shared Interest darbojas, salīdzinot pamanāmības metodes ar cilvēku ģenerētām anotācijām.
Pētnieki izmantoja kopīgu interesi, lai palīdzētu dermatologam noteikt, vai viņam vajadzētu uzticēties mašīnmācības modelim, kas izstrādāts, lai palīdzētu diagnosticēt vēzi no ādas bojājumu fotoattēliem. Kopīga interese ļāva dermatologam ātri redzēt modeļa pareizo un nepareizo prognožu piemērus. Dermatologs nolēma, ka nevar uzticēties modelim, jo tas pārāk daudz prognozēja, pamatojoties uz attēla artefaktiem, nevis faktiskiem bojājumiem.
“Vērtība ir tāda, ka, izmantojot kopīgu interesi, mēs varam redzēt, ka šie modeļi parādās mūsu modeļa uzvedībā. Apmēram pusstundas laikā dermatologs varēja izlemt, vai modelim uzticēties vai nē un vai to izmantot,”sacīja Boggusts.
Modeļa lēmuma pamatojums ir svarīgs gan mašīnmācības pētniekam, gan lēmumu pieņēmējam.
Progresa mērīšana
MIT pētnieku darbs varētu būt nozīmīgs solis uz priekšu mākslīgā intelekta virzībā uz cilvēka līmeņa intelektu, sacīja Bens Hagags, uzņēmuma Darrow, kas izmanto mašīnmācīšanās algoritmus, pētniecības vadītājs, to teica Lifewire e-pasta intervijā..
“Modeļa lēmuma pamatojums ir svarīgs gan mašīnmācības pētniekam, gan lēmumu pieņēmējam,” sacīja Hagags. "Pirmais vēlas saprast, cik labs ir modelis un kā to var uzlabot, turpretim otrais vēlas radīt uzticības sajūtu modelim, tāpēc viņiem ir jāsaprot, kāpēc šis rezultāts tika prognozēts."
Bet Hagags brīdināja, ka MIT pētījums ir balstīts uz pieņēmumu, ka mēs saprotam vai varam anotēt cilvēka izpratni vai cilvēka prātojumu.
“Tomēr pastāv iespēja, ka tas var nebūt precīzi, tāpēc ir nepieciešams vairāk strādāt, lai izprastu cilvēka lēmumu pieņemšanu,” piebilda Hagags.
AI sasniegumi varētu paātrināt datoru spēju saprast valodu un mainīt AI un cilvēku mijiedarbības veidu, sacīja Buteneers. Tērzēšanas roboti vienlaikus var saprast simtiem valodu, un AI palīgi var skenēt teksta daļas, lai meklētu atbildes uz jautājumiem vai pārkāpumiem.
“Daži algoritmi pat var noteikt, kad ziņojumi ir krāpnieciski, un tas var palīdzēt uzņēmumiem un patērētājiem izskaust surogātpasta ziņojumus,” piebilda Buteneers.
Bet, sacīja Buteneers, mākslīgais intelekts joprojām pieļauj dažas kļūdas, kuras cilvēki nekad nepieļautu. "Lai gan daži uztraucas, ka mākslīgais intelekts aizstās cilvēku darbu, patiesībā mums vienmēr būs vajadzīgi cilvēki, kas strādā kopā ar AI robotiem, lai palīdzētu tos kontrolēt un novērstu šīs kļūdas, vienlaikus saglabājot cilvēcisku pieskārienu biznesā," viņš piebilda.
