Atslēgas līdzņemšanai
- Šķiet, ka mākslīgā intelekta sistēma ar nosaukumu DALL-E2 ir izveidojusi pati savu rakstiskās saziņas sistēmu.
- Daži eksperti saka, ka šķietamā valoda var būt tikai muļķīga.
- Tas ir piemērs tam, cik grūti ir interpretēt progresīvu AI sistēmu rezultātus.
Šķiet, ka mākslīgais intelekts (AI) ir izstrādājis savu valodu, taču daži eksperti šo apgalvojumu vērtē skeptiski.
OpenAI teksta-attēlu AI sistēma DALL-E2, šķiet, ir izveidojusi savu rakstiskās saziņas sistēmu. Tas ir piemērs tam, cik grūti ir interpretēt progresīvu AI sistēmu rezultātus.
"Lielo modeļu izmēra un dziļuma dēļ ir ļoti grūti izskaidrot modeļu uzvedību," e-pasta intervijā Lifewire sacīja Terēza O'Nīla, iMerit dabiskās valodas izpratnes risinājumu arhitektūras direktore. "Tas ir viens no galvenajiem izaicinājumiem un dažos gadījumos arī ētiskas problēmas ar arvien spēcīgākiem modeļiem. Ja mēs nevaram izskaidrot, kāpēc viņi uzvedas tā, vai mēs varam paredzēt viņu uzvedību vai saglabāt to saskaņā ar mūsu normām un cerībām?"
AI tērzēšana
Datorzinātņu students Džannis Darass nesen atzīmēja, ka sistēma DALLE-2, kas veido attēlus, pamatojoties uz teksta ievadi, noteiktos apstākļos atgrieztu muļķīgus vārdus kā tekstu.
"Zināms DALLE-2 ierobežojums ir tas, ka tas cīnās ar tekstu, " viņš rakstīja rakstā, kas publicēts pirmsdrukas serverī Arxiv. "Piemēram, teksta uzvednes, piemēram: "Vārda lidmašīna attēls" bieži noved pie ģenerētiem attēliem, kuros ir attēlots rupjš teksts."
Bet, rakstīja Daras, aiz šķietamās muļķības var būt kāda metode. "Mēs atklājam, ka šis teksts nav nejaušs, bet gan atklāj slēptu vārdu krājumu, ko modelis, šķiet, ir attīstījis iekšēji," viņš turpināja. "Piemēram, kad modelis tiek barots ar šo muļķīgo tekstu, modelis bieži ražo lidmašīnas."
Savā tvītā Daras norādīja, ka, kad DALLE-2 tika lūgts subtitrēt divu lauksaimnieku sarunai, tas liecināja, ka viņi runā, bet runas burbuļi bija piepildīti ar tādiem vārdiem, kas izskatījās pēc muļķīgiem vārdiem. Bet Daras atklāja, ka šiem vārdiem AI ir sava nozīme: zemnieki runāja par dārzeņiem un putniem.
Nicola Davolio, tehnoloģiju uzņēmuma Hupry izpilddirektore, kas strādā ar AI, e-pasta intervijā Lifewire paskaidroja, ka valoda ir balstīta uz simboliem, kurus DALL-E2 sistēma ir iemācījusies saistīt ar noteiktiem jēdzieniem. Piemēram, simbols “suns” var būt saistīts ar suņa attēlu, savukārt simbols “kaķis” var būt saistīts ar kaķa attēlu. DALL-E2 ir izveidojis savu valodu, jo tas ļauj efektīvāk sazināties ar citām AI sistēmām.
Ar tādām mīklām kā šķietami apslēptais DALL-E2 vārdu krājums ir jautri cīnīties, taču tās izceļ arī smagākus jautājumus…
"Valoda sastāv no simboliem, kas izskatās kā ēģiptiešu hieroglifi, un šķiet, ka tiem nav īpašas nozīmes," viņš piebilda. "Simboli, iespējams, ir bezjēdzīgi cilvēkiem, taču tie ir pilnīgi saprotami AI sistēmai, jo tā ir apmācīta miljoniem attēlu."
Pētnieki uzskata, ka mākslīgā intelekta sistēma radīja valodu, lai palīdzētu tai labāk izprast attēlu un vārdu attiecības, sacīja Davolio.
"Viņi nav pārliecināti, kāpēc AI sistēma izstrādāja savu valodu, taču viņiem ir aizdomas, ka tas varētu būt saistīts ar to, kā tā mācījās radīt attēlus," piebilda Davolio. "Iespējams, AI sistēma izstrādāja savu valodu, lai padarītu saziņu starp dažādām tīkla daļām efektīvāku."
AI noslēpumi
DALL-E2 nav vienīgā AI sistēma, kas ir izstrādājusi savu iekšējo valodu, norādīja Davolio. 2017. gadā Google sistēma AutoML izveidoja jaunu neironu arhitektūras veidu, ko sauc par “bērnu tīklu”, pēc tam, kad bija jālemj, kā vislabāk izpildīt doto uzdevumu. Šo bērnu tīklu nevarēja interpretēt tā veidotāji.
"Šie piemēri ir tikai daži gadījumi, kad AI sistēmas ir izstrādājušas veidus, kā rīkoties, ko mēs nevaram izskaidrot," sacīja Davolio. "Tā ir jauna parādība, kas ir vienlīdz aizraujoša un satraucoša. Tā kā AI sistēmas kļūst sarežģītākas un autonomākas, mēs arvien vairāk varam nonākt situācijā, kad nesaprotam, kā tās darbojas."
O'Nīla teica, ka viņa nedomā, ka DALL-E2 veido savu valodu. Tā vietā viņa teica, ka šķietamā lingvistiskā izgudrojuma iemesls, iespējams, ir nedaudz prozaiskāks.
"Viens ticams izskaidrojums ir nejauša iespēja - tik lielā modelī varētu attiekties nedaudz no Mērfija likuma: ja var notikt dīvaina lieta, tas, iespējams, notiks," piebilda O'Nīls. Vēl viena iespēja, ko pētnieku analītiķis Bendžamins Hiltons ierosināja Twitter pavedienā, apspriežot Daras atklājumus, ir tāda, ka frāzes "apoploe vesrreaitais" forma atdarina dzīvnieka latīņu vārda formu. Tātad sistēma ir radījusi jaunu Aves secību, piebilda O'Nīls.
"Ar tādām mīklām kā šķietami apslēptais DALL-E2 vārdu krājums ir jautri cīnīties, taču tās izceļ arī nopietnākus jautājumus par risku, neobjektivitāti un ētiku lielo modeļu bieži vien neizdibināmajā uzvedībā," sacīja O'Nīls..
