Atslēgas līdzņemšanai
- Jauni pētījumi liecina, ka, iespējams, nav iespējas kontrolēt īpaši viedo mākslīgo intelektu.
- Kā žurnālā tiek apgalvots, ka AI kontrolei būtu nepieciešamas daudz progresīvākas tehnoloģijas, nekā mums pašlaik ir.
- Daži eksperti saka, ka patiesi inteliģents AI var būt klāt ātrāk, nekā mēs domājam.
Ja cilvēki kādreiz attīstīs īpaši gudru mākslīgo intelektu, iespējams, ka to nevarēs kontrolēt, norāda zinātnieki.
AI jau sen tiek reklamēts kā līdzeklis pret visām cilvēces problēmām vai Terminatora stila apokalipse. Tomēr līdz šim AI nav pietuvojies pat cilvēka līmeņa intelektam. Saskaņā ar neseno rakstu, kas publicēts žurnālā Journal of Artificial Intelligence Research.
"Īpaši inteliģenta mašīna, kas kontrolē pasauli, izklausās pēc zinātniskās fantastikas," ziņu izlaidumā sacīja Manuels Sebrians, viens no dokumenta līdzautoriem.
"Bet jau ir mašīnas, kas atsevišķus svarīgus uzdevumus veic neatkarīgi, programmētājiem pilnībā neizprotot, kā viņi to apguvuši. Tāpēc rodas jautājums, vai tas kādā brīdī varētu kļūt nekontrolējams un cilvēcei bīstams."
Drīz būs superdators jūsu tuvumā
Žurnāls apgalvo, ka AI kontrolei būtu nepieciešamas daudz progresīvākas tehnoloģijas, nekā mums pašlaik ir.
Savā pētījumā komanda izstrādāja teorētisku ierobežošanas algoritmu, kas nodrošina, ka superinteliģents mākslīgais intelekts nekādā gadījumā nevar kaitēt cilvēkiem, vispirms simulējot mākslīgā intelekta uzvedību un apturot to, ja tas tiek uzskatīts par kaitīgu. Taču autori atklāja, ka šādu algoritmu nevar izveidot.
"Ja jūs sadalīsit problēmu līdz teorētiskās datorzinātnes pamatnoteikumiem, izrādās, ka algoritms, kas pavēlētu AI neiznīcināt pasauli, varētu netīšām apturēt savas darbības." Ijads Rahvans, Cilvēku un mašīnu centra direktors Maksa Planka Cilvēka attīstības institūtā Vācijā, sacīja ziņu izlaidumā.
"Ja tas notiktu, jūs nezinātu, vai ierobežošanas algoritms joprojām analizē draudus, vai arī tas ir apstājies, lai saturētu kaitīgo mākslīgo intelektu. Faktiski tas padara ierobežošanas algoritmu nelietojamu."
Patiesi inteliģents AI var būt šeit ātrāk, nekā mēs domājam, apgalvo Mihals Vazirgjannis, École Polytechnique Francijā datorzinātņu profesors. "AI ir cilvēka artefakts, taču tas ātri kļūst par autonomu vienību," viņš teica e-pastā Lifewire.
"Kritiskais punkts būs, ja/kad notiek singularitāte (t.i., kad mākslīgā intelekta aģentiem būs apziņa kā vienība), un tāpēc viņi pretendēs uz neatkarību, paškontroli un iespējamo dominējošo stāvokli."
Singularitāte nāk
Vazirgiannis nav vienīgais, kurš prognozē super AI nenovēršamo ierašanos. Patiesiem mākslīgā intelekta draudiem ticīgajiem patīk runāt par "singularitāti", kas, kā skaidro Vazirgjannis, ir punkts, ka AI aizstās cilvēka intelektu un "ka AI algoritmi, iespējams, sapratīs savu eksistenci un sāks izturēties savtīgi un sadarboties."
Saskaņā ar Google inženierzinātņu direktora Reja Kurcveila teikto, singularitāte parādīsies pirms 21. gadsimta vidus. "2029. gads ir konsekventais datums, kuru esmu paredzējis, kad mākslīgais intelekts izturēs derīgu Tjūringa testu un tādējādi sasniegs cilvēka intelekta līmeni," Futurism sacīja Kurcveils.
Ja mēs paši nevaram uzkopt savu māju, kāds kods mums ir jāprasa AI ievērot?
"Esmu noteicis 2045. gadu 'singularitātei', kas ir tad, kad mēs pavairosim savu efektīvo inteliģenci miljardu reižu, apvienojoties ar mūsu radīto inteliģenci."
Bet ne visi AI eksperti uzskata, ka viedās mašīnas ir drauds. AI, kas tiek izstrādāta, visticamāk, būs noderīgs zāļu izstrādei un neuzrāda nekādu īstu intelektu, AI konsultants Emanuels Maggiori sacīja e-pasta intervijā. "Ap AI ir liela ažiotāža, kas liek šķist, ka tas ir patiešām revolucionārs," viņš piebilda. "Pašreizējās AI sistēmas nav tik precīzas, kā tiek publicētas, un tās pieļauj kļūdas, kuras cilvēks nekad nepieļautu."
Pārņemiet AI kontroli, tagad
Var būt sarežģīti regulēt AI, lai tas neizkļūtu no mūsu kontroles, saka Vazirgiannis. Uzņēmumi, nevis valdības, kontrolē resursus, kas nodrošina AI. "Pat paši algoritmi parasti tiek ražoti un izvietoti šo lielo un jaudīgo, parasti daudznacionālo vienību pētniecības laboratorijās," viņš teica.
"Tāpēc ir skaidrs, ka štatu valdības arvien mazāk kontrolē resursus, kas nepieciešami mākslīgā intelekta kontrolei."
Daži eksperti saka, ka, lai kontrolētu superinteliģento AI, cilvēkiem būs jāpārvalda skaitļošanas resursi un elektroenerģija. "Zinātniskās fantastikas filmas, piemēram, The Matrix, sniedz pareģojumus par distopisku nākotni, kurā AI izmanto cilvēkus kā bioenerģijas avotus," sacīja Vazirgiannis.
"Lai gan nav iespējams attālināti, cilvēcei ir jāpārliecinās, ka ir pietiekama kontrole pār skaitļošanas resursiem (t.i., datoru kopām, GPU, superdatoriem, tīkliem/komunikācijām) un, protams, spēkstacijām, kas nodrošina elektrību, kas ir absolūti kaitē AI funkcijai."
Problēma ar AI kontroli ir tā, ka pētnieki ne vienmēr saprot, kā šādas sistēmas pieņem lēmumus, e-pasta intervijā sacīja datu zinātnes programmatūras uzņēmuma KNIME līdzdibinātājs un izpilddirektors Maikls Bertolds. "Ja mēs to nedarīsim, kā mēs varam to "kontrolēt"?"
Viņš piebilda: "Mēs nesaprotam, kad tiek pieņemts pilnīgi atšķirīgs lēmums, pamatojoties uz mums neatbilstošiem datiem."
Vienīgais veids, kā kontrolēt mākslīgā intelekta lietošanas risku, ir nodrošināt, ka tas tiek izmantots tikai tad, ja šis risks ir pārvaldāms, sacīja Bertolds. "Izsakoties citādi, divi ekstrēmi piemēri. Nenovietojiet AI vadīt savu atomelektrostaciju, kur nelielai kļūdai var būt katastrofālas blakusparādības," viņš piebilda.
"No otras puses, mākslīgais intelekts paredz, ka istabas temperatūra ir nedaudz jāpaaugstina vai jāpazemina, iespējams, ir tā niecīgā riska vērts, lai nodrošinātu dzīves komfortu."
Ja mēs nevaram kontrolēt mākslīgo intelektu, labāk būtu iemācīt tai izturēties, e-pasta intervijā sacīja bijušais NASA datorinženieris Pīters Skots. "Galu galā mēs nevaram nodrošināt mākslīgā intelekta vadāmību tāpat kā mēs varam nodrošināt mūsu bērnu kontroli," viņš teica.
"Mēs viņus audzinām pareizi un ceram uz labāko; līdz šim viņi nav iznīcinājuši pasauli. Lai tos labi izaudzinātu, mums ir vajadzīga labāka izpratne par ētiku; ja mēs paši nevaram sakopt savu māju, kas kods mums ir jālūdz AI sekot?"
Bet visas cerības nav zaudētas attiecībā uz cilvēci, saka AI pētnieks Jonatans Vekslers, OrCam pētniecības un attīstības viceprezidents. "Lai gan sasniegumi patiešām ir iespaidīgi, mana personīgā pārliecība ir tāda, ka cilvēka intelektu nevajadzētu novērtēt par zemu," viņš teica e-pasta intervijā. "Mēs kā suga esam radījuši diezgan pārsteidzošas lietas, tostarp pašu AI."
Turpinās arvien viedāka AI meklēšana. Taču labāk būtu apsvērt, kā mēs kontrolējam savus darbus, pirms nav par vēlu.
