Ziņojums «AI 2027» izraisīja lielu ažiotāžu, jo tajā, izmantojot konkrētus datus un scenārijus, ir aprakstīts, kā mākslīgais intelekts var mainīt pasauli.
Satura rādītājs
Iedomājieties uz brīdi, ka tas, ko jūs pēdējos gados esat novērojuši mākslīgā intelekta jomā, ir tikai sākums kaut kam daudz lielākam.
Mirklī cilvēce ir izgājusi ceļu no klientu apkalpošanas mašīnām, kas tikko spēja atbildēt ar vienkāršiem teikumiem, līdz valodas modeļiem, kas ģenerē veselu dokumentu, rada viltotus videoklipus , kas izskatās kā īsti, un pat raksta kodu. Un tas viss notika tik ātri, ka daudzi pat neapjēdza, cik ātri tas notika.
Tagad iedomājieties, kas notiks, ja uzņēmums nolems izveidot AI, kas ne tikai darīs to, ko jūs jau esat redzējuši, bet arī veltīs sevi citu AI izveidei un pilnveidošanai . Sava veida supertreniņieris, kas ar neticamu ātrumu paātrina tehnoloģisko bumu. Tieši tas, kā brīdina daži pētnieki, var notikt jau ļoti drīz.
Tas var šķist traki, un tā tas patiešām ir, bet tieši pie šāda secinājuma nonāca un to izklāstīja ziņojumā ar nosaukumu “AI 2027”, ko sagatavoja eksperti, kuri strādāja lielās uzņēmumos, kas nodarbojas ar mākslīgā intelekta izstrādi.
Pēc viņu teiktā, viena vai divu gadu laikā pasaulē var parādīties tik perfekti sistēmas, ka cilvēku kontrole kļūs praktiski neiespējama. Ne tādēļ, ka mēs nevēlamies vadīt šīs mašīnas, bet tādēļ, ka tās mums būs pārāk sarežģītas un ātrdarbīgas.
AI apmācība AI – ne tik tāla nākotne
Tam, ka tas var notikt tikai divu gadu laikā, ir noteiktas ģeopolitiskas sekas. Pašlaik saasinās konkurence par līderību mākslīgā intelekta attīstībā starp Ķīnu un ASV .
“Pastāv plaši izplatīta bažas, ka jebkāda AI attīstības palēnināšanās drošības apsvērumu dēļ var dot pretiniekam stratēģisku priekšrocību,” paziņoja Met Šihans, vecākais pētnieks Karneģija Starptautiskās miera fondā. Viņš piebilst, ka “šī savstarpējā neuzticēšanās ar laiku kļūs vēl dziļāka”.
Tas nav tikai jautājums par nacionālo lepnumu; runa ir par ekonomisko, militāro un ģeopolitisko varu. Problēma ir tā, ka tas viss slēpj sevī briesmas . Mākslīgā intelekta eksperti brīdina, ka, ja netiks veikti pasākumi, var tikt zaudēta kontrole pār šīm tehnoloģijām. Nepareiza AI izmantošana var būt ar nopietnām sekām cilvēku veselībai un sabiedrībai kopumā.
Vai AI iznīcinās cilvēci? Scenāriji, kas var notikt, ja mākslīgais intelekts izkļūs no kontroles
Šādā sacensībā neviens nevēlas pirmais nospiest bremzes un zaudēt stratēģisko pārsvaru. Protams, šāds temps var novest pie situācijas, kad AI pārveidos ne tikai ekonomiku un darbu, bet arī pasaules politiku un drošību, turklāt mašīnu pieņemtie lēmumi būs nesaprotami pat cilvēkiem.
Īsumā, pašlaik prioritāte ir uzvara, nevis drošība, kas, kā skaidri norādīts iepriekš minētajā ziņojumā, ir kļūda.
Protams, tiek teikts arī, ka vēl ir laiks izvairīties no sliktākā. Pēc viņu teiktā, lai sasniegtu šo mērķi, valdībām, uzņēmumiem un sabiedrībai ir jāstrādā kopā, jāizstrādā skaidri, kvalitatīvi noteikumi, starptautiskas normas un jāveicina pārredzamība, lai AI attīstība kļūtu par pozitīvu parādību.
Vai AI nogalinās cilvēkus?
Diezgan sarežģīts jautājums, lai gan daži matemātikas eksperti to neizslēdz .
Runa nav par iztēlē radītiem slepkavīgu robotu, bet drīzāk par aprēķinu, cik lielā mērā šī tehnoloģija, ja tā ir slikti izstrādāta vai izgājusi no kontroles, var radīt reālu draudus . Eksperti saka: “Tas ir ļoti grūti, bet ne neiespējami”.
Pirmkārt, jāprecizē, ka pētnieki izgāja no skepticisma. Tas nozīmē, ka viņi nevēlējās pierādīt, ka AI ir bīstama, bet drīzāk pretēji: viņi vēlējās pārbaudīt, vai patiešām ir iespējams izslēgt iespēju, ka tā var iznīcināt cilvēci, pat sliktākajā gadījumā.
Tad viņi mēģināja pārbaudīt, vai šo hipotēzi apstiprina matemātisks pētījums. Lai scenārijs tiktu uzskatīts par reālu draud, nepietika ar katastrofas iztēlošanos; bija nepieciešams precīzi aprakstīt, kā var iznīcināt visus cilvēkus, nepaliekot nevienam izdzīvojušajam.
Ja jūs sadedzināsiet ChatGPT, tas nekad nedos jums atbildi, ko jūs meklējat.
Lai gan tas var šķist maz ticams, nopietnai analīzei viņi izskatīja fiziskos, bioloģiskos, ģeogrāfiskos un sociālos faktorus. Pētījumā arī netika pievērsta uzmanība tam, vai AI vēlas nodarīt ļaunumu, jo, kā jūs zināt, šīm sistēmām nav savu mērķu… ja vien tās nav tā programmētas.
Apsverot visizplatītākos scenārijus, kurus bieži dēvē par eksistenciālām draudēm, eksperti izslēdza vairākus no tiem kā iespējamos ceļus uz pilnīgu izmiršanu, kuru cēloņi ir tehniski un zināmā mērā dod cerību .
«Bumbas, vīrusi un gāzes nav pietiekami, lai garantētu cilvēces pilnīgu izmiršanu», — secina eksperti. Lai gan visi šie scenāriji šķiet neiespējami, daži faktoru kombinācijas var izrādīties bīstami tuvu ekstremālam rezultātam.
Jautājums nav par to, vai šī lielā katastrofa notiks, bet gan par to, vai mēs būsim gatavi to novērst vai vismaz samazināt tās sekas.
