Дар солҳои 1960-ум барномае бо номи ELIZA олимонро бо қобилияти худ барои такрор кардани вокунишҳои монанд ба инсон ба ҳайрат овард. Он сода ва бо қоидаҳои муқарраршуда идорашаванда буд, аммо пешгузаштаи чатботҳое гардид, ки мо имрӯз медонем. Ду даҳсола пас, шабакаҳои нейронии сунъӣ пайдо шуданд. Ин шабакаҳо, ки дар асоси сохтори мағзи сари инсон тарҳрезӣ шудаанд, ба мошинҳо малакаҳои нав, аз қабили фаҳмидани нозукиҳои забон ва шинохти тасвирҳоро доданд. Аммо, маълумоти маҳдуди омӯзишӣ ва қудрати нокифояи ҳисоббарорӣ монеи пешрафти воқеии онҳо дар он замон шуданд. Ҷолиб он аст, ки ин ду захира (ҳаҷми додаҳо ва тавоноии компютерҳо) ҳар сол дучанд гашта, роҳро барои мавҷи сеюми зеҳни сунъӣ дар қарни ХХI фароҳам оварданд.

Имрӯзҳо дар сатҳҳои гуногун, аз ҷумла давлатӣ, илму фарҳанг, рӯзномаҳою суҳбатҳои кӯчагӣ ва ҳатто дар атрофи дастархони оилавӣ мавзуи зеҳни сунъӣ (ЗС) дар мадди аввал меистад. Болоравии технологияи муосир ва инкишофи зеҳни сунъӣ саволҳои бисёреро ба миён овардааст. Яке мегӯяд, ки ЗС ба инсон дастёр мешавад ва дар бартараф намудани як қатор мушкилоти зиндагӣ кумаки беминнат мекунад. Дигаре бар он ақида аст, ки бо инкишофи ЗС бештари мардум бекор мемонанд ва ин омил метавонад боиси таҳдид ба амнияти оммавӣ гардад.

Албатта, ҳамаи ин зуҳурот сабабҳои воқеии худро доранд. Дар тули садсолаҳо ҳангоми ҷорӣ намудани технологияҳои нав дар истеҳсолот қисми коргарон аз кор ронда мешуданд. Аммо, масалан, истифодаи барқ ва чароғи электрикӣ дар ниҳоят ба беҳдошти зиндагии онҳо таъсири мусбати куллӣ расонд. Пайдо шудани синамо дар асри ХХ низ дар шуури инсон таҳаввулотро ба миён овард. Агар дар филмҳои шуравӣ ҳаёти инсон дар ташкил намудани оилаи солим, меҳнати манфиатбахши созанда ва дӯстии халқҳо инъикос ёфта бошад, дар як қатор филмҳои амрикоӣ зӯроварӣ, таҷовуз, фоҳишагӣ ва қонуншиканӣ ҳамчун зуҳуроти маъмул тасвир мешуданд. Аз нимаи дуюми асри ХХ сар карда, дар синамои Амрико филмҳои фантастикӣ (аз ҷумла “Терминатор”, “Ҷангҳои кайҳонӣ” ва ғайра) ба навор гирифта шуданд, ки ҳадафи онҳо тарсондани одамон бо тасвирҳои ояндаи даҳшатнок таҳти ҳукмронии роботҳо (зеҳни сунъӣ) буд.

Пас, зеҳни сунъӣ чист?

Зеҳни сунъӣ (ЗС) як бахши илми компютерӣ мебошад, ки эҷоди системаҳо ва барномаҳои қодир ба тақлиди вазифаҳои маърифатии инсонро меомӯзад. Он метавонад аз маълумот истифода намояд, қонуниятҳоро (нақшҳоро) шиносад, забони табииро дарк кунад ва қарор қабул намояд, то ин ки масъалаҳоро автоматӣ кунонида, ба одамон кумак расонад.

Зеҳни сунъии муосир ба се самти васеъ тақсим шудааст: омӯзиши классикии мошинӣ, моделҳои тавлидӣ (генеративӣ) ва агентҳои зеҳни сунъӣ, ки кӯшиши пурра мустақил шуданро доранд.

Маҳз ҳамин сегона имрӯз тарзи кори бонкҳо, шабакаҳои иҷтимоӣ, ёварони овозӣ ва ёварони рақамии насли ояндаро муайян мекунад. Бо ташаккули шабакаи Интернет имрӯз мо зеҳни сунъиро дар ҳар як қадами худ ҳис мекунем. Аммо ба он чӣ тавр бояд баҳо дод? Чӣ тавр онро дуруст истифода намуд ва аз таҳдидҳои он худро муҳофизат кард?

Таъсири ЗС ба иқтисод ва молия

Албатта, зеҳни сунъӣ дар иқтисод ва молия мафҳуми нав нест. Шаклҳои анъанавии зеҳни сунъӣ (таҳлили пешрафта, омӯзиши мошинӣ, омӯзиши амиқ) муддати тулонӣ барои коркарди маълумоти рақамӣ, арзёбии тамоюлҳои бозор ва мутобиқсозии маҳсулоти молиявӣ истифода мешуданд. Он чизе, ки зеҳни сунъии тавлидкунандаро (Generative AI) аз онҳо фарқ мекунад, қобилияти он барои таҳлили амиқтари маълумоти мураккаб ва тафсири эҷодии он мебошад. Бо таҳлили муносибатҳои мураккаб байни нишондиҳандаҳои иқтисодӣ ё тағирёбандаҳои молиявӣ, он на танҳо пешгӯиҳо, балки сенарияҳои алтернативӣ, диаграммаҳои тасвирӣ ва ҳатто порчаҳои рамзи барномавиро низ тавлид мекунад, ки метавонанд тарзи кори соҳаро ба таври назаррас тағйир диҳанд.

Гузариш аз зеҳни сунъии анъанавӣ ба зеҳни сунъии тавлидӣ давраи нави имкониятҳоро ҳам дар бахши давлатӣ ва ҳам дар бахши хусусӣ боз кард: Ҳукуматҳо барои беҳтар кардани хидматрасонии шаҳрвандон ва ҳалли мушкилоти норасоии қувваи корӣ аз ин абзорҳои оқилона истифода мебаранд.

Бонкҳои марказӣ ба ин самт диққати махсус дода, имкониятҳои зеҳни сунъии тавлидиро барои таҳлили миқдори зиёди маълумоти бонкӣ, дақиқ кардани пешгӯиҳои иқтисодӣ ва беҳтар кардани назорати хатарҳо (аз ҷумла, қаллобӣ) истифода мебаранд.

Ширкатҳои сармоягузорӣ барои муайян кардани тағйироти нозук дар нархи саҳмияҳо ва эҳсосоти бозор ба зеҳни сунъии тавлидӣ рӯ меоранд ва аз ҳавзи васеътари дониш барои пешниҳоди имконоти эҷодӣ ва стратегияҳои эҳтимолан фоидаовартари сармоягузорӣ истифода мекунанд.

Ширкатҳои суғурта имкониятҳои моделҳои тавлидиро барои эҷоди сиёсатҳои фардӣ (андешакалони суғуртавӣ), ки ба ниёзҳо ва афзалиятҳои инфиродии мизоҷон бештар мувофиқат мекунанд, меомӯзанд. Аммо, эҷодиёти зеҳни сунъии тавлидӣ метавонад чунон боварибахш бошад, ки эҳсоси бардурӯғи воқеиятро ба вуҷуд орад. Ин омил метавонад боиси паҳн шудани маълумоти нодуруст, воҳима ва ҳатто ноустувории системаҳои иқтисодӣ ё молиявӣ гардад.

Нигарониҳо ва мушкилоти идоракунии ЗС

Зеҳни сунъии тавлидӣ бо суръати баланд пеш меравад ва марзҳои қобилиятҳои ЗС-ро дар иқтисод ва молия васеъ карда, барои мушкилоти кӯҳна роҳҳои ҳалли нав пешниҳод менамояд. Бо вуҷуди ин, баъзеҳо шубҳа доранд. Онҳо мегӯянд, ки мисли «тӯтии стохастикӣ» (stochastic parrot), зеҳни сунъӣ метавонад далелҳои бемаънӣ ва бардурӯғро эҷод кунад. Мунаққидон қайд мекунанд, ки дониши моделҳое мисли ChatGPT бо санаи охирини омӯзишии онҳо маҳдуд аст. Шояд ин тавр бошад, аммо бо назардошти суръати ҳайратангези навоварӣ, ин далелҳо то кай эътибор хоҳанд дошт?

Ҳаяҷони аввалия дар атрофи зеҳни сунъии тавлидӣ имрӯз ҷои худро ба нигарониҳои афзоянда ва воқеӣ додааст. Нигарониҳои анъанавии зеҳни сунъӣ, ба монанди тақвияти таассубҳои мавҷуда дар маълумоти омӯзишӣ ё набудани шаффофият дар қарорҳо, дубора пайдо шуданд ва дар баробари онҳо нигарониҳои нав низ шакл гирифтанд.

Раиси Кумитаи илм, инноватсия ва технологияи Британияи Кабир Грег Кларк изҳор дошт: "ЗС аллакай тарзи зиндагии моро тағйир медиҳад ва ба назар мерасад, ки таъсири он ба ҷомеа ва иқтисоди мо ногузир хоҳад буд. ЗС пур аз имкониятҳост, аммо он инчунин, як қатор хатарҳоро барои ҳуқуқҳои арзишманд, аз якпорчагии шахсӣ то амнияти миллӣ ба вуҷуд меорад. Мардум аз сиёсатмадорон интизоранд, ки ҳуқуқҳои худро ҳимоя кунанд".

Ин кумита гузориши муваққатиро нашр кард, ки дар он 12 мушкилоти калидӣ дар соҳаи идоракунии зеҳни сунъӣ, ки бояд дар сатҳи қонунгузорӣ (аз ҷумла, бо иштироки байналмилалӣ) таҳлил ва ҳал карда шаванд, зикр шудаанд:

Мушкилоти таассуб (биас): ЗС метавонад таассубҳоеро, ки ҷомеа онҳоро номақбул мешуморад, ҷорӣ ё тақвият диҳад.

Мушкилоти махфият: ЗС метавонад имкон диҳад, ки афрод муайян карда шаванд ва маълумоти шахсии онҳо ба тарзе истифода шавад, ки аз доираи хоҳиш ва меъёрҳои ҷомеа берун аст.

Мушкилоти нодуруст намоиш додан (дезинформатсия): ЗС метавонад ба тавлиди мундариҷае имкон диҳад, ки қасдан рафтор, ақида ё хислати касеро таҳриф мекунад (дипфейкҳо).

Мушкилоти дастрасӣ ба маълумот: ЗС барои рушди худ ба маҷмуи додаҳои (Big Data) хеле калон ниёз дорад.

Мушкилоти ҳисоббарорӣ: Таҳияи зеҳни сунъии пуриқтидор қудрати назарраси ҳисоббарориро талаб мекунад, ки дастрасӣ ба он танҳо бо чанд созмони бузург маҳдуд аст.

Мушкилоти «қуттии сиёҳ» (Black Box): Баъзе моделҳо ва абзорҳои ЗС наметавонанд шарҳ диҳанд, ки чаро онҳо ин ё он натиҷаро ба бор овардаанд, ки ин мушкили шаффофиятро ба вуҷуд меорад.

Мушкилоти манбаи кушода (Open Source): Дар ҳоле ки талаб кардани дастрасии озод ба рамз метавонад шаффофият ва навовариро афзоиш диҳад, дастрасии хусусӣ ба рамз (Proprietary) метавонад қудрати бозорро мутамарказ кунад ва танзими қавитари зарарро таъмин намояд.

Мушкилоти моликияти зеҳнӣ ва ҳуқуқи муаллиф: Баъзе моделҳо ва абзорҳои ЗС аз мундариҷаи муаллифони дигар барои омӯзиш истифода мебаранд. Сиёсати давлатӣ бояд ҳуқуқҳои эҷодкунандагони ин мундариҷаро ҳимоя ва амалӣ намояд.

Мушкилоти масъулият: Агар моделҳо ва абзорҳои ЗС аз ҷониби шахсони сеюм барои расонидани зарар истифода шаванд, сиёсатгузорон бояд муайян кунанд, ки оё таҳиягарон ё таъминкунандагони технология барои зарари расонидашуда масъулият доранд ё не.

 Мушкилоти шуғли аҳолӣ: Зеҳни сунъӣ ба фаъолиятҳои анъанавии инсон, ки худаш аз уҳдаашон мебарояд, халал мерасонад. Сиёсатгузорон бояд ин тағйироти сохториро пешгӯӣ карда, ҳал намоянд.

 Мушкилоти ҳамоҳангсозии байналмилалӣ: Зеҳни сунъӣ як технологияи ҷаҳонӣ аст ва таҳияи механизмҳои идоракунӣ барои танзими истифодаи он бояд як кори муштараки байналмилалӣ бошад.

 Мушкилоти вуҷудӣ (экзистенсиалӣ): Баъзе одамон бар он ақидаанд, ки ЗС дар оянда таҳдиди ҷиддӣ ба ҳаёти инсоният хоҳад буд. Идоракунии он бояд пеш аз ҳама амнияти милливу умумибашариро ҳифз кунад.

Хатарҳои воқеӣ ва санҷиши шуур

Вазъи кунунӣ дар робита бо имкониятҳо, дурнамо ва таҳдидҳои ЗС, илова бар масъалаи кушодаи табиати шуур ва моҳияти зеҳн беназир аст. Оё мавҷудияти шуурро дар ЗС ба таври объективӣ тасдиқ кардан мумкин аст? Дар ин ҷо фарзияи кунунии Нюэлл-Саймон (ҳар гуна системае, ки бо рамзҳо кор мекунад, зеҳнӣ аст) ва санҷиши Тюринг (агар ЗС огоҳ бошад, пас ҳангоми суҳбати матнӣ инсон наметавонад онро аз шахси дигар фарқ кунад) ба миён меоянд.

Мувофиқи гуфтаҳои боло, изҳороти роҳбари собиқи Alphabet (Google) нигаронкунанда аст, ки зеҳни сунъиро дар вазъиятҳои басо муҳим ва ҳаётан ҳалкунанда истифода бурдан хатарнок аст, зеро "ҳамаи технологияҳои муосир камбудиҳои ҷиддӣ доранд". Масалан, 18 марти соли 2018 барномаҳои хабарии саросари ҷаҳон гузориш доданд, ки кроссовери худкори (бесарнишини) Uber Volvo XC90 шаҳрванд Элейн Херзбергро бо суръати 60 км/соат зер кард ва ӯ аз ҷароҳати вазнин дар беморхона фавтид.

Яке аз хатарҳои махсусан нигаронкунанда - қобилияти аҷиби зеҳни сунъии тавлидкунанда дар нақл ва пешниҳоди маълумоте мебошад, ки бо эътиқод ва нуқтаи назари қаблан вуҷуддоштаи одамон мувофиқат мекунанд ва эҳтимолан "камераҳои акси садо" (echo chambers)-ро дар ҷомеа тақвият медиҳанд. Имрӯзҳо мо дар Интернет ба даҳҳо намоишҳои сунъӣ (контенти сохта) вомехӯрем, ки аз тасвирҳои воқеӣ ҳеҷ фарқе надоранд ва бештари онҳо ҳамчун силоҳ барои “заҳролуд” кардани мафкураи омма истифода мешаванд.

Чунин ҳодисаҳо нишон медиҳанд, ки чӣ гуна зеҳни сунъии тавлидкунандаро метавон барои манипулятсияи сиёсат, бозорҳо ва афкори ҷамъиятӣ силоҳбадаст кард. Новобаста ба он ки ин нақли сохта, тасвири сохта ё видеои синтезшуда (дипфейк) бошад; эҷодҳои зеҳни сунъии тавлидӣ метавонанд он қадар боварибахш бошанд, ки эҳсоси бардурӯғи воқеиятро эҷод кунанд. Ин метавонад боиси паҳншавии маълумоти нодуруст, ангехтани воҳима ва ҳатто ноустувории системаҳои иқтисодӣ ё молиявӣ гардад. Суръат ва шиддатнокии ин раванд хеле баланд аст. Зимнан, ин на ҳамеша метавонад қасдан бошад: мошинҳо метавонанд дар натиҷаи "галлюцинатсияҳо" (зуҳуроти хаёлӣ) маълумоти нодурустро беихтиёр паҳн кунанд.

Таҳдиди ЗС танҳо бо манипулятсия маҳдуд намешавад. Аз байн рафтани ҷойҳои корӣ як нигаронии дигари ҷиддӣ аст, зеро зеҳни сунъии тавлидӣ минбаъд низ рушд карда, ба автоматикунонии вазифаҳое, ки қаблан аз ҷониби одамон иҷро мешуданд, оварда мерасонад. Ин раванд стратегияҳои нави такмили ихтисос ва бозомӯзии қувваи кориро талаб мекунад.

Дурнамои рушд ва масъалаҳои ахлоқӣ

Дар марҳилаи кунунӣ, самти асосии умедбахши рушди ЗС эҷоди барномаҳое мебошад, ки қобилиятҳои қабули қарорҳои зеҳни сунъиро васеъ мекунанд. Масалан, директори тақсимоти технологияҳои Яндекс Григорий Бакунов навиштааст: "Кори асосии шабакаҳои нейронӣ ҳоло барои одамон ин аст, ки онҳоро аз қабули қарорҳои нолозим раҳо кунанд. Аз ин рӯ, онҳоро қариб дар ҳама ҷое истифода бурдан мумкин аст, ки қарорҳои камтар оқилона аз ҷониби одамон қабул карда мешаванд. Дар панҷ соли оянда ин маҳорат истифода мешавад ва қабули қарорҳои инсонӣ бо як мошини одӣ иваз карда мешавад".

Ҳамин тариқ, марҳилаи навбатии зеҳни сунъӣ ин таҳияи алгоритмҳои омӯзиши мошинӣ тавассути тағйир додани SOINN (Self-Organizing Incremental Neural Network - шабакаи нейронии инкременталии худташкилшаванда) мебошад.

Дар баробари мушкилоти техникӣ ва иқтисодии рушди зеҳни сунъӣ, ин раванд масъалаҳои ҷиддии ахлоқиро низ ба миён меорад:

Оё роботкунонӣ эҳёи ғуломдорӣ дар сатҳи нав ва техногенӣ аст? (Агар ҷузъҳои эҳтимолии рушди ЗС: худомӯзӣ, инъикос, тафаккур, шуур ва худшиносиро ба назар гирем).

"Оё мумкин аст, ки ба компютер фикр карданро омӯзонанд?". Ҷавоби ин савол аз он вобаста аст, ки мо тафаккурро чӣ гуна мефаҳмем. Агар мо тафаккурро ҳамчун як хусусияти ҷудонашавандаи раванди шуури биологӣ дарк кунем, пас ҷавоби мо манфӣ аст. Фаъолияти виртуалии шуур хеле мураккаб буда, раванде нест, ки пурра ҳисоб карда шуда, дар компютер айнан такрор ёбад. Аммо, компютерҳо метавонанд баъзе ҷанбаҳои мушаххаси раванди табиии тафаккурро ба таври аъло тақлид (имитатсия) кунанд. Вазифаи муҳимтарини инсоният танҳо тавлиди мошинҳои мураккабтар ва мустақилтар нест, балки инсон бояд, пеш аз ҳама худро такмил диҳад.

Фарқи асосии байни инсон ва ЗС чист? Ба андешаи мо, он дар ангеза (мотиватсия) аст, ки ба амалҳо сифат ва маънӣ мебахшад. Аз замонҳои қадим се намуди ангеза вуҷуд дорад: дутои онҳо ғуломиро тавсиф мекунанд (амал аз тарси ҷазо ё аз мукофот маҳрум шудан) ва сеюмӣ - шахси озодро (касе, ки вобаста ба эътиқоди ботинии худ амал мекунад). То он даме, ки ЗС ангеза ва иродаи ботинии худро надорад, он танҳо як абзор (инструмент) боқӣ мемонад.

Барои коҳиш додани мушкилоти муайяншуда, эҷоди як системаи ягонаи консептуалӣ ва сохтани як тасвири ягонаи бисёрченакаи ҷаҳон зарур аст, ки илмҳои гуманитарӣ ва табииро бо технологияҳои муосир муттаҳид созад.

 

Абубакр КАБИРОВ,

дотсенти кафедраи математикаи олии ДДМИТ,

номзади илмҳои физика-математика