Մարդկության պատմության գլխավոր (ու ամենավախենալու) պրոեկտը. OpenAI-ը փաստաթուղթ է հրապարակել ընդհանուր արհեստական բանականության մասին
Արհեստական բանականության վրա հիմնված ChatGPT չատբոտն ընդամենը մի քանի ամսում ահռելի փոփոխությունների բերեց համացանցից օգտվելու ոլորտում, սակայն դրանք ոչինչ են այն փոփոխությունների հետ, որոնք կարող են տեղի ունենալ ընդհանուր արհեստական բանականության (Artificial General Intelligence) ստեղծման դեպքում:
Ընդհանուր արհեստական բանականությունը դա արհեստական բանականության մոդելի (ծրագրային ապահովման) կարողությունն է հասկանալ ու լուծել ցանկացած ինտելեկտուալ խնդիր, որը կարող են հասկանալ ու լուծել մարդիկ, ու որը կարող է անգամ գերազանցել մարդու ինտելեկտուալ հնարավորությունները: Մինչ այժմ ընդհանուր արհեստական բանականությունը խիստ հիպոթետիկ կոնցեպտ է, որի իրացման հնարավորությունները կասկածի տակ են դրվում շատ հետազոտողների կողմից:
Այդուհանդերձ, վերջին տարիներին արձանագրված հաջողություններն ավելի նեղ մասնագիտացված արհեստական բանականության ոլորտում հուշում են, որ, հնարավոր է, ընդհանուր արհեստական բանականությունն այնքան էլ հիպոթետիկ չէ, ու որ դրա ստեղծումը կարող է սարերի հետևում չլինել:
Արհեստական բանականության լուծումներով, ինչպես նաև դրա հետ կապված խնդիրներով ու ռիսկերով զբաղվող OpenAI ոչ կոմերցիոն կազմակերպությունը, որը ստեղծվել է 2015-ին որպես ոլորտում մոնիթորինգ իրականացնող ձեռնարկություն, օրերս հրապարակել է փաստաթուղթ, որում մատնանշում է ընդհանուր արհեստական բանականության հետ կապված ռիսկերը կանխատեսելու, վաղ փուլերում դրանք կանխարգելելու, ու տեխնոլոգիայի զարգացման տարբերակների հնարավորությունները: PAN-ը ներկայացնում է փաստաթղթի հայերեն տարբերակը:
Փաստաթղթում OpenAI-ը նշում է, որ իրենց նպատակն է անել այնպես, որպեսզի ընդհանուր արհեստական բանականությունը` AI համակարգերը, որոնք, որպես կանոն, մարդկանցից խելացի են, օգտակար լինեն ամբողջ մարդկության համար։
«Եթե ընդհանուր արհեստական բանականությունը հաջողությամբ ստեղծվի, այդ տեխնոլոգիան թույլ կտա մարդկությանը մեծ բարձունքների հասնել ի հաշիվ առատության աճի, համաշխարհային տնտեսության արագացման ու գիտության մեջ նոր գիտելիքների բացահայտման, որոնք կփոխեն մարդկության հնարավորությունների սահմանները»,- նշվում է փաստաթղթում։
OpenAI-ում կարծում են, որ ընդհանուր արհեստական բանականությունը կարող է անհավանական հնարավորություններ տալ յուրաքանչյուր մարդու։ Կարելի է պատկերացնել աշխարհ, որում յուրաքանչյուրին հասանելի է օգնություն պրակտիկորեն ցանկացած իմացական խնդրում, ինչն ահռելիորեն կբազմապատկի մարդկային հնարամտությունն ու ստեղծարարությունը։
Մյուս կողմից, ընկերությունում կարծում են, որ ընդհանուր արհեստական բանականությունը կապված է նաև սխալ կիրառման, լուրջ վթարների ու սոցիալական ցնցումների լուրջ ռիսկերի հետ։ Հաշվի առնելով ընդհանուր արհեստական բանականության մեծ առավելությունները, OpenAI-ում չեն հավատում, որ հասարակությունը կարող է կամ ընդհանրապես ցանկալի է կասեցնել դրա զարգացումը։ Դրա փոխարեն, հասարակությունն ու ընդհանուր արհեստական բանականության մշակողները պետք է հասկանան, ինչպես կարելի է դա ճիշտ անել։
«Ընդհանուր արհեստական բանականության ստեղծումը կարող է տեղի ունենալ մոտ ժամանակներում կամ հեռավոր ապագայում։ Այս տեսակի արհեստական բանականության թռիչքի արագությունը սկզբնական տարբերակից մինչև հետագա հզոր համակարգեր կարող է լինել դանդաղ կամ արագ։ Մենք կարծում ենք, որ այս «2×2» մատրիցայի համար ամենաանվտանգ տարբերակը կարճ ժամկետներն են ու թռիչքի ցածր արագությունը։ Ավելի կարճատև ժամանակային շրջանակներն ավելի հարմար են կոորդինացիայի համար, ու, ամենայն հավանականությամբ, կբերեն ավելի դանդաղ թռիչքի ավելի փոքր հաշվարկային ճնշման շնորհիվ։ Դանդաղ թռիչքն, իր հերթին, ավելի շատ ժամանակ է տալիս՝ էմպիրիկ ճանապարհով պարզելու, թե ինչպես լուծել անվտանգության խնդիրն ու ինչպես ադապտացվել։
Չնայած մենք չենք կարող ճշգրիտ կանխատեսել, թե ինչ տեղի կունենա, ու, իհարկե, հնարավոր է, որ մեր ընթացիկ առաջընթացը հայտնվի փակուղում, այդուհանդերձ, հնարավոր է ձևակերպել սկզբունքներ, որոնք մեզ առավելապես հուզում են։
Մենք ուզում ենք, որ ընդհանուր արհեստական բանականությունը մարդկությանը հնարավորություն տա առավելագույնս զարգանալ Տիեզերքում։ Մենք չենք համարում, որ ապագան լինելու է անհոգ ուտոպիա, սակայն ցանկանում ենք առավելագույնի հասցնել լավն ու նվազագույնի` վատը, ու որ ընդհանուր արհեստական բանականությունը դառնա մարդկության համար ուժեղացուցիչ»,- հավելում են OpenAI-ում։
Ըստ փաստաթղթի՝ ընդհանուր արհեստական բանականության տված առավելությունները, դրան հասանելիությունն ու կառավարումը պետք է լայնորեն ու արդարացի կերպով բաժանված լինեն։
«Մենք ցանկանում ենք հաջողությամբ հաղթահարել ահռելի ռիսկերը, որոնք կարող են առաջանալ տեխնոլոգիայի գործարկման դեպքում։ Բախվելով այդ ռիսկերի հետ` մենք խոստովանում ենք, որ այն, ինչ ճիշտ է թվում տեսության մեջ, հաճախ, պարզվում է, պրակտիկայում ավելի տարօրինակ է, քան սպասվում էր։ Մենք համարում ենք, որ պետք է անդադար սովորենք ու ադապտացվենք` բացազատելով տեխնոլոգիաների ավելի հզոր տարբերակները` նվազագույնի հասցնելով «մեկ շանս՝ հաջողելու համար» (one shot to get it right) սցենարը։
ԿԱՐՃԱԺԱՄԿԵՏ ՀԵՌԱՆԿԱՐՈՒՄ
OpenAI-ում կարծում են, որ արդեն հիմա անհրաժեշտ է իրականացնել որոշակի քայլեր` ընդհանուր արհեստական բանականությանը պատրաստվելու համար։
Նախ և առաջ, ավելի ու ավելի հզոր համակարգեր ստեղծելու հետ միասին անհրաժեշտ է դրանք գործարկել ու ստանալ իրական աշխարհում դրանց հետ աշխատելու փորձառություն։ Դա, ըստ ընկերության, ընդհանուր արհեստական բանականությունը խնամքով աջակցելու լավագույն միջոցն է, որովհետև նման տեխնոլոգիաներով աշխարհին աստիճանաբար անցնելն ավելի ճիշտ է, քան կտրուկ ու անսպասելի անցումը։ Հզոր արհեստական բանականությունը զգալիորեն կարագացնի առաջընթացն ամբողջ աշխարհում, ու դրան անհրաժեշտ է դանդաղ ադապտացվել։
«Աստիճանաբար անցումը ընդհանուր արհեստական բանականության ժամանակ է տալիս մարդկանց, քաղաքական գործիչներին ու ձեռնարկություններին հասկանալու, թե ինչ է տեղի ունենում, անձամբ զգալու այդ համակարգերի առավելություններն ու թերությունները, ադապտացնելու տնտեսություններին ու ներդնելու անհրաժեշտ կարգավորումները։ Դա նաև թույլ է տալիս հասարակությանն ու արհեստական բանականությանը զարգանալ միասին, իսկ մարդկանց` կոլեկտիվ կերպով պարզել, թե իրենք ինչ են ուզում դեռ այն ժամանակ, երբ խաղադրույքները հարաբերականորեն ցածր են»,- ասվում է փաստաթղթում։
Ըստ OpenAI-ի, արհեստական բանականության գործարկման խնդիրները հաջողությամբ հաղթահարելու լավագույն միջոցը հետադարձ կապի սերտ հանգույցն է` բաղկացած արագ ուսուցումից ու մանրազնին իտերացիայից։ Հասարակությունը բախվելու է լուրջ հարցերի հետ, թե ինչ է թույլատրված անել արհեստական բանականության համակարգերով, ինչպես պայքարել կանխակալության, կրճատումների դեմ, և այլն։ Օպտիմալ լուծումները կախված են լինելու ճանապարհից, որով անցնելու է տեխնոլոգիան, ու, ինչպես ցանկացած նոր ոլորտում, փորձագետների կանխատեսումների մեծ մասը մինչ այժմ սխալ են եղել։ Վակուումի վիճակում նման պլանավորումը խիստ բարդ է դառնում։
«Օրինակ, երբ մենք առաջին անգամ գործարկեցինք OpenAI-ն, չէինք սպասում, որ մասշտաբավորումն այնքան կարևոր կլինի, որքան եղավ։ Երբ հասկացանք, որ այն որոշիչ նշանակություն է ունենալու, մենք հասկացանք նաև, որ մեր սկզբնական ստրուկտուրան չի աշխատելու` մենք ուղղակի չենք կարող բավարար գումար հավաքել ոչ կոմերցիոն կազմակերպություն մեր առաքելությունն իրականացնելու համար։ Այդ իսկ պատճառով մենք ձևավորեցինք նոր ստրուկտուրա»,- ընդգծում են փաստաթղթի հեղինակները։
Որպես երկրորդ օրինակ, OpenAI-ն նշում է, որ իրենք սխալվում էին բաց լինելու իրենց պատկերացման մեջ. հետագայում, ամեն ինչ անմիջապես թողարկելու մտքից նրանք անցան այն մտքին, որ նախ անհրաժեշտ է պարզել` ինչպես անվտանգ կերպով կիսվել արհեստական բանականության համակարգերով ու դրանց առավելություններով. «Մենք նախկինի նման կարծում ենք, որ հասարակության կողմից տեղի ունեցողը ճիշտ ըմբռնելու օգտակարությունն ահռելի է, ու նման ըմբռնումն ապահովելը լավագույն միջոցն է համոզվելու, որ այն, ինչ ստեղծվում է, համապատասխանում է հասարակության կոլեկտիվ ցանկություններին։ Իհարկե, այստեղ կան բազում նյուանսներ ու կոնֆլիկտներ»։
Ընդհանուր առմամբ, ընկերությունում կարծում են, որ աշխարհում արհեստական բանականության ավելի լայն կիրառումը բարի նպատակ է, ու ցանկանում են առաջ տանել այդ գաղափարը, օրինակ, API-ում մոդելների, դրանց բաց նախնական կոդի տեղադրման եղանակով։ Ըստ OpenAI-ի, ժողովրդավար հասանելիությունը կբերի ավելի մեծ քանակի ու ավելի մանրակրկիտ ուսումնասիրության, ապակենտրոնացված իշխանության, առավելությունների ավելի մեծ քանակության ու նոր գաղափարներ առաջարկող մարդկանց ավելի լայն շրջանակի։
«Որքան մեր մոդելներն ավելի են մոտենում ընդհանուր արհեստական բանականությանն, այնքան մենք ավելի զգույշ ենք մեր մոդելների ստեղծման ու գործարկման հարցում։ Մեր որոշումները պահանջելու են շատ ավելի մեծ զգուշավորություն, քան հասարակությունը սովորաբար դրսևորում է նոր տեխնոլոգիաների նկատմամբ, քան կցանկանային շատ օգտատերեր։ Արհեստական բանականության ոլորտի որոշ մասնագետներ համարում են, որ այս տեխնոլոգիաների հետ կապված ռիսկերը մտացածին են։ Մենք ուրախ կլինենք, եթե նրանք ճիշտ լինեն, սակայն գործելու ենք այնպես, կարծես այդ ռիսկերը գոյաբանական են։
Ինչ-որ պահի գործարկման առավելությունների ու թերությունների (ինչպիսիք են չարագործների համար հնարավորությունների ընդլայնումը, սոցիալական ու տնտեսական ցնցումներն ու ոչ անվտանգ մրցավազքի արագացումը) միջև բալանսը կարող է փոխվել, ու այդ դեպքում մենք զգալիորեն կփոխենք անդադար գործարկման հետ կապված մեր պլանները»,- հավելում են OpenAI-ում։
Երկրորդ, ընկերությունն աշխատում է ավելի համաձայնեցված ու կառավարելի մոդելների ստեղծման ուղղությամբ։ Դրա վաղ օրինակն է անցումը GPT-3-ի նման մոդելներից InstructGPT-ի ու ChatGPT-ի.
«Մասնավորապես, մենք կարևոր ենք համարում, որպեսզի հասարակությունը համաձայնվի արհեստական բանականության կիրառման չափազանց լայն շրջանակների հարցում, սակայն առանձին օգտատերեր պետք է ունենան այդ շրջանակներում գործելու ավելի մեծ ազատություն։ Ի վերջո մենք հույս ունենք, որ աշխարհի ինստիտուտները կպայմանավորվեն, թե ինչպիսին պետք է լինեն այդ լայն սահմանները. մոտ ապագայում մենք պլանավորում ենք անցկացնել էքսպերիմենտ արտաքին մուտքի (external input) հետ կապված։ Աշխարհի ինստիտուցիոնալիզացիան պետք է ամրապնդվի լրացուցիչ հնարավորություններով ու փորձով` ընդհանուր արհեստական բանականության հետ կապված բարդ որոշումների պատրաստ լինելու համար։
Մեր պրոդուկտների «սկզբնական կարգավորումները» (default settings), ամենայն հավանականությամբ, շատ սահմանափակ են լինելու, սակայն նաև պլանավորում ենք օգտատերերի համար հեշտացնել իրենց օգտագործած արհեստական բանականության վարքագիծը փոփոխելու հնարավորությունը»։ OpenAI-ում հավատում են, որ անհրաժեշտ է մարդկանց սեփական որոշումներ կայացնելու հնարավորություն տալ ու որ գլխավոր շարժիչ ուժն այստեղ գաղափարների բազմազանությունն է։
«Մենք պետք է մշակենք հավասարեցման (ընդհանուր արհեստական բանականության համապատասխանեցումը մարդկային արժենքներին ու ցանկություններին) նոր մեթոդներ, քանի որ մոդելները գնալով ավելի ու ավելի հզոր են դառնալու, ինչպես նաև թեստեր` հասկանալու համար, թե երբ են մեր ընթացիկ մեթոդներն անհաջող։ Կարճաժամկետ հեռանկարում մեր պլանը կայանում է նրանում, որպեսզի օգտագործենք արհեստական բանականությունը՝ օգնելու համար մարդկանց գնահատել ավելի բարդ մոդելների արդյունքներն ու բարդ համակարգերի զարգացման հետագիծը, իսկ ավելի երկարաժամկետ հեռանկարում` օգտագործել արհեստական բանականությունը հավասարեցման մեթոդների բարելավման համար նոր գաղափարներ գտնելու նպատակով»,- ընդգծում են ընկերությունում։
Փաստաթղթում շեշտվում է` արհեստական բանականության անվտանգությանն ու հնարավորությունների առումով առաջընթացի կարելի է հասնել միայն այս երկու էլեմենտները միասին զարգացնելով։ Դրանց մասին առանձին խոսելը կեղծ դիխոտոմիա կլիներ, քանի որ դրանք շատ առումներով կապված են. «Անվտանգության ապահովման ոլորտում մեր լավագույն աշխատանքը կապված է մեր ամենաընդունակ մոդելների հետ։ Կարևոր է, որ անվտանգության ոլորտում առաջընթացի հարաբերակցությունը հնարավորությունների ավելացման նկատմամբ անընդհատ աճի»։
Երրորդ` ընկերությունը հույս ունի, որ տեղի կունենա գլոբալ քննարկում երեք առանցքային ուղղություններով. ինչպես կառավարել այդ համակարգերը, ինչպես արդար կերպով կիսել դրանց գեներացրած օգուտն ու ինչպես արդար կերպով բաշխել հասանելիությունը։
«Ի հավելումն վերոնշյալ երեք ոլորտների, մենք փորձել ենք կարգավորել մեր ստրուկտուրան այնպես, որպեսզի մեր խթանները համաձայնեցված լինեն լավ արդյունքների հետ։ Ընկերության կանոնադրության մեջ կա հատուկ կետ անվտանգության ոլորտում այլ կազմակերպություններին աջակցելու մասին` ընդհանուր արհեստական բանականության մշակման ուշ փուլերում նրանց դեմ մրցավազքի մասնակցելու փոխարեն։ Գործում է սահմանափակում, թե որքան եկամուտ կարող են ստանալ ընկերության բաժնետերերը, ինչը բացառում է անսահմանափակ արդյունք ստանալու ձգտումն ու պոտենցիալ աղետալի որևիցե բան գործարկելու ռիսկերը։ Մենք ունենք ոչ կոմերցիոն կազմակերպություն, որը մենք կառավարում ենք ու որը թույլ է տալիս մեզ աշխատել ի բարօրություն ամբողջ մարդկության (ու կարող է գերակայել ցանկացած կոմերցիոն շահերի նկատմամբ), այդ թվում` թույլ տալով մեզ այնպիսի բաներ անել, ինչպիսիք են բաժնետերերի նկատմամբ մեր պարտավորությունների չեղարկումը, երբ դա անհրաժեշտ է անվտանգության համար, կամ աշխարհում ամենահամընդհանուր UBI էքսպերիմենտի հովանավորումը»,- ընդգծվում է փաստաթղթում՝ հավելելով.
«Կարևոր է նաև, որպեսզի մեր ու նմանատիպ այլ մշակումները ենթարկվեն անկախ աուդիտի մինչև նոր համակարգերի գործարկումը. այդ մասին ավելի մանրամասն կխոսենք այս տարվա ընթացքում։ Ինչ-որ պահի կարող է կարևոր լինել անկախ գնահատական ստանալը մինչև ապագա համակարգերի ուսուցման մեկնարկը, իսկ ամենաառաջադեմ մշակումների համար՝ նոր մոդելների ստեղծմանն անհրաժեշտ հաշվարկային հզորությունների աճը համաձայնեցնելը»։
Ընկերությունը կարևոր է համարում ընդհանուր ստանդարտների մշակումը, որոնք կսահմանեն, թե երբ պետք է դադարեցնել ընդհանուր արհեստական բանականության համակարգի ուսուցողական մեկնարկը (training run), երբ կարելի է որոշել, որ մոդելն անվտանգ է գործարկման համար, կամ երբ է պետք հանել մոդելն արտադրական կիրառությունից։ Վերջապես, աշխարհի խոշոր կառավարությունները պետք է պատկերացում ունենան որոշակի մասշտաբից բարձր ուսուցողական մեկնարկների մասին։
ԵՐԿԱՐԱԺԱՄԿԵՏ ՀԵՌԱՆԿԱՐ
OpenAI-ում համոզված են, որ մարդկության ապագան պետք է որոշի հենց մարդկությունն, ու որ կարևոր է առաջընթացի մասին հասարակության հետ կիսվելը։ Ընդհանուր արհեստական բանականության ստեղծման բոլոր ջանքերը պետք է ենթարկվեն մանրազնին վերլուծության, իսկ հիմնական որոշումները` քննարկվեն հասարակության հետ։
Առաջին ընդհանուր արհեստական բանականությունը լինելու է ուղղակի մի կետ ինտելեկտի կոնտինուունում։ Ընկերությունում կարծում են, որ այդ պահից, հավանաբար, առաջընթացը կշարունակվի երկար ժամանակ` պահպանելով տեմպերը, որոնք մենք տեսնում ենք վերջին տասնամյակում։ Եթե այդ պատկերացումը ճիշտ է, ապա ապագայում աշխարհը կարող է զգալիորեն տարբերվել այսօրվա աշխարհից, ու ռիսկերը կարող են էքստրաօրդինար լինել։ Գերբանականությամբ օժտված, խաթարված արհեստական բանականությունը կարող է ահռելի վնաս հասցնել աշխարհին։
Արհեստական բանականությունը, որը կարող է արագացնել գիտության զարգացումը, հատուկ օրինակ է, որի մասին անհրաժեշտ է մտածել, որովհետև, հնարավոր է, այն ավելի արդյունավետ է, քան մնացած ամեն ինչ։ Լիովին հնարավոր է, որ ընդհանուր արհեստական բանականությունը, որը բավարար ընդունակ է սեփական առաջընթացն արագացնելու համար, բերի նրան, որ լուրջ փոփոխությունները տեղի ունենան չափազանց արագ (անգամ եթե անցումը դանդաղ մեկնարկ ունենա, սպասվում է, որ վերջին փուլերում այն բավականին արագ կլինի)։ Ընկերությունում համոզված են, որ ավելի դանդաղ թռիչքն ավելի հեշտ կլինի անվտանգ դարձնել, ու, հավանաբար, կարևոր կլինի նաև ընդհանուր արհեստական բանականության դանդաղեցման ջանքերի կոորդինացիան կրիտիկական պահերին։ Ավելին, անգամ եթե դա անհրաժեշտ չէ հավասարեցման տեխնիկական խնդիրների լուծման համար, դանդաղեցումը կարող է կարևոր լինել, որպեսզի բավարար ժամանակ տա հասարակությանն ադապտացվելու համար։
«Գերբանականությամբ բնակեցված աշխարհին հաջողությամբ անցնելը, հավանաբար, մարդկության պատմության ամենակարևոր, հուսադրող ու միաժամանակ վախենալու փուլն է։ Հաջողությունը բոլորովին էլ երաշխավորված չէ, սակայն խաղադրույքները այնքան մեծ են, որ միավորում են մեզ բոլորիս»,- եզրափակում է փաստաթուղթը։