Филозофски, интелектуалнo – и на сваки други начин – људско друштво није спремно за успон вештачке интелигенције

Пре три године, на конференцији о трансатлантским питањима, појавила се на дневном реду и тема вештачке интелигенције. Био сам на ивици да прескочим ту сесију – пошто је та тема изван мојих уобичајених интересовања – али ме је почетак презентације задржао на столици.

Говорник је описао рад компјутерског програма који ће убрзо искушати међународног шампиона у игри Go. Био сам задивљен што компјутер може да савлада Go, који је сложенији од шаха. У тој игри, оба играча располажу са 180 или 181 фигуром (зависно од боје коју он или она одаберу), које потом наизменично постављају на иницијално празној плочи; победу односи она страна која, прављењем бољих стратешких одлука, имобилише свог противника тако што ефикасније контролише поље.

Говорник је наглашавао да ова способност не може да се препрограмира. Његова машина, рекао је, учи да савладава го тако што саму себе тренира вежбањем. Са задатим правилима Go-а, компјутер игра небројено много партија против себе, учи из грешака и у складу са тиме подешава своје алгоритме. Током овог процеса, он превазилази вештину својих људских ментора. И заиста, после неколико месеци од говора, програм вештачке интелигенције AlfaGo је нанео убедљив пораз највећим светским играчима Go-а.

Док сам слушао како говорник слави овај технички напредак, моје искуство историчара који се повремено бавио државничким пословима, навело ме је да се замислим. Шта би био утицај на историју самоучећих машина – машина које би стицале знање процесима карактеристичним за њих, и које би примењивале то знање за циљеве за које не постоје категорије у људском разумевању? Да ли би ове машине научиле да комуницирају међусобно? Како би били прављени избори између насталих могућности? Да ли је могуће да људска историја крене путем Инка, суочених са шпанском културом која им је била неспознатљива и чак задивљујућа? Да ли смо на почетку нове етапе људске историје?

Свестан да нисам технички компетентан у овом пољу, организовао сам низ неформалних разговора о тој теми, уз савете и сарадњу познаника из области технологије и хуманистике. Ове дискусије су изазвале увећање мојих брига.

До сада, технолошки напредак који је највише изменио ток модерне историје био је изум штампарске машине у 15. веку, који је омогућио потрагу за емпиријским знањем које је потиснуло богослужбено учење, и постепену смену „Доба вере“ „Добом разума“. Индивидуални увид и научно сазнање сменили су веру као основни критеријум људске свести. Информације су похрањиване и систематизоване у све већим библиотекама. У „Добу разума“ су утемељене идеје и дела која су обликовала савремени светски поредак.

Али тај поредак је ускомешан усред нове, размахнуте технолошке револуције чије последице још увек нисмо у потпуности узели у обзир, и чија кулминација може бити свет ослоњен на машине које покрећу подаци и алгоритми без вођства етичких или филозофских норми.

Доба интернета у коме већ живимо било је претеча неких од питања и проблема које је вештачка интелигенција учинила акутним. Просветитељство је настојало да подреди традиционалну стварност ослобођеном, аналитичном људском разуму. Сврха интернета је да потврди знање путем сакупљања и манипулације растућом количином података. Људско сазнање је изгубило свој лични карактер. Појединци су претворени у податке, а подаци су преовладали.

Корисници интернета наглашавају претрагу информација и манипулацију информацијама у односу на контекстуализацију и концептуализацију њеног значења. Они ретко испитују историју или филозофију; као по правилу, захтевају информацију релевантну њиховим тренутним потребама. Током овог процеса, алгоритми претраживача стичу способност да предвиде преференце појединих корисника, што омогућава алгоритмима да персонализују резултате а потом их учине доступним другим странама за политичке или комерцијалне сврхе. Информација прети да смлави мудрост.

Препљављени путем друштвених мрежа мишљењем мноштва, корисници се удаљавају од интроспекције; уистину, многи технофили користе интернет како би избегли осамљеност које се ужасавају. Сви ови притисци слабе чврстину потребну да се развију и одрже уверења која се могу спровести искључиво самотничким путем, а који је суштина креативности.

Утицај технологије интернета на политику је посебно изражен. Способност да се циљају микрогрупе је разбила претходни консензус о приоритетима [у политичком животу, прим. прев] тако што је омогућена усредсређеност на одвојене циљеве и мере. Политички лидери, преплављени притиском одвојених ниша, немају времена да мисле и промишљају о контексту, и на располагању им је сужен простор за артикулисање визије.

Наглашеност брзине у дигиталном свету спутава рефлексију; његова распаљивост оснажује радикално у односу на промишљено; његове вредности су обликоване консензусом у оквиру подгрупа а не самосагледавањем. Без обзира на сва достигнућа, он носи ризик да се изопачи како његова бремена буду надјачавала погодности.

Како су интернет и све већа компјутерска снага створили акумулацију и анализирање непрегледног мноштва података, настали су перспективе за људско схватање без преседана. Најзначајнији је можда пројекат стварања вештачке интелигенције – технологије способне да ствара и решава сложене, наизглед апстрактне проблеме процесима који изгледа опонашају оне у људском уму.

Ово далеко надилази аутоматизацију која нам је позната. Аутоматизација се бави начинима; она постиже унапред задате циљеве рационализацијом или механизацијом средстава којима се они постижу. Вештачка интелигенција за разлику од тога, односи се на сврхе; она установљава своје сопствене циљеве. У мери у којој су њена достигнућа самостално обликована, вештачка интелигенција је суштински нестабилна. Системи вештачке интелигенције, док обављају своје операције, су у сталном комешању како прикупљају и брзо анализирају нове податке а затим настоје да се побољшају на основу те анализе. Кроз овај процес, вештачка интелигенција развија способност за коју се раније веровало да је својствена само људским бићима. Она прави стратешка просуђивања о будућности, неке на основу података примљених у облику кода (на пример, правила игре) а друге на основу података које сама прикупља (на пример, одигравањем милион поновљених партија игре).

Аутомобили без возача илуструју разлику између деловања традиционалних компјутера, снабдевених софтвером који контролишу људи и света ка коме иде вештачка интелигенција. Вожња аутомобила захтева доношење одлука у бројним ситуацијама које је немогуће предвидети и тако унапред испрограмирати. Шта би се десило, да се послужимо добро познатим хипотетичким примером, ако је такав аутомобил принуђен сплетом околности да изабере између убиства бабе или деде и убиства детета? Кога би изабрао? Зашто? Које ће факторе, међу доступним опцијама, покушати да оптимизује? И може ли да објасни своје разлоге? Искушана, уколико је способна да комуницира, вештачка интелигенција би вероватно истинољубиво одговорила: „Не знам (зато што се владам математичким, а не људским, принципима)“ или „Ти то не би разумео (зато што сам обучена на делујем на одређени начин а не да то и објасним)“. Ипак, возила без возача ће по свој прилици постати доминантна на путевима за десетак година.

Морамо да очекујемо да ће вештачка интелигенција правити чешће – и веће – грешке него што то чине људи

До сада ограничени на поједино поље за делање, истраживачи сада настоје да створе „опште интелигентну“ вештачку интелигенцију способну да извршава задатке на неколико поља. Све већи постотак људских активности биће, у догледном временском периоду, извршаван алгоритмима вештачке интелигенције. Али ови алгоритми, који су математичке интерпретације посматраних података, не могу да објасне реалност која их утемељује. Парадоксално, како свет постаје транспарентнији, он истовремено постаје све мистериознији. Шта ће разликовати тај нови свет од оног који познајемо? Како ћемо живети у њему? Како ћемо управљати вештачком интелигенцијом, побољшати је, или је макар спречити да чини штету, која би кулминирала у најзлокобнијој слутњи: да ће вештачка интелигенција, пошто усаврши извесне способности брже и свеобухватније од људи, моћи током времена да умањи људске способности и деградира сам људски положај пошто га претвори у податке.

Вештачка интелигенција ће временом донети изузетне користи медицинској науци, обезбеђивању еколошке енергије, решавању проблема заштите животне средине и у многим другим областима. Али баш зато што вештачка интелигенција просуђује о еволутивној, још увек неодређеној будућности, неизвесност и двосмислености су инхерентне њеним резултатима. Три су подручја која изазивају посебну забринутост:

Прво, то што вештачка интелигенција може да постигне ненамераване резултате. Постоје научнофантастични сценарији по којима се вештачка интелигенција окрене против својих твораца. Вероватнија је опасност да вештачка интелигенција погрешно разуме људске инструкције због инхерентног изостанка контекста. Познати скорашњи пример је четбот назван Тај, направљен да генерише пријатељску конверзацију по језичким обрасцима деветнаестогодишње девојке. Али показало се да машина није способна да дефинише заповести да језик буде „пријатељски“ и „разуман“ које су инсталирали њени инструктори и уместо тога је постала расистичка, сексистичка и на друге начине љутита.  Неки у свету технологије су тврдили да је експеримент био лоше замишљен и слабо изведен, али он приказује једну темељну двосмисленост: до које мере је могуће омогућити вештачкој интелигенцији да спозна контекст који обликује задате инструкције? Који медијум би могао да помогне Тај да себи одреди значење речи увредљиво, око чега ни међу људима не постоји опште сагласје? Можемо ли, у почетној фази да откријемо и исправимо програм вештачке интелигенције који делује изван очекиваних оквира? Или ће ипак вештачка интелигенција, препуштена својим сопственим средствима, неизбежно да развије мале девијације које могу, током времена, да се стропоштају у катастрофално одступање?

Друго, током извршења задатих циљева, вештачка интелигенција може да промени људске мисаоне процесе и људске вредности. Алфа Го је поразио светске шампионе у Go-у тако што је вукао стратешке потезе без преседана – потезе које људи нису имали на уму и које нису још увек научили да превазиђу. Да ли су ови потези изван способности људског мозга? Или могу ли људи да их науче пошто их је демонстрирао нови мајстор?

Пре него што је вештачка интелигенција почела да игра Go, игра је имала различите, слојевите сврхе: играч је тежио не само да победи, већ и да научи нове стратегије које су потенцијално применљиве у другим областима живота. Са своје стране, супротно томе, вештачка интелигенција зна само једну сврху: да победи. Она не „учи“ концептуално већ математички, маргиналним прилагођавањима својих алгоритама. Тако да када учи да победи у Go-у тако што игра другачије него што то људи чине, вештачка интелигенција је променила и природу игре и њен утицај. Да ли је ово једнострано инсистирање на надјачавању карактеристично за сву вештачку интелигенцију?

Други пројекти вештачке интелигенције утичу на људску мисао тако што развијају средства која генеришу одговоре на људске упите. Ван чињеничних питања („Колико је степени напољу?“), питања о природи стварности или смислу живота наводе на дубље промишљање. Да ли желимо да деца уче о вредностима кроз разговор са алгоритмима који су пуштени с ланца? Треба ли да заштитимо приватност тако што ћемо ограничити могућност вештачке интелигенције да сазнаје о својим испитивачима? Ако је тако, како да постигнемо тај циљ?

Ако вештачка интелигенција учи експоненцијално брже од људи, морамо да очекујемо да ће убрзати, такође експоненцијално, процес покушаја и погрешака од кога се генерално састоји људско одлучивање: да ће грешити чешће и више него што то људи чине. Истраживачи вештачке интелигенције неретко наводе да је можда немогуће ублажити ове грешке, тако што би се у програме укључиле наредбе за „етичке“ и „разумне“ исходе. Читава једна академска дисциплина изникла је из људске неспособности да се сложе око тога како да се дефинишу ови термини. Треба ли онда вештачка интелигенција да просуђује о њима?

Треће, вештачка интелигенција може да досегне своје циљеве, али да притом не може да дâ разлоге за своје закључке. У појединим сферама – препознавање образаца, анализирање великих количина података, рачунарским играма – капацитети вештачке интелигенције можда су већ надишли људске. Ако њена компјутерска снага настави да се увећава, вештачка интелигенција ће ускоро бити кадра да бира оптималне исходе на начине који су у најмању руку маргинално другачији, а вероватно значајно другачији, од онога како их људи процењују. Да ли ће у том тренутку вештачка интелигенција бити способна да објасни, на начин на који људи могу да разумеју, зашто су њене акције оптималне? Или ће одлуке вештачке интелигенције надићи објашњавачке моћи људског језика и разумевања? Кроз целу људску историју, цивилизације су стварале начине да објашњавају свет око њих – у средњем веку, верски системи; у доба Просвећености, разум, у 19. веку је то била историја а у 20. идеологија. Најтеже, али и најважније питање о свету ка коме идемо јесте: шта ће се десити са људском свешћу ако њене објашњавачке могућности потисне вештачка интелигенција, и друштва не буду и даље способна да интерпретирају свет који настањују кроз појмове који су њима смислени.

Како дефинисати свест у свету машина које своде људско искуство на математичке податке, које интерпретира њихова сопствена меморија? Ко је одговоран за делање вештачке интелигенције? Како треба одређивати одговорност за њихове грешке? Може ли правни систем који су створили људи да се носи са активностима које изводи вештачка интелигенција са више мисаоних могућности од њих и која потенцијално може да их изманеврише?

На крају крајева, термин вештачка интелигенција може бити погрешан. Свакако, ове машине могу да реше сложене, наизглед апстрактне проблеме који су раније били подложни само људским мисаоним капацитетима. Али оно што њих чини јединственим није мишљење како је до сада промишљано и искушено. То је пре меморисање и рачунање без преседана. Због своје инхерентне надмоћи на овим пољима, вештачка интелигенција ће по свој прилици победити у свакој игри која јој је намењена. Али за наше, људске, сврхе, циљ игре није само у побеђивању; он је у мишљењу. Третирањем математичког процеса као да је мисаони процес, или покушајем да сами имитирамо тај процес за себе или пуким прихватањем резултата, ми смо у опасности да изгубимо способност која је била есенција људских сазнајних капацитета.

Последице овог развоја је показао недавно створени програм Алфа Зиро (AlphaZero) који је играо шах на вишем нивоу од шаховских мајстора и на начин какав раније није био виђен у историји шаха. Самостално, за само неколико часова играња сам са собом, он је постигао ниво вештине за које је људима било потребно 1500 година да их досегну. Алфа Зиро је располагао само основним правилима игре. Ни људска бића ни подаци које је генерисао човек нису били део процеса самоучења. Ако је Алфа Зиро био способан да постане мајсторски вичан тако брзо, шта ће моћи вештачка интелигенција за пет година? Шта ће уопштено бити утицај на људске сазнајне моћи? Која је улога етике у овом процесу, који се у суштини састоји од убрзавања одабирања?

Уобичајено, ова питања су препуштена стручњацима за одређену технологију и образованима у поједином научном пољу. Постоји тенденција да се филозофи и други из поља хуманистичких наука који су помогли да се обликују концепти светског поретка ставе у запећак, пошто им недостаје знање о механизмима који стоје у основи вештачке интелигенције или зато што су заслепљени њеним могућностима.  Супротно томе, научни свет је подстакнут да истражује техничке могућности својих достигнућа, а свет технологије је преокупираним баснасловно великим комерцијалним перспективама. Побуда оба ова света је да шире границе открића пре него да их спознају. А власти, онолико колико се уопште баве овом темом, су склоније да истражују примену вештачке интелигенције у безбедносном и обавештајном сектору него да истражују трансформацију људског положаја коју је она почела да врши.

Просветитељство је почело суштински филозофским увидима које су шириле нове технологије. Наше доба се креће у супротном смеру. Оно је развило потенцијално доминантну технологију која трага за филозофијом која би је водила. Друге државе су вештачку интелигенцију истакле као велики национални пројекат. Сједињене Државе још увек нису, као нација, систематски истражиле њен пун обим, испитале њене импликације, или отпочеле процес свеобухватног изучавања. Овоме би требало дати висок национални приоритет, изнад свега, са тачке гледишта односа вештачке интелигенције са хуманистичким традицијама.

Стваратељи вештачке интелигенције, неискусни у политици и филозофији, као што сам ја у технологији, треба себи да поставе нека од питања која сам истакао како би одговоре уградили у своје инжењерске напоре. Влада Сједињених Држава треба да размотри формирање председничке комисије истакнутих мислилаца који би помогли да се развије национална визија. Једно је сигурно: ако ово не почнемо ускоро, неће проћи много а открићемо да смо почели прекасно.

Хенри Кисинџер је амерички дипломата, политиколог и историчар. Имао је истакнуто место у америчкој спољној политици између 1969. и 1977. године. Обављао је дужности државног секретара и саветника за националну безбедност у администрацијама Ричарда Никсона и Џералда Форда. Добио је Нобелову награду за мир 1973. што је изазвало доста контроверзи. Био је један од раних заговорника политике детанта са Совјетским Савезом, преговарач Париског мировног споразума којим је окончано америчко учешће у Вијетнамском рату, водио је дипломатско–политички процес отварања Кине и тако успостављања односа између Кине и Сједињених Држава које је имало велики утицај на даљи ток Хладног рата. Кисинџерова улога у америчкој политици, посебно у ратним дешавањима на Југоистоку Азије остаје контроверзна. Повезан је и са политичким одлукама које су оштро осуђиване: америчким учешћем у војном удару у Чилеу 1970. године и подршци Пакистану током Рата у Бангладешу и поред почињених злочина пакистанских снага. Кисинџер је осим практичне политичке делатности и плодан аутор у областима дипломатске историје, историје међународних односа, међународних односа и америчке политике. Хрватски превод његове књиге „Obnovljeni svet: Metternich, Castlereagh i problemi mira 1812–1822“ (превод Крешимира Фијачка) објављена је у Загребу 1976. године. Његови двотомни „Мемоари“ објављени су у Загребу 1981. године (у преводу Зорана Бошњака и Хида Бишчевића). Српски превод књиге „Дипломатија“ објављен је у два тома у Београду 1999. (превод Мире и Вере Глигоријевић) а касније је прештампаван у различитим издањима.  Први том опсежне Кисинџерове биографије „Хенри Кисинџер 1923–1968. Идеалиста“ британског историчара Нила Фергусона објавио је на српском језику ЦИРСД 2016. године (превели су је Мира и Вера Глигоријевић)

Превод са енглеског: Милош Милојевић

Извор: „Стање ствари“