Програм осмишљен да опонаша једноставне психотерапијске разговоре показао је колико лако људи могу да припишу машини разумевање и осећања. Његов творац Џозеф Вајзенбаум страховао је да би такво поверење могло да потисне људско расуђивање и одговорност.
Године 1966. рачунарски научник Џозеф Вајзенбаум направио је једноставан програм који је назвао Елиза. Готово одмах почео је да се каје због своје творевине.
Развијена да опонаша једноставну размену реченица током психотерапије, Елиза је изазвала неочекивано снажне реакције. Корисници су јој се поверавали, откривали интимне појединости о себи и обраћали јој се као да је човек. Реакције су биле толико интензивне да је, према пренетим сведочењима, чак и Вајзенбаумова секретарица на Масачусетском институту за технологију затражила да он изађе како би насамо разговарала са програмом, пише Хистори.
ПОВЕЗАНЕ ВЕСТИ
Елиза се широко сматра првим четботом на свету, а једна њена верзија и данас је доступна на интернету. Њено стварање сврстало је Вајзенбаума међу пионире вештачке интелигенције и рачунарске обраде језика — програма који препознају обрасце у тексту како би га анализирали и формирали одговоре.
– Нисам схватао да чак и врло кратко излагање релативно једноставном рачунарском програму може да изазове снажне заблуде код сасвим нормалних људи — присетио се Вајзенбаум у књизи „Моћ рачунара и људски разум”, објављеној 1976. године. Појава која је касније постала позната као „ефекат Елизе” дубоко га је узнемирила.
Све до смрти 2008. године остао је један од најоштријих и најгласнијих критичара начина на који се технологија развија и користи. Његова забринутост била је усмерена на људе и друштво које машинама додељује моћ.
Разговор који је деловао људски
Први четбот није био замишљен као покушај померања граница вештачке интелигенције. Вајзенбаум је желео да испита однос човека и машине.
ФОТО: Компас/Илустрација– Вајзенбаум је Елизу осмислио више као психолошки него као технолошки експеримент. Занимало га је како људи ступају у интеракцију са машинама, па је Елизу направио као средство за истраживање тог односа — објашњава Брајан Мерчант, аутор књиге „Крв у машини: Порекло побуне против великих технолошких компанија”.
Експеримент је, међутим, открио нешто што његов творац није очекивао. Корисници су у једноставном програму видели саговорника којем могу да повере сопствене бриге и осећања.
Како је Елиза одговарала
Елиза је у тексту који корисник укуцава тражила кључне речи, а затим, на основу препознавања образаца, стварала одговоре налик људском разговору. Вајзенбаум је веровао да ће објашњење тог механизма бити довољно да разбије привид разумевања.
– Елиза показује, ако ништа друго, колико је лако створити и одржавати илузију разумевања — написао је. Очекивао је да ће се, када људи сазнају како програм функционише, његова „магија” распасти.
ФОТО: Компас/ИлустрацијаПрема Мерчанту, Вајзенбаум је био запрепашћен тиме што су корисници тражили емоционалну блискост са четботом, нарочито зато што је технологија била тако једноставна. Чак и пошто би им било објашњено колико је програм ограничен, настављали су да му приписују разумевање, емпатију и намеру.
Таква реакција открила је узнемирујућу страну односа људи и машина. Познавање начина рада програма није нужно спречавало кориснике да у њему виде нешто више од рачунарског механизма.
Нелагода њеног творца
– Вајзенбаум је препознао да наша жеља да успостављамо односе, заједно са лакоћом с којом би рачунарски програм могао да буде направљен и продат како би ту жељу искористио, може да учини људе подложним масовној експлоатацији. Моћ би била у рукама оних који поседују рачунарске системе и управљају њима — каже Мерчант.
Лук Фернандез, ванредни професор на Школи рачунарства Универзитета Вебер стејт, такође истиче да је Вајзенбаум у људској способности пројекције видео могући ризик. Реч је о склоности да сопствена очекивања и људске особине приписујемо машинама.
– Вајзенбаум је одбацивао идеју да је правац у којем нас технологија води неизбежан, као и да сама технологија има способност самосталног деловања — објашњава Фернандез. Бринуо је да бисмо, ако машинама придамо превелики значај, могли да угрозимо одговорност коју имамо једни према другима.
Његов однос према технологији обликовало је уверење да људско расуђивање носи моралну одговорност. Као млади тинејџер био је принуђен да побегне из нацистичке Немачке, а искуство прогона утицало је на његово разумевање дехуманизације.
ФОТО: Компас/ИлустрацијаВајзенбаум је увидео да су нацистичком геноцидном програму помогли и бројни обични људи који су одлучили да окрену главу. Разумео је и моћ антисемитске пропаганде која је јеврејске породице, попут његове, лишавала људскости у служби нацистичке еугеничке замисли о стварању наводно савршене расе. Таква кампања дехуманизације подстицала је равнодушност јавности.
Због тог искуства посебно га је узнемиравао језик којим су поједине колеге поредиле људско расуђивање са могућностима AI. Противио се опису људи као „машина од меса”, који је користио истраживач Масачусетског института за технологију Марвин Мински, као и идеји да би будући роботи могли да представљају „исправку и побољшање природе”. Упозоравао је да је такав начин размишљања подстицао неке од највећих злочина у историји.
Поверење које надживљава програм
– У нацистичко доба Јевреји су представљани као штеточине, што је била метафора која је оправдавала масовно убијање. Данас идеја да је човек само машина за обраду информација, коју може да замени робот, добија све већу тежину и моћ — рекао је Вајзенбаум немачком новинару Бернхарду Перксену 1998. године.
Упозоравао је да се огромна моћ нељудске представе о човеку може ширити друштвом попут вируса. Сматрао је да човечанство мора одлучно да се супротстави таквом погледу.
ФОТО: Компас/ИлустрацијаВајзенбаум није одбацивао могућност да технологије попут AI у будућности постану веома способне. Ипак, потенцијална моћ машина није била његова главна брига. Страховао је да би оно што људи пројектују на машине могло да ослаби њихово сопствено расуђивање.
Од седамдесетих година до почетка двехиљадитих залагао се за етику технологије и позивао научнике да се суоче са друштвеним последицама свог рада. Опасност коју је предвиђао није била у томе да ће AI постати чудовиште које уништава цивилизацију, већ да ће друштво почети да га посматра као лажног идола.
Веровао је да стварна претња човечанству долази из њега самог, док јој технологија само пружа средство испољавања. Пријатељима је зато више пута понављао:
– Ја нисам критичар AI. Ја сам критичар друштва.
