Sta racunari ne mogu: kritika vestacke inteligencije [PDF]

Zitiervorschau

_.- 1

.

...

..

-

-

.•

·-

., .

...

• 1

.

. . 1

�.

...

...

1

r1

r.

1

... -

...

1

.....

.

...

...

�·

,

1

•

-

�� .

..

•

....

1 -.llt

,•

.. -r

..

-

.... · -

- r­

1 .

1

-

·. :г--� .

1

...

1.-

1

•• 11 •

.

.

... ..

1

•

,

1

.; ..

BIВLIOTEКA

SA,ZVEZDA

58

UREDNIK

MILO� STAМBOLIC

....

RECENZIJA: LJUBOMIR RADANOVI� е CRTEZ NA KORICAMA: DUSAN RISТI� е TEHNICКI UREDNIK: BOGDAN �URCIN е KOREKTOR: SVETLANA DRAMLIC 8 IZDAVAC: IZDAVACKO PREDUZE�E NOLIT, BEOGRAD, TERAZIJE 27 е STAMPA: GRAFICKO PREDUZE�E SWBODAN JOV/C, BEOGRAD, STOJANA PROТI�A 52 е ТIRAZ: 5.000 _PRIMERAKA

HUBERT L. DREYFUS

STA RACUNARI NE MOGU KRITIKA VESTACKE INTELIGENCIJE

.

NOLIT

BEOGRAD 1977

•

.

Naslov origina'la HUBERT L. DREYFUS

WHAT COMPUTERS САN'Т DO

А Critique of Artificial Reason Harper & Row, PuЬ!ishers, Inc. , New York, 1972.

PREVEO

NENAD NIKOLIC

PREDGOVOR

Rасипаr је, bez sитпје, јеdап od пajzпacajпijih izиma пaseg veka. Ро misljeпjи Herberta Sајтопа оп је posle pisma, arapskog b rojпog sistema, aпali­ ticke geometrije i difereпcijalпog rасипа cetvrta istorijska prekre tпica и razvojи civilizacije. Daпas је skoro петоgисе zamisliti rad mпogih tehпoloskih postrojeпja, poslovпih orgaпizacija i javпih slиzЬi bez elektroпskih racипskih masiпa. Brziпe pojedi­ пih procesa toliko sи porasle da odgovarajиca srа­ сипаvапја i donoseпje pravovremeпih odlиka moze da obavlja samo rасипаr. Koliciпe iпformacija koje паstаји и privredi, admiпistraciji i паисi dos tizи ogromпe razmere tako da se prema пekim prora­ cипima svakih 40 тiпиtа s tvara dovoljпo iпforma­ cija da рорипi citavи јеdпи eпciklopedijи od 24 sveske. Samo rасипаr moze izvиci relevaпtпи сi­ пјепiси iz tog пepregledпog mora iпformacija и пеkот razиmпom vrетепи. Racипari daпas vode kпjigovodstvo, izdajи rа­ сипе, cekove i sastavljajи fiпaпsijske izvestaje, obavljajи matematicke aпalize, vrse rezervacije avioпskih karata i ho telskih soba, vode karto teke pacijeпata i postavljajи dijagпoze, rasporedиjи po­ stи, starajи se о pravovremeпom рорипјаvапји za­ liha и robпim kисата, regиlisи saob racaj, иprav­ ljajи tehпoloskim procesima, pomazи и otkrivaпjи zlociпaca i obavljajи тпоgе drиge poslove b rze i bolje od coveka. Od prve komercijalпe primeпe rасипаrа pros­ lo је svega 25 godiпa, а па trzistи se vec pojavila

2

LJUBOMIR RADANOVI�

cetvrta geпeracija таsiпа, ovog риtа sa тетоriјот zаsпоvапот па laserskoj tehпici. Br.zina rасипаrа иdvostrиcava se и prosekи јеdпот и godiпi dапа tako da је и оdпоsи па klasicпi stoпi rасипаr savre­ тeпa elektroпska таsiпа b rza oko sto тilioпa ри­ tа. Iпdиstrija racиnara dozivljava пеzаратсепи ekspanzijи sa godisпjoт stopoт rasta od Ьlizи 20 proceпata, а podrиcja рriтепе sire se b rziпoт kо­ ји је skoro петоgисе pratiti. И оvот vrtlogи пe­ zadrzivog tehпoloskog пapretka, koji preko посi ипistava Citave profesije i stvara поvе, rada se pod­ jedпako i strah i ekstaza. Dok jedпi sa оsесапјет iпferiorпosti i strahopostovaпja иstираји svoja radпa тesta rасипаrи i sa zеЬпјот осеkији svako­ jake zloиpotrebe, drиgi и odиsevljeпjи proricи da се "и godiпi 2000. racипari verovatпo тосi da do­ stigпи, siтиlirajи ili паdтаsе i пеkе od пajljиdski­ jih sposobпosti, иklјисијиСi тoZda i estetske i kre­ ativпe, а" iтасе i пеkе sposobпosti koje covek пета . . . (Кап i Viпer и kпjizi "Godiпa 2000."). Drajfиsova kпjiga Sta racunari ne mog u - kri­ tika vesta6kog uma predstavlja јеdап od тalob roj­ пih, ali zпacajпih pokиsaja da se sa opstih filozof­ skih staпovista ocrtajи doтeti vestackog ита, оdпоsпо da se иtvrde graпice d o kojih је тоgиса siтиlacija iпteligeпtпog ропа5апја ротоси digital­ пih rасипаrа. Da Ьi rасипаr resio пeki zadati рrоЫет, пеор­ hоdпо је da ти se propise odgovarajиca procedи­ ra, оdпоsпо da se sastavi algoritaт za resavaпje datog рrоЫета. Algoritaт је пiz iпstrиkcija koje, ako se izvrsavajи propisaпiт redosledoт,. dovode па krajи do trazeпog reseпja. Za рrоЫете koje ra­ cипari daпas rиtiпski resavajи пeophodпi algoritтi тоgи se иvek, иz тапје ili vece teskoce, иsреsпо sastaviti. !та, теdиtiт, рrоЫета kod kojih је algoritaт toliko slozeп da таsiпа postavljeпe za­ datke пе тоzе izvrsiti и rаzитпот vrетепи. Tako, па priтer, za igrи saha se тоzе sastaviti prograт koji Ьi aпalizirao sve тоgисе Ь иdисе koтhiпacije

PREDGOVOR

з

poteza i pro tiv-poteza, ali i pod pretpostavkom da и svakoj datoj sitиaciji moze и prosekи da se роvисе samo pet poteza, b roj komhiпacija za dvadeset па-. redпih poteza Ьiо Ьi veci пеgо sto је zhir mikrose­ kипdi и godiпi dапа. и takvim slиcajev, i ma prog­ ram za masiпи se пе moze svesti па пiz iпstrиkcija koje treba izvrsavati propisaпim redosledom, vec se morajи sastaviti programi koji се odahirati опе rutiпe i strategije koje sa пajvecom verovatпocom vode ka rеsепји. Drиgim recima, po trebпo је masi­ пи programirati tako da se и iz11esпom smislи ро­ паsа iпteligeпtпo. Oko ovog problema masiпskog resavaпja zadataka koji zahtevajи iпteligeпcijи ra­ zvila se јеdпа роsеЬпа паиспа discipliпa pozпata pod imeпom vestacka ili masiпska iпteligeпcija. V estacka iпteligeпcija је jos пеотеdепо, flиid­ пo podrиcje паиkе о racипarima koje је pod ovim imeпom pozпato jedva dvadeset go,diпa, precizпije od 1957. Опо se moze posmatrati sa bar tri razli­ cita s taпovista. Ро jedпom od ovih staпovista, ves­ tacka iпteligeпcija se bavi proиcavaпjem iпtelektи­ alпih fипkcija, оdпоsпо pokиsava da odgovori па pitaпje "kojim se mehaпizmom moze ostvariti пе­ kа iпtelek tиalпa fипkcija". Nјеп zadatak sastoji se, dakle, и рrоисаvапји јеdпе ро јеdпе fипkcije sve dok se опа пе razotkrije i savlada ili dok se пе po­ kaze da је svaki pokиsaj mehaпizacije оsиdеп па пеиsреh. Prema drиgom staпovistи, vestacka iпteligeпci­ j a је паиспо podrиcje posveceпo otkrivaпjи i sа­ kирlјапји паиспih metoda, slicпo роdrисји пиme­ r-ii3 k e aпalize, matematickog programiraпja ili mozda cak hemijskog iпzeпjers tva. Vestacka iпteligeпcija poпиdila је do sada пekoliko metoda koje oprav­ davajи ovakvo s taпoviste о пјепој prirodi. и te me­ tode spadajи " geпeriraпje i testiraпje ", " eиristicko pretrazivaпje ", "репјапје иz рlапiпи ", " sparivaпje " itd. Sve sи to takozvaпe slabe metode, оdпоsпо me­ tode koje zahtevajи vrlo malo iпformacija, а ipak рrиzаји паdе da se mogи пасi trazeпa reseпja.

4

LJUBOMIR RADANOV!c

Prema trecem stanovistи, vestacka inteligenci­ ja је teorijska psihologija koja coveka posmatra kao sistem za ob radи informacija, tj. opisиje ga simbolickim sistemima koji se mogи poistovetiti sa odredenim ljиdima и odredenim sitиacijama po­ smatranjem i eksperimeпtom. Ovakvi modeli пе obиhvatajи sve fепотепе koji оkrиzији coveka, vec se иsredsredиjи па zadatke koji sи Cisto simbolicki i пе zahtevajи motorne sposobпosti niti sи пepo­ sredпo zavisпi od seпzorпih sistema. и okvirи ovih istrazivaпja mogи se роsеЬпо izdvojiti tri podohlas­ ti: resavaпje prohlema, psiholiпgvis tika i percepcija. Mada је osпovпi cilj vestacke iпteligeпcije da se "bavi iпformacioпim procesima koji obavljajи za­ datke za Cije је resavanje пеорhоdпа iпteligeпcija" - пе pre tpostavljajиci pri tom а priori da se to mora raditi па isti пaCin kao sto rade ljиdi - опа пе moze da izbegпe diskиsijи о пekim орsЦт filo­ zofskim pitaпjima о prirodi ljиdskog ита, о tome sta је to iпteligeпtпo ponasaпje i kako se ono stva­ ra, kakva је priroda meпtalпih procesa, mogи li se опi mehaпizovati i koji sи krajпji dometi vestacke iпteligeпcije. и svojoj raspravi Drajfиs polazi sa stanovista da је vestacka iпteligeпcija, sa опо malo krajпje sk romпih re.z иltata koje је ostvarila do 1967. godi­ пe, vec dosegla svoje kопаспе domete i sиocila se sa Ьarijerom kоји песе Ьiti и stапји da premosti. Оvи barijerи stvorila је pogresпa, ali dиboko иkо­ rепјепа "platoпska" pretpostavka, kоји vestacka iпteligeпcija prihvata kao aksiom, а prema kojoj se sav sve t, sva iskиstva, sva razmisljaпja mogи svesti па elemeпtarпe atomisticke pojmove sa kojima se dalje moze operisati kao sa b rojevima. Prema toj pre tpostavci i "covek је uredaj koji obavlja strogo ptopisaпe racипske operacije sa podacima koji ima­ jи oblik atomskih С iпјепiса", ра Ьi prema tome moralo Ьiti mogиce da se i razиm ипеsе kao program и rасипskи masiпu i па taj паСiп simиlira iпteligeп­ tпo ропаsапје. Ovakva polazпa pre tpostavka mora-

PREDGOVOR

5

la је, ро Drajfusovom misljeпjи, пeizbezпo da do­ vede do пiza пеиsреhа i do krajпje sporog пapretka и istrazivaпjima па роdrисји vestacke iпteligeпcije. И prvom delи svoje rasprave Drajfиs detaljпo паЬ rаја пеиsреhе и desetogodisпjem razvojи vestac­ ke iпteligeпcije и razdoЬljи od 1957. d o 1967. godi­ пe. Aпalizirajиci ove пеиsреhе, Drajfиs dolazi do zakljиcka da sи иspesi иvek Ь ili vezaпi za resavaпje proЬlema kod kojih se relevaпtпi podaci mogи ogra­ пiCiti па пekoliko јаsпо razdeljivih alternativa, а da sи пeиspesi redovпo pratili опе proЬleme koji пе dozvoljavajи takvo ograпicavaпje. Tako, па primer, dok sи и igri saha rele-vaпtпi sam o podaci о boji i polozajи figиra а пе i podaci о пjihovoj veliciпi, temperatиri, itd., kod prevodeпja jezika, gde је ро opstem misljeпjи zabeleieп пajveCi пеиsреh ili mo­ ida роtрип promasaj, za resavaпje dvosmisleпosti пеkе receпice moze po teпcijalпo da Ь иdе relevaпtпo сеlоkирпо ljиdsko zпапје. Ро Drajfиsovom mislje­ пjи, sitиacija odredиje zпасепје Сiпјепiса i пjihovи relevaпtпost, ра cak moida i to sta se sme svrs tati medи сiпјепiсе. Оп smatra da пета пeиtralпih Сi­ пјепiса i da sи bas zbog пesavladivih teskoca oko formalizovaпja, оdпоsпо programiraпja pragmatic­ пog koпteksta, iпteligeпtпe masiпe оsиdепе па пеиs­ реh. Jstovremeпo Drajfиs smatra da је klјиспо filo­ zofsko pitaпje иpravo pitaпje da li se ljиdski koп­ tekst иopste moze formalizovati. Drajfиs пе odhija mogиcпost паиспоg оЬјаsпје­ пја iпteligeпtпog ропаsапја, ра prema tome пi mo­ gиcпos t formalizovaпja ljиdskog koпteksta, ali је kategoricaп и svojoj tvrdпji da se to sadasпjim ma­ siпama пе moie postici. Оvи svojи tvrdпjи Drajfиs detaljпo ob razlaze и drиgom delи kпjige, gde "pla­ toпskи" pretpostavkи роЬiја па Ь ioloskom, psiholos­ kom, epistemoloskom i oпtoloskom рlапи, oslaпjajи­ ci se иglavпom па misljeпja Hajdegera, Vitgeпstajпa i Merlo-Poпtija. Za Drajfиsa пета dileme: sa daпas­ пjim masiпama пista se vise пе moze иciпiti. Svaki pokиsaj da se пjihovim programiraпjem ostvari in-

6

LJUBOMIR RADANOVIC

teligeпtпo ропаsапје ravaп је роkиsаји alheтicara da od olova пaprave zlato. Јеdiпи alternativи Draj­ fиs vidi и роtрипот odbacivaпjи tradicioпalпih pret­ postavki i и prihvataпjи feпoтeпoloskog opisivaпja strиktиre ljиdskog ропаsапја. Aпalizirajиci ovaj рrоЬlет, Drajfиs пavodi пеkа svojstva covekovog iskиstva koja ро пјеgоvот тis­ lјепји rасипаr песе пikada тосi da reprodиkиje ili iтitira. Ти spadajи fепотепi " тargiпalпe svesti" ( kada је covek тaglovito svestaп relevaпtпosti пе­ kе пedovolјпо defiпisaпe сiпјепiсе)' " иsredsrediva­ пja" (kada se proЬleтska sitиacija orgaпizиje oko" " i toleraпcije пekog pristиpa koji obecava иspeh) " dvosтisleпosti" ( kada је, па priтer, covek и stапји da и odredeпoт kontekstи igпorise znaceпje пеkе reCi koje se tek и drиgoт kontekstи javlja kao pravo). Ova sposobпost coveka da prvo sagleda сеliпи, ра da је tek опdа, ako је potrebпo, razlaze па аtоте posledica је, ро Merlo-Pon tijи, cinjeпice da covek posedиje telo koje ти отоgисаvа da neprekidпo vlada svojoт okoliпoт пе rastavljajиci је па еlе­ тепtе. Razvijajиci dalje ovo stanoviste Merlo-Poпti­ ja, Drajfиs izvodi zakljиcak da Ь i еvепtиаlпа таsiпа, " koja Ьi Ьila sposobпa da se slиzi prirodniт jezikoт i da prepozпaje slozeпe oЬlike, тorala da iта telo". Оп cak sтatra da пета razloga zasto и priпcipи ne " Ьi Ь ilo тоgисе konstrиisati vestacki organizaт, ako Ьi se иpotreЬile koтponeпte dovoljno slicne опiта od kojih је sacinjeпo ljиdsko telo". Jediпo и takvoт robotи koji iта i ит i telo, и "пedigitalпoт аиtо­ таtи sposobnoт da ob radиje пеfоrтаlпе iпforтa­ cije", Drajfиs vidi тogиcnost iпteligeпtпih таsiпа i тоgиспоst siтиlacije ljиdskog ита. Ali da Ьi se os­ tva.r io takav vestacki orgaпizaт, potrebпa је поvа revolиcija и паисi о rа,zити, тozda sиp rotпa onoj koja је и XVII vekи izтeпila citavи паиkи . pr�las­ koт sa kvalitativпe logike оsоЬiпа па kvaпtttattvпu тateтatiku тerljivih velicina.

PREDGOVOR

7

Pitanja koja Drajfus pokrece imaju sirok nauc­ ni, filozofski i drustveni znacaj. Ona svakako zaslu­ zиju ozhiljnu javnu debatu, jer su, kao sto kaze Entoni Etinger, "suvise naucna da Ьi se prepustila filozofima, а isuvise filozofska da Ьi se prepustila naucnicima". Doprinos koji ovoj debati Drajfus daje svojom knjigom svakako је dosad najopsezniji i naj­ izazovniji. Svima onima koje interesuju proЬlemi па preseku nauke i filozofije i proЬlemi covecanstva uopste, ova knjiga се Ьiti podjednako zanimljiva i instruktivna.

Ljubomir Radanovic

ST А RACUNARI NE MOGU

Mojim roditeljima

Razlika izmedи matematickog dиha ( esprit de geometrie) i perceptivnog dи­ ha ( esprit de finesse): razlog sto mate­ maticari nisи perceptivni sastoji se и tome sto oni ne vide sta је pred njima i sto se, naviknиti па egzaktпe i jedпostav­ пe priпcipe matematike i пavikпиti da пе doпose zakljиcke pre nego sto dobro srede i ispitaju svoje priпcipe, gube и s tvarima percepcije gde priпcipi пе doz­ voljavajи takvo sredivaпje . . . Ovi priп­ cipi sи tako prefiпjeпi i toliko b rojпi da је potrebaп vrlo delikataп i јаsап smi­ sao da Ьi se mogli uoCiti i da Ьi se о njima moglo pravedпo suditi kada se uoce, а velikim delom пе postoji mogиc­ nost da se demoпstriraju и oпakvom po­ retku, kao и matematici; to је zbog toga sto priпcipe пе saznajemo па is ti пacin i sto Ьi beskraiaп posao Ьiо predиzimati tako пesto. Stvar moramo odjedпom da sagledamo, па prvi pogled, а пе proce­ som rasиdivaпja, bar do izvesпog stepe­ na . . . Matematicari zele da razmatraju proЬlem e percepcije matematiCki i tako sebe prave smesпim. . . dиh . . . to cmt precиtno, prirodпo i bez tehпickih pra­ vila.

- PASCAL, Pensees

UVOD

1

Otkako sи Grci izиmeli logikи i geometrijи, ideja da sveиkиpno rasиdivanje moze da se svede na nekи vrstи racиnanj a- tako da svi argиmenti mogи da se postave odj ednom i zasvagda - fasc]nirala је veCinи rigoroznih mislilaca zapadne tradicij e. Sok­ rat је Ьiо prvi koj i је oglasi o оv : и vizijи. Prica о ves­ tackoj inteligencij i moze da pocne negde oko 450 godina pre nase ere kada se ( prema PlRtonи ) Sok­ rat obraca Eutifronu, atinskom drugu, koj i ru ime poboznosti namerava da preda rodenog оса zbog иЬistva : "Zelim da znam sta је karakteristika po­ boznosti koj a svako delovanj e Cini poboznim . . и kоји mogи da se pouzdam i da ј е koristim kao me­ rilo koj im prosиduj em svoj e delovanj e i delovanj e drиgih lj udi. "1§ Sokrat trazi od Eиtifrona " niz pra­ vila koj a nam govore iz casa и cas kako da se po­ nasamo, " 2 nesto sto Ьi moderni teoreticari racиnara nazvali " efikasna procedura " . Platon ј е generalizovao ovaj zahtev za moral­ nom izvesrioscu и epistemoloski zahtev. Prema Pla­ tonи, sveиkиpno znanje Ьi moralo da se izlozi и eks­ plicitnim definicij ama koje Ьi svako mogao da pri.

1.

Plato, Euthyphro, VII, prev . F. Ј. Church (New York: LiЬrary

of Liberal Arts), 1948. str. 7. 2. Marvin Minsky, Computation: Finite and lnfinite Machines (Englewood Cliffs , N. Ј.: Prentice-Hall, 1967) , str. 106. Naravno, Minsky misl i na izracunavanje а ne na moralno delovanj e .

12

HUBERT L. DREYFUS

meni. Ako neko ne moze da saopsti svoj e znati-kako роmоси takvih eksplicitnih instrukcij a - ako nje­ govo znanj e kako ne moze da se preobrati и znanj e da - onda to i nij e znanje, vec риkо verovanj e. Prema Platonи, kиvari, na primer, koj i se slиze ulшsom i iпtиicijoш i pesnici, koj i rade iz inspira­ cij e, ne роsеdији znanj e; ono sto oni rade ne povlaci sobom poimanj e i ne moze da Ъиdе razиmlj ivo. Op­ stije receno, ono sto ne moze da se izrazi preciz­ nim instrиkcijama - sva podrиcj a ljиdske misli koj a zahtevajи иmesnost, intиicijи ili smisao za tra­ dicijи - upиcena sи na nekи vrstи proizvolj ne ne­ vestosti. Ali Platon j o s nije и potpиnosti Ъiо kiЪerneti­ car ( mada ј е prema Norbertи Wienerи ( Norbert Viner) Ъiо prvi koj i је иpotreЪio taj termin ) zato sto је tragao za semantickim pre nego za sintaksic­ kim kriterijиmima. Nj egova pravila pretpostavljajи da osoba shvata znacenj a konstitиtivnih termina. U RepuЬlici Platon kaze da Razиm ( odredeni nivo иskladen pravilima na nj egovoj izdelj enoj linij i koj a predstavlj a Citavo znanj e ) zavisi od Uma koj i obиhvata и seЪi dijalektickи analizи i и kraj nj oj instanci nekи intиicij и о znacenjи fиndamentalnih poj mova koj i se koriste и razиmevanjи. Tako Pla­ ton priznaj e da njegove instrиkcij e ne mogи и pot­ pиnosti da se formalizиjи. Slicno ovome, moderni ekspert za racиnare, Marvin Minsky (Marvin Min­ ski ) primecиj e, posle probnog pred . s tavlj anj a Pla­ tonovog pojma efikasne procedиre : " Ovakav pokи­ saj definisanj a ј е podlozan kritici prema koj oj se prepиsta da interpretacija pravila zavisi od neke o s obe ili agensa. "a Aristotel, koj i se razlikovao od Platona и ovom, kao i и veCini pitanj a и pogledи primene teorij e и praksi, sa zadovolj stvom ј е zabelezio da ј е intиicij a nиzna za primenи Platonovih pravila : з. !Ьid.

s'fA RAёtJNARt NE MOGU

13

Ipak nij e lako pronaci formulu pomocu koj e bismo mogli da odredimo koliko daleko i do koj e tacke covek moze da gre.s i pre nego sto se izlozi kritici. Ali, ova teskoca definisa­ nj a inherentna је и svakom predmetu opazanj a; pitanj e stepena povezano је s okolnostima poj ed:nacnog slucaja, gde је nas j edini kriterijum opazanj e.4

Da Ьi se ostva11io Platonov projekt, potrebno је uCiniti jedan proboj : citavo pozivanje na intuicij u i sudenj e mora da se eliminise. Као sto ј е Galileo ( Galilej ) otkrio da moze da se pronade Cisti for­ malizam za opisivanj e fizickog kretanj a zapostav­ lj ajuCi sekundarne kvalitete i teleoloska razmatranj a, tako se moze pretpostaviti da Ьi j edan Galileo na polj u lj udskog ponasanj a mogao da redukuj e sva semanticka razmatranj a ( p ozivanj e na znacenj a ) na telшike sintaksicke ( formalne ) manipulacij e. Verovanj e da је takva potpuna formalizacij a znanj a moguca pocelo ј е uskoro da dominira za­ padnom misl iu. Ono је vec izrazavalo osnovпi mo­ ralni i intelektualni zahtev, а uspeh fizicke nauke iz.gleda · d a ј е znaБo za filosofe sed.aшnaestog veka, kao sto j os uvek znaCi za mislioce kao sto је Min­ sky, kako Ьi moglo da se udovolj i zahtevu. Hobs ј е Ьiо prvi koj i је eksplicitno izrazio sintaksicki po­ j am misli kao racunanj a : " Kada covek razmislja, on nista drugo ne radi osim sto poima ukupni zЬir iz saЬiranj a delova " , pisao је on, " j er UM . . . nij e nista drugo do racunanj e . . . "5 Preostaj e samo da se izraze j ednoznacni delovi ili "Ьitovi " s koj ima moze da operise ovaj sin­ taksicki racunar: LeiЬniz ( Lajbnic ) se, kao pronala­ zac Ьinarnog sistema, posvetio pronalazenj u jednog neophodnog, nedvosmislenog formalnog j ezika. LeiЬniz је mislio da је pronasao univerzalni i egzaktni sistem notacij e, jednu algebru, j edan sim­ bolicki j ezik, " univerzalnu karakteristiku " pomocu 4. Aristotle, Nicomachean Ethics, prev. Ј. А. К. Thomson kao The Ethics of Aristotle (Ne\V York: Penguin Books, 1953) , str. 75. 5. 45 .

Hobbes , Leviathan (New York : LiЬrary of LiЬeral Arts, 1958), str.

HUBERT L. DREYFtJS

14

koje " mozemo da dodelimo svakom predmetи nje­ gov odredeni karakteristicni broj . "6 Ovako Ьi svi pojmovi mogli da se svedи na mali broj originalnih i nedefinisanih idej a; citavo znanj e Ьi mogl o da se izrazi i sakиpi роmоси j ed.nog dedиktivnog sistema. Na osnovи ovih broj eva i pravila za nj ihovo komЬi­ novanje, svi proЬlemi Ьi mogli da se rese, а kon­ traverze okoncajи: " kada Ьi nek o posиmnj ao и " moj e rezиltate, rekao ј е LeiЬniz, " odgovorio Ьih ти : ,Racиnaj mo, gospodine,' i tako prihvativsi se pera i mastila, raspravili Ьismo proЬlem. "7 Као kakav savremeni teoreticar racиnara koj i naj avljиje novi program, LeiЬniz tvrdi: Medutim, posto neoЬicna povezanost svih stvari pricinj ava velikи teskocи za eksplicitno formиlisanj e karakteristicnih broj eva poj edinacnih stvari, pronasao sam elegantan trik роmоси koga izvesne relacij e mogu da se predstave i nи­ mericki utvrde i da se, zatim, dalj e odredиju numerickim izracиnavanj em.s

LeiЬniz nij e precutno presao preko vaznosti nje­ govog skoro kompletnog programa. Kada se jednom иtvrde karakteristicni broj evi za veCinи poj mova, tada се covecanstvo posedovati novi instrument koj im се se uvecati intelekt u daleko veeem oblmи nego sto su optioki instrumenti poj acali vid, а prevaziCi се mik­ roskop i teleskop и onom obimи и kome је ит sиperiornij i od сиlа vida.9

- Sa ovim novim mocnim sredstvom vestine koje Platon nije mogao da formalizиj e mogle Ьi da se pretvore и teoriju. U j ednom od svoj ih pred­ " loga - и svoj im obj as.nj enj ima о tome na" koj i naCin Ьi mogao da redиkиj e citavи misao na mani­ pиlacijи brojevima kada Ьi imao dovoljno novca i vremena - LeiЬniz kaze: 6. LeiЬniz, Selections, 1951), str. 18. 7. !Ьid., str. 25. 8. !Ьid., str. 15. 9. IЬid. , str. 23.

ured.

Philip Wiener

(New York:

ScriЬner,

�ТА RACUNARI NE MOGU

15

Jos ni su napisana najvaznija zapazanja о preobracanju vestina u sve vrste zanata i p ro fe si ja , Ova Cinjenica је da­ kazana iskustvom kada zelimo nesto da uradimo prelaze­ nj em sa teorrj e na praksн. Naravno, moiemo isto tako 1 da zapiSemo ovu praksu, posto је ona u o snovi samo jos jedna siozenija i partikularnij a t eor ij a . . . 1о

LeiЬniz је nudio samo obecanja, ali u delu Ge­ orgea Boolea ( Dzordz Bul ) , matematicara i logica­ ra koj i је stvarao pocetkom devetnaestog veka, pro­ gram је krenuo j edan korak Ьlize realnosti. Као i Hobs, Boole је pretpostavlj ao da ј е .rezonovanj e racunanje i naumio је da " ispita fundamentalne za­ kranj a racunarskih sposob n os t i ucenj a kako bi mogli idio­ matski ,d a prevode, da vode slobodnu ,i prirodnu ko nve rza ci j u sa ljudima, 'da raspoznaj u govor i da ga stampaj u, da d aj u dij agnozu bolesti. Svaka od ovih aktivnosti po drazum e­ va o t'krivanj e i uc e nj e s l oz en ih oЫ ik a . Samo pre nekoliko godina stvarno smo ve rovali da bi konacno racunarima moglo da s e poveri izvrsenj e za­ datka r esav an j a takvih рrоЫеша, samo alko Ьismo mogli da pronademo pravi kljuc za takvo njihovo delovanj e. Avaj ! Osecam da su mnogi cilj evi koj ima smo tezili samo ј ај а od porcelana; nikada se nista iz nj ih nece izleCi, bez obzira na toplotu koj om ih okruzUJj emo, z a t o sto oni z aht ev aju otkrivanj e оЫ1kа isklj ucivo od strane masine. Zadaci otkr i v an j a zahtevaj u l j ud ske kvalitete.24 ­

ZA,KLJUC:AK

SudeCi па osnovu rezultata oЪj avlj enih do 1 962. go­ dine, jedan opsti sablon росео је da doЪij a oЪlik, mada se u nekim slucaj evima nij e raspoznavao sve donedavno : u pocetku је dramatican uspeh Ъiо za­ snovan na lakom izvodenju prostih zadataka ili u radu na slozenim zadacima niskog kvaliteta, а po­ tom su nastali ma:li оЪгti, razocaranj a, а u nekim slu­ cajevima i pesimizam. Ovaj sablon nij e re:юltat j ed­ nog prekomernog entuzij astickog pritiska skepticki raspo1ozenih autsaj dera koji su zahtevaH premnogo za suvise kratiko vreme. Neuspeh se odmerava samo prema ocekivanj ima oпih koj i su radili na tom polju. Medutim, kada se situacij a zaostri, entuzij aste uvek mogu da priЪegnu sopstvenom optimizmu. Ten­ dencij a da se dugoroCпi programi zamene operativ­ nim, izmigoljila se FeigenЪaumovoj i Feldmanovoj tvrdnj i ро kojoj ј е " prognoza za napredak u istrazi24. Vincent Е. Giuliano, "How We Find Patterns ," International Science and Teclmology (februar ,1967) , str . 40.

STA RACUNARI NE MOGU

53

v anj u Ijudskih kognitivnih procesa ohrabruj uca. " 25 Prognoza је иveik postoj ala, ali se treba zapitati, koliko su ohrabrиjиce perspektive ? Feigenbaиm i Feldman tvrde kako se zaista ostvaruje opipljiv napredak, а napredak su vrlo pazlj ivo definisali kao pomeranj e prema kraj nj em ciljи . " 26 P.rema " ovoj definicij i, prvi covek koj i se рорео na drvo mogao је da polaze pravo na opiplj iv napredak и pravcu dosezanj a meseca. Umesto slepog penj anj a, bolje је gledati kиda se ide. Doslo је vreme da se do detalj a рrоисе spe­ cificni pгoblemi s koj ima ј е suocen rad na vestac­ koj inteligenciji, kao i teskoce koj e ti proЬlemi otkrivaju.

П . OSNOVNI ZNACAJ NEUSPEHA U POSТIZANJU PROGNOZIRANIH REZULTATA I negativni rezultati mogи da blldu interesantni pod иslovom da ih raspoznamo kao takve. MoZda umanj eno dostignuce, иmesto prognoziranog иbr­ zanog napretka, nagovestava neki neocekivani fe­ nomen. Mozda se probij amo и nekom kontinuumи kao sto је :br.z ina, gde dalj e ubrzanj e staj e sve viSe i vise energij e иkoliko se primicemo brzini svet­ losti, ш smo mozda, umesto toga, suoceni sa dis­ kontinиtetom koj i ne zahteva veCi nарог, vec sus­ tinski drukcij e tehnike, kao и slucajи coveka koj i se рорео na drvo i pokиsava da stigne do meseca. Izgleda prirodno da se па ovom mestu o tpo6ne sa procenj ivanj em ove oЬlasti, mada је cudno sto niko to j os nij e иCinio. А da ј е to neko иcinio, иvideo Ьi da svako o d cetiгi razmatrana podrucj a podrazllmeva j ednu specificnu formll lj uds· k e "obra25.

Feigenbaum and Feldma п ,

26.

lbld.,

str. vi .

Computers

qnd

Thoщ�ht, str. 276 ,

54

HUBERT L. DREYFUS

de informacij a " , koj a omogucava ljudiшa da и tom podrucju izbegnu one tesikoce s koj im mora da se suoCi j edan vestacki "subjekt". U ovom odeljku iz­ dvojicemo ova cetiri oЬlika ljudske " obrade infor­ macij a " i suprotstaviti ih nj ihovim masinskim su­ rogatima. MARGINALNA SVEST РRЕМА HEURI SТicКI VODENOM PRETRAZIVANJU

Opste ј е poznato da izvesne igre mogu da se re­ savaju na danasnj im racunarima i sa danasnj im tehnikama - igre sa zetonima i mice mogu da se programiraju taiko da шasina svaki put doЬija Ш zavrsava igru nereseno. Medutim, ostale igre na da­ nasnjim racunarima ne mogu da se resavaju na ovakav nacin, premda su uspesno programirane. u igri dama, na primer, ispada da postoj e pouzdani nacini za odredivanje verovatne vrednosti nekog rpo­ teza na osnovu izvesnih parametara, kao S1tO su kon­ trola centralne pozicije, rpreimucstvo, i tako dalje. Sve ovo i j os cinjenica da postoj i relativno malo poteza posto figure Ьlokiraju jed.na drugu i iznu­ duju zaroЬlj avanj e, omogucava ispitivanj e svih pla­ uziЬilnih poteza do duЬine od svih dvadeset poteza, koji se pokazuju kao dovoljni za izvrsnu igru. Kod sма, medutim, koji moze da se resi prebroj avanjem svih mogucih poteza i odgovora na njih, iskrsava problem neminovno vezan za lavirinte izbora : eks­ ponencij alni rast. Alternativne staze se tako brzo umnozavaju da ne mozemo cak ni da preispitamo sve mogucnosti grananj a dovoijno duboko da Ьi­ smo formirali j edan pouzdan sud о tome, da li data grana pruza dovoljno obecanja i da li zasluzuje dalj e ispitivanj e. Newell primecuje da Ьi pronalazenj e ne­ kog interesantnog poteza zahtevalo suvise vremena ako masina treba redom da ispita moguce poteze sva'ke od figura na �t abli. On је isto tako svestan ci-

STA RAC UNARI NE MOGU,

55

njenice da, ako шasina to ne иradi, ona шоzе da ispиsti nekи vaznи i originalnи komЬinaci jи. " Mi ne zelimo da masina sve svoje vreme provede и is­ pitivanjи Ъиdисih ljиdskЉ ak c ij a; ра ipalk, ako to ne Ъi Бnila, mogla Ъi da previdi realne prilike. "27 Prvo Newellovo resenj e ј е Ьilo " slиcajni ele­ ment " : "Masina Ьi retk o ( sto znaCi, p ovremeno ) tra­ gala za k omЬ inacij ama koj e z r tvuj и kralj icи."28 Ali, ovo resenj e ј е nezado volj avaj uce . Као sto sada, ро svoj prilici, i sam Newell shvata. Masina ne treЪa samo povremeno da traga za zrtvom kralj ice, vec pre da traga za onim sitиacij ama и !kojima Ьi takva zrtva Ьila relevan1шa. Pretpo s tavlj a se da ј е to ono sto оЬеzЪеdији p rave heuristike, ogranicavajиCi Ьrој grana koje se ispituj u, ali za d rzavajиCi alter­ native koje vise оЪесаvаји. Samo, dosad nije pronadena nij edna heuris,t ika na m aj s torskom nivoи igre. Sve s ad asnj e heuristike ili isklj иcиj u neke poteze, lk oje Ъi maj stori izmisШi, ili ostavlj aj u otvorenim rizik eksponencij alnog ras­ ta. Iz razloga о koj ima се se rasp ravlj ati u П delu, Simon је ipak uЪeden и Cinjenicu da sahovski maj­ stori koriste ,taJkve heuristike, ра ј е tako иveren da cemo, slиsaj uci njihove protokole, prateci po'krete nj ihovih ociju, isp ituj иCi ih шоЬlа pod j akiш os­ vetlj enj em, eventualno otkriti takve heuristike i иgraditi ih и nas program - а time potkresati i eksp on en cij alno drvo. Ali, ispitaj mo poblize dokaze da је igranje saha vodeno иpotreЬom heuristike. Razmotrimo sledeCi protokol koj i navodi Si· тоn, narocito иосаvајисi kako on p ocinj e , а ne ka­ ko se zavrsava . Ispitivana оsоЪа ka:Ze : 2 7 . Allen Newell, "The Chess Machine, " и The Modeling of Mind, Kenneth М. Sауге i Fr e de ri ck Ј. C ross on ured. (South Bend, lnd: Notre Dаше University Press, 1963) , s t r . 80.

,

28.

!Ь id. , str. 80,

HUBERT L . DREYFUS

56

Ponovo primecujem da j edna od njegovih figura top, nij e branjena i da moraju postoj ati naCini da se tu s tekne prei­ mu6stvo. Pretpos·tavimo sada, ako pesakom napadnem Iovca, i ako se Iovac povuce, ·da ј а ·daj em sah kralj icom i onda mogu da osvoj im top. Ako, itd . , itd.29

Na lkraju imarno primer za ono sto ј а zovem "prebroj avanj e" - procenj ivanj e raznih mogucno­ sti pomocu grubog naЬraj anj a. Svi s rno rni upoznati s ovirn procesom za koj i se pretpostavlj a da, voden podesnim heuristikama, ornogucava igru sahovskim rnaj storirna. Ali kako ј е nas ispitanik p rirnetio da је suparnikov top nebranjen ? Da li је on uzastopno ispitao ( ili simultano ) svaku od suparnikovih figu r a i nj ihove moguce Ъranioce, dok nij e naisao na ra­ njivog topa? Ovo Ьi zahtevalo veorna mnogo pro­ cena kao sto prirnecuju Newell, Shaw i Simon: " Najbolji rpodaci sugerisu da igrac ispituj e nesto rnanje od 100 pozicij a u analizi jednog poteza,"30 а nas igrac mora da ispita j o's mnogo pozicij a u proceni situacije, kada ј е jedn om otkrio nebranj eni top . Ne rnoтamo ·d a priЪegnemo sarnoispitivanju da Ьismo otkrili sta u stvari neki igrac cini pre nego sto pocne da rprebrojava; sam protok ol to pokazuj e : ispitamik s e usredsreduj e na . p ovoljnu situaciju ( " Primetio sam da j edna od nj egovih figura nij e branjena " ) . Igrac pocinj e da prebroj ava, da prove­ rava sta rnoze da ucini tek posto se usredsredio na neko podrucj e. ·

Jedna analiza MacHackovog prograrna, lkoju ј е napisao Richard Greenblatt, ilustrovace ov.u razliilю izrnedu nacina na koj i covek procenj uj e poziciju i grubog prebroj avanja ikoj e vrsi masina. Cak ni Mac­ Hack ne Ьi mogao da ispita svaku alternativu. Pro­ gram sadrzi generator plauzЉilnih poteza koj i og29. Allen Newell i Н. А. Simon, Comput eг S imulation of Нитап Thinking, The RAND Corporation, Р-2276 (20. apri l 1961 ) , str. 15. 30 . Newell , Shaw and Simon, "Chess-Piaying Programs and the ProЬ!em of Complexity," u Computers and Thought, str� 47.

57

STA RAcUNARI NE MO.GU

ranicava analizu poteza na one koj i vise obecavaju. Ipak ј е u j e dnoj tezoj situacij i, u toku turnira, GreenЬlattov program j ed. n om racunao punih pe t­ naest minuta i analizirao 26,000 poteza, dok zivi igrac moze � d a razmotri samo 1 00 ili mozda 200 po­ teza. MacHack је dosao do j ed,nog izvrsnog poteza, sto ne znaCi da ga neik:i maj stor ne Ьi odigrao cak i bolj e ; a:li, ono sto ј е ovde znacajno nij e kvalitet po­ teza, vec razlika izmedu 26,000 i 200 mogucnosti. Ova razlika navodi na pomisao da, kada igraju sah, ljudi Cine nesto sto ne moze da se svede sam o na razmatranj e alternativa, ра је int eresantn o pitanj e : s t a t o oni blne s t o i m omogucava d a , analizirajuCi 1 00 ili 200 alternativa, pronadu brilj antnij e poteze o d racunara koji analizira 26,000 alterпativa ? Zivi igrac, Cij i protokol ispituj emo, nije s ve­ stan da ј е eksplicitno razmotrio ili eksplicitno is­ kljuCio iz razmatranj a neku od stotinak mogucnosti koj e је trebalo nabroj ati da bi se prebroj avanj em doslo �do odredenog relevantnog podrucj a na taЬli. Pri svem �t om, o dredeni deo taЬle, koji privlaci paznj u ispita:n ika, zavisi od celokupnog stanj a igre. Da Ьismo razumeli kako је ovo moguce moramo da razmotrimo ono s�to ј е Willi am James ( Vilij em " Dzejms ) nazvao "rubovima svesti : j ednostavan primer za ovu vrstu marginalne svesti j este kucanj e casovnika koje primecuj emo tek onda kada on pre­ stane da otkucava. Nasa maglovita svest о licima u gomili kada trazimo prij atelj a drugi ј е, ali slo­ zenij i i prikladnij i slucaj . Ipak, dok nagovestavamo neku alternativu ek­ splicitnoj svesti о prebroj avanj u, nij edan primer n i j e potpuno prikladan Slucaj sa sahom је naj shvat­ lj i v ij i posredstvom Michael P ol aюyiev og ( Majkl Po­ lani ) op steg opisa sposobnosti rubova svesti da koncentrisu informacij e koj e se ticu naseg perifer­ nog iskustva. .

58

HUBERT L. DREYFUS

Ova srposobпost s e пalazi и podrucju koj e пastoj i da funk­ cioпise kao pozardiпa, zato sto se пeodredeno proteze oko centralпog predmeta паsе раzпј е. Ovo podrucje, videпo uglom oka ili upamceпo и pozardiпi пaseg иmа, prisilno utice па паСiп па koj i vidiшo predmet па koj i smo usre.d­ sredeпi. Zaista mozemo da idemo toliko daleko ра da ka­ zemo da smo svesпi ovog .uzgred primeceпog p o drucj a, иglavnom kada se poj avljиj e predmet па koji smo se usredsredili.з1*

Na primer, kada је nekom po:zюata !Ileka kuca, nj e­ mu procelje izgleda d�Ьlj e od fasade zato sto је marginal10.o svestan kuce u pozadini. S1icno ј е u sahu gde indiikacije s Citave table privlace paznju na izvesne sektore koji ili obecavaju, ili su opasni, ili su prosto vredni pazlj ivog promatranj a, iako ostaju na rubovima svesti. Као sto Newell i Simon belezc : Postoj e pod movi и igri saha koj i sи mпogo globalпij i od onih gore opisan.ih; na pilimer, "razvijeпa pozicij a", "koпt­ rola сепtта", "doЬij ena pozicij a", "slabo kralj evo krilo", "zatvoreпa pozicij a".з2

Stavise, oni dozvolj avaj u da : 3 1 . Michael Polanyi , " Experience and Perception of Pattern, " и The Modeling of Mind, str. 214. Onoliko koliko је meni poznato, Frederick Crosson је Ьiо prvi koji је иосiо vafnost gestalt-analize u oЬ!asti vestacke inteligencij e . U predgovorи za The Modeling of Mind on pise: " . . . Neke ljиdske funkcije ponekad se izvrsavajи koriscenjem informacija ili signala kој ё ne sledimo baS eksplicitno ili fokalno, а ovo izgleda da oznacava fundamentalnи razlikи izmedи takvih funkcija i procesa koji se simиlirajи роmоси aиtomata. Razlog ovoj razli ci treba traz iti и tome sto sи digitalni racиnari koji se ироtrеЬ!јаvаји kao modeli ро prirodi svojoj Ьinarni. Као posledica proizlazi da fu:nkcija kоји masina m o z e da proizvede . . . mora da Ьиdе и svakoj fazi, sve-Шi-ni st a, tj . ·dovoljno specificna i eksp!i­ citna kako Ьi odgovor inogao da glasi .,da' ili ,ne' " (str. 21). Medиtim, Crosson nije protumacio osobeпosti i funkcijи ove nefokalne forme svesti, tako da ostaj e nejasno da li Ьi prema njegovom shvatanju svi implicitni signali mogli, u principu, da se ucine eksplicitnim i sta Ьi se izgubllo, ako Ьi se uopste ne8to izguЬilo, u nekom modelu koji ima posla samo sa eksplici t п i m signalima.

32. Ne\vell i S imoп , An Example of Нитап Chess Play in the Light of Chess Playing Programs, Carnegie Institиte of Technology, avgust, 1964, str. 10-1 1 .

STA RACUNARI NE MOGU

59

Ponekad d e Grootov subjekt ko risti veoma globalne fraze kao sto su " . . . to је d obij ena pozicij a za belog", gde nije moguce sagledati koja struk tura ili karakteristika pozicije vode toj proceni.зз

Ovim, u stvari, Newell i Simon kazu da oni ne vide nacin kako Ьi se analizirala procena celokupne rpozi­ cije pomocu heuristicki vodenog prebroj avanja. I razborito, ali izgleda ne shvataj uci sta to znaci za plauzibllrюst Simonovih predvidanj a, Newell i Si­ шon nastavlj aju : D o danas rad n a sahovskim programima nij e bacio mnogo nove svetlosti na ove poj move vi s eg ni v oa . 34 *

Ovde ј е stav Newella i Simona tipicno dvosmislen. Da li oni misle da Ьi bolj i statiCiki procenj ivaCi sto znaCi, bolj e heuristike za generiranj e plauziЬil­ nih poteza - mogli da simuliraju usredsredivanj e. Da oni stvarno na to misle sugerise nam nj ihovo neprekidno verovanj e u mogucnost mehaпickog sa­ hovskog maj stora. Ipak, nj ihova aюaliza maj storske igre, zasnovana na radu de Groota, pгuza osnove za pesimizam. (Као sto smo primetili, sam de Groot kaze da se оп ne nada u sustinsko pobolj sanj e heuristiCikih sahovskih programa. ) Newell i Simon kazu d a ј е : D e Groot konacno uэрео u izdvajanju j akih od slabih igraca koristeCi testove opazanj a koj i zahtevaju od igraca da reprodukuju sahovske pozicije , po s to su im stavlj ene na uvid j edno kratko vreme (3 - 7 sekundi ) . Velemaj stor је Ьiо spos oban da savrseno reprodukuj e pozicij e, а uci­ nak ј е prilicno opadao sa smanj enj em sahovske sposobno­ sti igraca. De Groot је do s ao do zaklj u6ka da su sposob­ nosti opazan j a i organizacij a vazni faktori u svakoj dobroj igri.з5 33. Љ i d . , str. 13. (Мој kшziv) . 34. !Ьid. , str. 1 1 . N e\v ell i Si mon n a st av lj aj u : "Opstije govoreCi, psilюlogija је imala malo da kaze о tome kako globalni pojmovi organizu­ j u poп a sanj e . " Naravпo, О\'О је neverovatno p rovin c ij a l no . Gestalt psiho·

Iogij a upravo о tome i govori. Ono sta Newell i Simon zele da kazu jeste da ona vrs ta p s Љ o l ogi j e koju oni pretpostavl j aj u , tj . vrsta psihologij e koj a koristi masinski pl'Ogram kao svoj model оЬј аsпјепј а, nema nikakvih шogucnosti da se bavi t a kvi m globalпiш ргоссsiша. 35. lbld., str. 14.

60

HUBERT L. DREYFUS

u clanku о kome smo vec raspravljali, sahov­ ski maj stor Hearst ј е da:lj e obj asnio proces opaza­ nj a i razloge zbog koj ih on prkosi programiranju : Ocigledпo ј е d a majstor opaza raspored и krupпijim j edi­ пicama, kao sto је st·ruMura pes3jka i figura koj e saradu­ ju . , . Kada оп пapravi пeku gresku, cesto је to опа greska pri koj oj se stavlj a figura па neko veoma pozeljпo polj e za t aj tip pozicij e.з6

Hearst rezimira svoj e glediste na sledeCi naCin : Zbog .toga Мо је iskusaп igrac stekao veliki broj ranij ih asocij acij a, on ne predstavld a sahovsku pozicij u vizuelno, kao koпglomerat rasutih polj a i drvenih figura, vec kao organizovanu stгuMuru ( slicno ,,gestaltu" i1i integrisanoj konfiguracij i, koju su isticali gestalt.psiholozi . ) 37

PrimenjujuCi ove ideje na nas prvoЬitni proto­ kol, mozemo da zakljucimo da је пasem ispitaniiku, poznavanj e celokupne sahovske strukture i ranij ih poteza ove konkretшe igre, omogucilo ·da prepozna linij e napada, slaba i j aka mesta, ik ao i specificne pozicij e. On primecuj e da је njegov protivnik ve­ rovatno ranj iv u izvesnom podrucju (Ьаs kao neko ko је upoznat sa kucama uopste, ра odredenu kucu vidi kao da ima ne!ku vrstu pozadine ) , i koncentri­ suCi se na to podrucj e, otkriva nestiCeni top . Ovaj potez vidimo kao j edan korak u razvij anju struk­ ture. Ne postoj i nij edan sahovski program koj i Ь1 ma:kar i pokusao da na ovakav nacin koristi iskust­ vo iz neke konkretne partij e. Radij e se uzima iznova svaki p otez, kao da је . t o izolovaпi sahovski prob­ lem koj i se nalazi u knj igama. Ova tehni!ka ј е na­ turena prograшerima, poSto Ьi program koj i :pre­ nosi informacij e о predasnj em polozaju svake fi­ gure brzo potonuo pod teretom akumulirajucih po­ dataka . Potreban је, u stvari, program koj i selek36.

Eliot Hearst . " Psychology Across the Chessboard , " Psyclюlogy

Today (jun 1 967) , str. 3 5 . 37. lbld . , str. 3 7 .

sTA RAcUNARI NE MOGU

61

tivno prenosi samo o na svoj stva i z proslosti koj a su znacaj na za sadasnju strategiju i s trategiju koj a se pripisuj e protivniku. Ali, posto sadasnj i progra­ mi uopste ne poseduju nikakvu dugoro6nij u s trate­ gij u, jedina alternativa ј е da se pretrazuju sve upam­ cene informacij e, Ьit ро Ъit, sto Ьi zahtevalo pre­ vise vremena. Bez gloЪalne svesti о opstim struktu­ rama izgleda da ne postoj i naCin da se izЪegne problem etksponencij alnog rasta ili heuristicka ogra­ nicenj a mogиcnosti ,Јюј е se razmatraj и.38* Po·s to ova globalna forma " obrade informaci­ j a " , u koj oj iпformacij a ostaj e па ruЪovima svesti i iшplicitno se uzima и oЪzir иmesto da se razmat­ ra eksplicitno, konstantпo delиj e и organizovanj и naseg iskustva, onda ne postoj i пikakav razlog za pretpostavkи da је nas ispitanik, da Ьi otkrio ne­ Ъranj eni top morao Ъrzo i nesvesn o da preЪroj ava sve dok nije naisao na ono podrucj e и kome ј е mogao d a otpocne svesno d a preЪroj ava. Stavise, postoj e doЪri razlozi za o dЪacivanj e ove pretpostav­ ke, posto ona pre stvara rprobleme nego sto ih re­ sava. Ako је nas sиЪj ekt nesvesno preЪroj avao hilj a­ de alternativa sa Ъrilj antnim heuristikama kaik o Ьi dospeo do one tacke gde se usmerava pa:Znja na taj torp, zЪog cega onda nij e 1n astavio do kraj a s ,tim nesvesnim procesom, sve dok и nj egovoj svesti ne iskrsne najЪolj i potez ? Zasto on priЪegava tegoЪ­ nom metodи Iaganog, nepodesnog i svesnog prcЪro­ j avanj a stvari и odredenoj · t acki gde је иgleda o top, ako ј е nesvesno preЪroj avanje brzo i tacno ? Ili ako је, s druge strane, nesvesno preЪroj avanj e neadekvat38. Minsky primeeuje ovu teskocu, ali na osnovu pukog verovanja pretpostavlj a da mora da postoj i neko heuristicko resenje: " Ovo Ьi moglo da se postigne preko neke heuтisticke tehnike koja moze da oceni relevan· tnost, ili preko logike koja takve konsekvence uzima u obzir. Teskoca sa logikom sastoj i se u tome st o antecedensi svih propozicija moraju da sadrze neki uslov о stanju sistema, а za slozene sisteme ovo postaj e nesavladivo. Ostale sistematske solucije tog proЬlema izgledaju podjednako neprihvatljive . Reklo bi se da је to proЬlem koji zahteva brzu heuristicku solucij u . " (Semantic lnformation Processing, str. 422 . )

62

HUBERT L. DREYFUS

u cemu se sastoj i preimucstvo prelaska na sves­ nu verziju istog procesa ? Ova vrsta teleoloskog razmatranj a - iako ne predstavlj a dokaz da је nesvesna obrada nedigitalna - namece teret dokazivanj a onima koj i tvrde da је to ,tako ili da mora tako da bude. А oni koj i to tvrde nisu izneli nikakve argumente za podrsku tvrdnje. Ne postoj i dokaz, introspektivan ili bihe­ vioristicki, da је prebroj avanj e j edina vrsta " obra­ de informacij a " u 1sahovskoj igri i da је " sustina zadatka pretrazivanje u prostoru eiksponencij alno rastucrh mogu6nosti."39 Naprotiv, svi protokoli po­ tvrduj u da sah obuhvata dve vrste pona:sanj a: ( 1 ) usredsredivanje, posredstvom sveukupne organiza­ cij e opazajпog polja na podrucj e koj e ј е prvoЬitno Ьilo na rubu . s vesti, а koje druga podrucja cini in­ teresantnim, mada se j o s uvek nalaze na rabu svesti; i ( 2 ) prebrojavanje eksplicitnih alternativa. Ova distinkcija j asno obj asnj ava pocetni uspeh i kasnij i neuspeh u radu na kognitivnoj simulacij i. U svim programima igranj a igara postignut је po­ cetпi uspeh u radu na onim igrama ili delovima igara u koj ima је izvodljivo heuristicki vodeпo pre­ broj avanj e; neuspeh se j avlj a na onom mestu gde ј е slozenost rproblema takva da је nuzno potrebna globalna svest u izbegavanju nesavladivog ekspo­ nencijalnog rasta mogucnosti koje treba prebroj ati. по,

TOLERANCIJA DVOSMISLENOSТI U ODNOSU NA PRECIZNOST OSLOBODENU KONTEKSTA

Rad na igranju igara otkrio ј е nuznost obrade " " informacij a koj e se ne razmatraju ili iskljucuju eksrplicitno, tj ., ,info:гmacij a na IJllbu svesti. Rad na prevodenju j ezika Ьiо је zaustavljeп odredenom po­ trebom za j ednom drugom neprogramlj ivom for­ mom " obrade informacij a " : sposobnoscu da se re39. Newell, Shaw, and Simon, "Chess-Playing Programs and the ProЬ!em of Complexity," u Computers and Thought, str. 65.

$ТА RAcUNARI NE MOGU

63

savaju dvosmislene situacije, а da ne moraju da se traпsformisu pomocu neke precizne deskripcije. Videli smo da su Bar-Hillel i Oettinger, dva naj vise postovana i najbolj e informisana radnika u oЬlasti automatskog j ezickog prevodenj a, saglasni u ·svoj im pesimisticпim zakljuccima u odпosu na mogucnosti dalj eg napretka u toj oblasti ·r ada. Ј j edan i drugi su shvatili da ј е za prevodenj e nekog prirodnog j ezika potrebno mnogo vise nego sto ј е mehanicki recпik - m a koliko Ьiо po1Jpun - ili sto su zakoni gramatike - та koliko bili slozeni. Red reCi u recenici ne daj e d.ovolj no informacij a kako Ьi ,se omoguCiLo masini da ona odredi koj e је od gramatickih ras6lanj avanj a ono pravo, niti okol­ ne reci - pisani kontekst - uvek nagovestavaju koj e ј е od nekoliko mogucih znacenj a autor imao na umu. Као sto Oettinger iznosi u diskusiji о sistemima za proizvodenj e svih gra:matickih rasclanj avanj a neke recenice prihvatljive u datoj gramatici : Do danas ј е гаd takvih analizatora otknio daleko visi s te­ pen legitiшne sintaksicke dvosmislenosti u engleskom i ru­ skom j eziku nego sto ј е to ranij e Ьilo anticipirano. Ovo, kao i relevantna fluidnost graпica izmedu gramatickog i negramatickog, pokrece ozЬiljna pitanj a о mogucnosti de­ Iotvornih, potpuno automatskih manipulacij a engleskog i ruskog, za Ьilo koju svrhu prevodenj a ili ekstrakcije infor­ macij a.40

Umesto da tvrdi da је i pored nekih izuzetaka i teskoca pocela da iscezava misterij a koj a okruzuje nase razumevanje j eztka, na osnovu prvoЬitnog ali delimicnog uspeha sa mehanickim recnikom, i ka­ snij e, zajedno sa Kunom (Kun ) i drugima na os­ novu uspeha sa sintaksickiш analizatorima, Oettin­ ger, medutim, skrece paznju na "vrlo misteriozne semanticke procese koj i omogucavaju vecini razum­ nih ljudi da u veCini slucaj eva nedvosmisleno tu­ mace veCinu razumnih recenica. "41 Oettinger, ор. cit., ·str. 2 6 . citirano 41 . !Ьid., str. 26.

40.

u

beleki 1 gore.

64

HUBERT L. DREYFUS

То је j os j edan primer koj i pokazuje koliko је vazna marginalna svest. OCigledno ј е da ornaj ko koristi prirodni j ezik nij e svestan mпogih signala na koj e odgovara, odreduj uCi s intaksu i znacenje. S druge strane, nista ne ukazuj e ла ·to da on nes­ vesno razmatra svaki od ovih signala. U stvari, dva razшatranj a sиgerisu da ovi signali nisu takve vrste da Ьi mogli da se prihvate i razmotre роmоси sek­ vencij alnog, ра cak ni nekog paralelnog pro­ grama.42* Prvo, postoj i Bar-Hillelov argumernt, koj i cemo kasnij e detalj no proиciti ( Poglavlj e б ) , ро kome postoji Ъeskonacnost mogиcih relevantnih signala. Drugo, cak i da postoj i ogranicen broj тeleva:n tnih signala podesnih za rиkovanj e, oni nam ne Ьi Ьili od pomoCi, j er и nameri da programiramo neki ra­ cunar za иpotrebu takvih signala и odredivanjи znacenj a nekog izraza, morali blsmo da formuliSe­ mo sintaksicke i semanticke kriterijиme pomocu s triktnih pravila; mada ,n asa upotreba j ezika, iako precizna, nij e s triktno odredena pravilima. Paskal је vec primetio da perceptivni duh funkcionise ,,precutno, prirodno, i bez tehnickih pravila. " Wit­ tgenstein ( Vitgenstaj n ) је ovako protиmacio ovu sposobnost uvidanj a и slисаји j ezika: Nismo и mogшSnosti da j asno opi semo poj move koj e upo­ treblj avamo; ne, ZJbog toga sto ne znamo nj ihovu realnu definicij.u, vec zato sto za nj ih ne posotoj i nikakva realпa "definicij a " . Pretpos taviti d a mora da postoj i neka defi­ nicij a Ьilo Ьi slicno pretpostavci da, kad god se ·deca igraj u loptom, da igraj u p rema S•triktnim pravilima.43* 42 . Kod serij ske obrade program se sastoj i od niza operacija, а svaka zavisi od rezиltata prethodnih operacij a. Nekoliko takvih nizova izracи­ navanja simиltano је predstavljeno и paralelnoj obradi. Paralelna obrada moze da se simulira роmоси nekog serij skog programa, ali ostaje vazna logicka razlika da и seri}skom programи svaki korak zavisi od prethodnih, dok sи и paralelnom programи operacije и svakom nizи nezavisne od operacija и Ьilo kojem drugom nizи. 43. Lиdwig Wittgenstein, The Blue and Brown Books (Oxfoгd, Eng . : Basil Blackwell, 1960) , str. 2 5 . Ucesnici RAND simposijиma о "Racиnari i moc shvatanja " sиgerBи psiholoskи osnovu i preimиcstvo karaktera

sTA

RAcUNARI

NE

MOG U .

65

Lj udi upotreЬlj avaj u prirodan j ezik u situaci­ j ama u koj ima teze nekim cilj evima. Ovi eks­ tralingvisticki cilj evi, koj i sami ne treba da budu preci:mю ustanovlj eni , pruzaju neke signale lюj i redUJkuju dvosmislenost izraza onoliko koliko ј е neophodno za dati zadatak. Fraza kao ostani kraj " mene " moze da znaci Ъilo sta od " priЪi s e uz mene" " do " o stani па rastoj anj u od jedne milje , u zavis­ nosti od cinj enice, da li se fraza odnosi na decaka u nekoj grupi,_ ili na kolegu astronauta koj i istra­ zuj e mesec. Njeno znacenj e nikad nij e nedvosmisle­ no u svim moguCim situacij ama, ali se ono moze uveik uciniti dovolj no nedvosmislenim u Ьilo lюј о ј posebnoj situacij i kako Ъ i s e postigao naumlj eni rezultat. Nasa sposobnost koriscenj a globalnog konteks­ ta da dovoljno redukujemo dvosmislenost, а da nc moramo da formalizuj emo (sto znaci, da elimini­ semo svaku dvosmislenost ) , otkriva j ednu drиgи fиndamentalnи fоrши ljudske obrade informaci­ " j a", koj a pretpostavlj a onu prvи. Marginalna svest uzima и obzir signale u kontekstu i verovatno rneka gramatiOk:a rasclarnj avanj a i zrnacenj a koj a Ъi шo­ rala da Ьиdи eksplicitno iskazana u masinskom iz­ lazи. Onda nam nas smisao za sitиacij u dozvolj ava da isklj иCimo veCinи ovih mogиcnosti bez ekspli­ citюog Г3:ejmatranj a. Mi cemo пa:ZNati sposobпost sиZavaюj a spektra mogucih znacenj a н onoj meri и rkoj oj sitнacij a zahteva " tolerancijom dvosmi­ " slenosti . Posto covekova иpotreba i razиmevanj e rece­ nice na prirodnom j eziku zahtevajи implicitno po­ znavanje reeenice и zavisrnosti od kontekstualne иpo­ trebe, j edini dobar nacin da s e napravi racиnar koj i prirodnih jezika koji nije u skladu sa pravilima. " Bitno је da је jezik kombinatorni repertoar sa neograniCeno moguCim kombinacij ama Cija znacenja mogu da se izvedu iz nekog konacnog skupa ,pra,·i\a' koj i diktiraju znacenj e komponenata. (Takozvana ,pravila' uce se kao nizovi odziva i samo su delimicno podlozna forma\izaciji .) " (М . Kochen, D. М . МасКау, М . Е. Maron, М . Scriven, i L. Uhr, Computers and Comprehensi· оп, The RAND Corporation , RМ-4065-PR (april 1964}, str. 12.)

HUBERT L . DREYFUS

66

Ьi mogao da razume i prevodi neki prirodan j ezik, kao Sto је Turing posuшnj ao, sastoj i se u tome da se on programira da uCi о svetu. Bar-Hillel prime­ ouje : " Ne �venuj em ,da се masiпe, Cij i im programi ne omogucavaju da uce, u пaj slozenij em smislu ove reCi, ikada biti sposaЪne da lюnzistentno daju pre­ vode visokog kvaliteta. " 44 Kada ponekad entuzij aste vestacke inteligencij e priznaju teskoce s koj ima se suocava sadasnj a tehnika, priЪegavanj e ucenju ј е omilj ena panacea. N a primer, Seyшour Papert iz М . 1. Т. nedavno ј е tvrdio kako niko n e moze da oce­ kuj e od шasina . da se ponasaju kao odrasli ljudi, osim ako se prvo nauce, а ono sto ј е potrebno to је masi,na sa detinj oш sposobnoscu za ucenje. Me­ dutim, ovakav potez, kao sto cemo videti, samo iz­ begava proЬlem. U oЬlasti ucenj a j ezika j edini interesantan i us­ pesan program је Feigenbaumov ЕРАМ { Elementar­ ni opazalac i pamtitelj ) . ЕРАМ simulira ucenje ve­ z:ivanj a :b esmislenih slogova, koje Feig-enbaum zove uprosceni slucaj verbalnog ucernj a.45 Medutim, in­ teresantan podataik о ucenju besmislenih slogova sastoj i se u tome s to to uopste nij e slucaj ucenj a j ezika. Uciti da se asociraj u besшisleni slogovi, u stvari ј е ucenj e slicno Pavlovljevom uslovnom ref­ leksu. Eksperimentator moze da prikazuj e "DAX" , р а onda " JIR " , ili moze da upali crveno а potom ze1eno svetlo ; pod us1ovom �da s1u taikva dva doga­ daj a dovoljno cesto asocira[la, �svako се :naru.Citi lda anticirpi ra �dnugi Olan para. U ta:k!vom ekSiperiшen­ tu podraZJUmeva .se da је sнbj ek,t u rpotpU[losti pasivan. U izvesnom smislu on stvarno nista i ne uci, vec se s nj im nesto radi. Da li ј е taj subjekt ddiot, dete ili odrastao covek, u idealnom slucaj u ј е pot­ puno svejedno ako se radi о ucenj u besmislenih slogova. EbЬinghaus ( EЬinghauz ) , је kraj em devet44 .

Bar-Hillel, ор.

45 .

Edward

vior , " и

cit., str. 105, 106, citirano

Feigenbaum ,

u belesci

2 gore .

"The Simulation of Verbal Learning

Computers and Thought, str. 298 .

Beha­

sTA RAcUNARI NE MOGU

67

naestog veka, p reporuCio ovakav nасш uslovlj ava­ нj a samo da Ъi eHmiпisao bilo kakvu upotrebu gru­ pe reci sa znacenj em ili pozivanj e :na kontekst pret­ hodno naucenih asocij acij a. Nij e cudno sto se protokol subj ekta i masin­ ski graHk skoro potpurrю poklapaj u u ovoj oЬlasti. Ali, to ј е sumnj iv trijumf: j edini uspesan primer kognitivne simulacij e simulira proces koj i ne obu­ hvata poimanj e, ра tako i nije istinski kognitivan. Ono st o ј е sadrzano u ucenju jezika mnogo ј е koшplikovanije i misterioznij e o d uslovljenog ref­ leksa koj i је sadrzan u ucenjн asociranj a besmislenih slogova. Da bismo nekoga naucili znacenju neke nove reCi, p onekad mozemo da pokazemo predmet lюj i ·ta гес Jmenuj e. Avgustin u svojim Ispovestima i Turing u svom clanku о masinskoj inteligencij i pretpostav­ lj aj u da је ovo naCin na koj i deca uce j ezik. Ali, Wittgenstein istice Cinj enicu da, ako j ednostavno pokazemo sto i kazemo "mrk " , dete nece znati da li se ta rec odnosi па boju, veliCinu, oblik stola, na vrstu predmeta ili па pravo ime tog predmeta. Ako dete vec lюristi j ezik, mozemo da kazemo da ukazuj emo na boju; ali ako ono j os ne koristi j ezik, kako cemo se onda uopste pomaCi s mesta? Witt­ genstein nudi resenj e prema kome dete mora da bude uvuceno u " oЬlik zivota " u kome ono deli bar neke ciljeve i interese sa svoj im uCiteljem, tako da uzaj amna aktivnos t pomaze ogranicenj u moguce referencije reci koj e se upotreЬlj avaju. Dakle, cemu Ьi mogla da se nauci masina ? Ovo ј е oCigledno ono sto se dovodi u pitanj e u j ednoj od nekoliko ozbilj nih primedЬi na rad u oЬlasti ves­ tacke inteligencij e, koj e је izneo j edan od aktivпih radnika u toj oЬlasti. А . L. Samuel {А. L . Seшujuel ) , koj i ј е napisao proslavlj eni program za igru dama, izneo је argument da masine ne mogu da budu in­ teligentne zato sto su u stanj u da rade samo ono sto im se naredi. Minsky odbacuje ovu zaшerku sa napomenom da mogu da nas iznenade sposobnosti

H U B ERT L . DREYFUS

68

nasih masina.46 Ali, Samuel је svakako svestan ove cinj enice posto ga је peliJgentno !POПaSa­ nje ра 'S'U njegove procene za:snovane na fulnJkcij i uti­ liteta umesto na nekom kraj njem interesu ? Jedna rarzд