<\/p>\n
A<\/span>k sa so mnou niekto nezhodne na z\u00e1konoch logiky, te\u00f3rie pravdepodobnosti, a te\u00f3rie rozhodovania, potom sa s n\u00edm v diskusii o Singularite \u010faleko nedostanem, preto\u017ee mi bude st\u00e1le argumentova\u0165, \u017ee \u013eudsk\u00e1 inteligencia funguje na princ\u00edpe m\u00e1gie, alebo \u017ee ako sa stroj stane viac inteligentn\u00fdm, stane sa t\u00fdm aj viac dobrosrde\u010dn\u00fdm, alebo \u017ee je jednoduch\u00e9 vyjadri\u0165, \u010do \u013eudia chc\u00fa, alebo nejak\u00e1 in\u00e1 blbos\u0165. Tak\u017ee sk\u00fasme sa ubezpe\u010di\u0165, \u017ee sa zhodneme na z\u00e1kladoch, ne\u017e sa pok\u00fasime zhodn\u00fa\u0165 na nejakej zlo\u017eitej\u0161ej veci.<\/p>\n Na\u0161\u0165astie, oh\u013eadom logiky v\u00e4\u010d\u0161ina \u013eud\u00ed s\u00fahlas\u00ed. Tak ako v matematike, m\u00f4\u017eeme robi\u0165 chyby z nevedomosti, ale ke\u010f n\u00e1m raz niekto uk\u00e1\u017ee d\u00f4kaz<\/em> Pytagorovej vety alebo neplatnos\u0165 obr\u00e1tenej implik\u00e1cie<\/a>, budeme s\u00fahlasi\u0165. Matematika a logika s\u00fa dedukt\u00edvne<\/em> syst\u00e9my, kde z\u00e1ver \u00faspe\u0161n\u00e9ho argumentu nevyhnutne<\/em> vypl\u00fdva z jeho predpokladov, ak s\u00fa dan\u00e9 axi\u00f3my pou\u017e\u00edvan\u00e9ho syst\u00e9mu: te\u00f3ria \u010d\u00edsel, geometria, predik\u00e1tov\u00e1 logika, at\u010f. (Samozrejme, neur\u010ditosti sa \u00faplne vyhn\u00fa\u0165 ned\u00e1: sl\u00e1vny d\u00f4kaz<\/a> ve\u013ekej Fermatovej vety od Andrewa Wilesa m\u00e1 vy\u0161e 100 str\u00e1n, tak\u017ee aj keby som si cel\u00fa vec osobne pre\u0161tudoval, nemohol by som si by\u0165 ist\u00fd, \u017ee som tam niekde neurobil chybu.)<\/p>\n Pre\u010do by sme mali svoje myslenie podriadi\u0165 z\u00e1konom logiky? Na tom nie je ni\u010d stra\u0161n\u00e9. Z\u00e1kony logiky s\u00fa u\u017e s\u00fa\u010das\u0165ou n\u00e1\u0161ho s\u00fahlasu, \u017ee sa spolu porozpr\u00e1vame. Ak mi poviete, \u017ee auto pred vami je cel\u00e9 \u010derven\u00e9 a z\u00e1rove\u0148 \u017ee je v rovnakom \u010dase a rovnak\u00fdm sp\u00f4sobom cel\u00e9 modr\u00e9, potom probl\u00e9m ani nie je v tom, \u017ee \u201epou\u017e\u00edvate odli\u0161n\u00e9 z\u00e1kony logiky\u201c, ako sk\u00f4r, \u017ee hovor\u00edme r\u00f4znymi jazykmi. \u010cas\u0165 v\u00fdznamu<\/em> toho, ke\u010f ja poviem, \u017ee vid\u00edm, \u017ee auto predo mnou je \u201ecel\u00e9 \u010derven\u00e9\u201c je, \u017ee nie je z\u00e1rove\u0148 cel\u00e9 modr\u00e9, v rovnakom \u010dase a rovnak\u00fdm sp\u00f4sobom. Ak nes\u00fahlas\u00edte, potom nehovor\u00edme rovnak\u00fdm jazykom. Hovor\u00edte nejak\u00fdm jazykom, ktor\u00fd pou\u017e\u00edva mnoh\u00e9 zvuky z m\u00f4jho jazyka, ale neozna\u010duje t\u00fdm tie ist\u00e9 veci.<\/p>\n Len\u017ee logika je syst\u00e9m istoty, a n\u00e1\u0161 svet je svetom neistoty. V na\u0161om svete potrebujeme hovori\u0165 nie o istot\u00e1ch ale o pravdepodobnostiach<\/em>.<\/p>\n Nau\u010dte die\u0165a najprv n\u00e1bo\u017eenstvo, a potom m\u00f4\u017ee ma\u0165 probl\u00e9m sa ho strias\u0165, aj ke\u010f sa stretne s vedou. Nau\u010dte die\u0165a najprv vedu, a ke\u010f nesk\u00f4r objav\u00ed n\u00e1bo\u017eenstvo, bude mu pripada\u0165 pochab\u00e9.<\/p>\n Z rovnak\u00e9ho d\u00f4vodu v\u00e1m najprv vysvetl\u00edm spr\u00e1vnu te\u00f3riu pravdepodobnosti, a a\u017e potom spomeniem nespr\u00e1vnu te\u00f3riu.<\/p>\n \u010co je to pravdepodobnos\u0165? Je to miera, nako\u013eko je mo\u017en\u00e9, \u017ee dan\u00e9 tvrdenie je pravdiv\u00e9, za\u00a0predpokladu ostatn\u00fdch zn\u00e1mych vec\u00ed. Ak\u00e1ko\u013evek je va\u0161a te\u00f3ria pravdepodobnosti, mala by by\u0165 v\u00a0s\u00falade so zdrav\u00fdm rozumom (napr\u00edklad neodporova\u0165 logike) a mala by by\u0165 v s\u00falade sama so sebou (ak viete spo\u010d\u00edta\u0165 pravdepodobnos\u0165 nie\u010doho dvoma sp\u00f4sobmi, oba by mali da\u0165 rovnak\u00fd v\u00fdsledok).<\/p>\n Nieko\u013eko<\/a> autorov<\/a> uk\u00e1zalo, \u017ee axi\u00f3my te\u00f3rie pravdepodobnosti mo\u017eno odvodi\u0165 z t\u00fdchto predpokladov plus logiky. In\u00fdmi slovami: te\u00f3ria pravdepodobnosti je len roz\u0161\u00edren\u00edm logiky<\/em>. Ak s\u00fahlas\u00edte s logikou, a ak s\u00fahlas\u00edte s uveden\u00fdmi (naozaj minim\u00e1lnymi) predpokladmi o tom, \u010do je<\/em> pravdepodobnos\u0165, potom \u010di u\u017e o tom viete alebo neviete, s\u00fahlas\u00edte aj s te\u00f3riou pravdepodobnosti.<\/p>\n \u010eal\u0161\u00edm d\u00f4vodom s\u00fahlasi\u0165 s te\u00f3riou pravdepodobnosti je toto (zhruba povedan\u00e9): Ak nes\u00fahlas\u00edte, a ak ste ochotn\u00ed uzatv\u00e1ra\u0165 st\u00e1vky oh\u013eadom pravdivosti va\u0161ich presved\u010den\u00ed, potom v\u00e1s niekto, kto s\u00fahlas\u00ed<\/em> s te\u00f3riou pravdepodobnosti, dok\u00e1\u017ee obra\u0165 o v\u0161etky peniaze. (D\u00f4kaz n\u00e1jdete v argumentoch o Dutch Book<\/a>.)<\/p>\n Asi naju\u017eito\u010dnej\u0161ie pravidlo, ktor\u00e9 m\u00f4\u017eeme odvodi\u0165 z axi\u00f3m te\u00f3rie pravdepodobnosti je Bayesova veta<\/a>, ktor\u00e1 n\u00e1m hovor\u00ed, ako presne by sa mala zmeni\u0165 pravdepodobnos\u0165 nejak\u00e9ho tvrdenia, ke\u010f dostaneme nov\u00fa inform\u00e1ciu. (V kognit\u00edvnej vede o rozumnosti<\/a> s\u00fa mnoh\u00e9 kognit\u00edvne sklony definovan\u00e9<\/em> pod\u013ea toho, ako poru\u0161uj\u00fa bu\u010f z\u00e1kladn\u00fa logiku alebo Bayesovu vetu.) Ak nepou\u017e\u00edvate Bayesovu vetu na aktualiz\u00e1ciu svojich presved\u010den\u00ed, potom poru\u0161ujete te\u00f3riu pravdepodobnosti, ktor\u00e1 je roz\u0161\u00edren\u00edm logiky.<\/p>\n Samozrejme, \u013eudsk\u00fd mozog je pr\u00edli\u0161 pomal\u00fd na to, aby robil explicitn\u00e9 bayesovsk\u00e9 v\u00fdpo\u010dty po cel\u00fd de\u0148. Ale m\u00f4\u017eete<\/em> si vytvori\u0165 my\u0161lienkov\u00e9 heuristiky, ktor\u00e9 bud\u00fa bayesovsk\u00e9 v\u00fdpo\u010dty napodob\u0148ova\u0165 lep\u0161ie ne\u017e na\u0161e \u0161tandardn\u00e9 vroden\u00e9 heuristiky.<\/p>\n Toto v\u0161ak nie je spr\u00e1vne miesto na pln\u00fd v\u00fdklad logiky<\/a> ani te\u00f3rie pravdepodobnosti<\/a> ani v\u00fdcviku rozumnosti<\/a>. Chcel som v\u00e1s len zozn\u00e1mi\u0165 so z\u00e1kladn\u00fdmi n\u00e1strojmi, ktor\u00e9 pou\u017e\u00edvame, aby som v\u00e1m nesk\u00f4r vedel vysvetli\u0165, pre\u010do som oh\u013eadom Singularity do\u0161iel k jedn\u00e9mu z\u00e1veru a nie k\u00a0druh\u00e9mu. Napriek tomu si m\u00f4\u017eete pre\u010d\u00edta\u0165 aspo\u0148<\/em> tento kr\u00e1tky v\u00fdklad Bayesovej vety<\/a>, ne\u017e budete pokra\u010dova\u0165.<\/p>\n Na z\u00e1ver v\u00e1m dlhujem stru\u010dn\u00e9 vysvetlenie, pre\u010do frekventizmus, \u010di\u017ee te\u00f3ria pravdepodobnosti ktor\u00fa ste sa asi rovnako ako ja u\u010dili v \u0161kole, je nespr\u00e1vny. Zatia\u013e \u010do pod\u013ea Bayesovsk\u00e9ho poh\u013eadu je pravdepodobnos\u0165 mierou neistoty o svete, pod\u013ea frekventizmu je pravdepodobnos\u0165 \u201epodielom v\u00fdskytov udalosti v dlhej s\u00e9rii opakovan\u00fdch experimentov\u201c. Spomeniem len dva z asi p\u00e4tn\u00e1stich probl\u00e9mov<\/a> tejto defin\u00edcie:<\/p>\n Ak je frekventizmus nespr\u00e1vny, pre\u010do je tak\u00fd ob\u013e\u00faben\u00fd? D\u00f4vodov je ve\u013ea, s\u00fa rozoberan\u00e9 v tejto knihe<\/a> o hist\u00f3rii Bayesovej vety. Ka\u017edop\u00e1dne: ke\u010f hovor\u00edm o te\u00f3rii pravdepodobnosti, ozna\u010dujem t\u00fdm bayesianizmus.<\/p>\n Vysvetlil som, pre\u010do m\u00e1me z\u00e1kony myslenia t\u00fdkaj\u00face sa epistemickej rozumnosti (z\u00edskavania pravdiv\u00fdch presved\u010den\u00ed) a odk\u00e1zal som na nieko\u013eko podrobn\u00fdch v\u00fdkladov. Ale ako sa m\u00f4\u017eu z\u00e1kony myslenia t\u00fdka\u0165 in\u0161trument\u00e1lnej rozumnosti (maxim\u00e1lneho dosahovania svojich cie\u013eov)? Nie je azda to, \u010do chceme, subjekt\u00edvne, a preto mimo ak\u00fdchko\u013evek pravidiel?<\/p>\n \u00c1no, cie\u013eov m\u00f4\u017eete ma\u0165 hociko\u013eko. Ale ke\u010f pr\u00edde na maxim\u00e1lne dosahovanie<\/em> t\u00fdchto cie\u013eov, potom naozaj existuj\u00fa pravidl\u00e1. Ak sa nad t\u00fdm zamysl\u00edte, malo by to by\u0165 zrejm\u00e9. Nech m\u00e1te ak\u00e9ko\u013evek ciele, v\u017edy existuj\u00fa ve\u013emi hl\u00fape sp\u00f4soby, ako sa ich pok\u00fasi\u0165 dosiahnu\u0165. Ak chcete vedie\u0165, \u010do existuje, nemali by ste str\u010di\u0165 hlavu do piesku a odmietnu\u0165 sa pozrie\u0165<\/em> na to, \u010do existuje. A ak chcete dosiahnu\u0165 svoje ciele v tomto svete, pravdepodobne by ste nemali paralyzova\u0165 cel\u00e9 svoje telo, jedine \u017ee by paral\u00fdza bola va\u0161\u00edm jedin\u00fdm cie\u013eom.<\/p>\n Bu\u010fme konkr\u00e9tnej\u0161\u00ed. Te\u00f3ria rozhodovania je o vyberan\u00ed si spomedzi mo\u017en\u00fdch \u010dinnost\u00ed na z\u00e1klade toho, ako ve\u013emi t\u00fa\u017eite po mo\u017en\u00fdch v\u00fdsledkoch t\u00fdchto \u010dinnost\u00ed.<\/p>\n Ako to funguje? M\u00f4\u017eeme op\u00edsa\u0165 to, \u010do chcete, pomocou takzvanej funkcie \u00fa\u017eitku<\/em>, ktor\u00e1 prirad\u00ed \u010d\u00edslo vyjadruj\u00face ako ve\u013emi t\u00fa\u017eite po ka\u017edom mo\u017enom v\u00fdsledku (alebo \u201epopise celej mo\u017enej bud\u00facnosti\u201c). Jedna porcia zmrzliny m\u00f4\u017ee ma\u0165 pre v\u00e1s napr\u00edklad 40 \u201ejednotiek \u00fa\u017eitku\u201c, smr\u0165 va\u0161ej dc\u00e9ry -274 000 \u201ejednotiek \u00fa\u017eitku\u201c, at\u010f. Tak\u00e1to \u010d\u00edseln\u00e1 reprezent\u00e1cia v\u0161etk\u00e9ho, na \u010dom v\u00e1m z\u00e1le\u017e\u00ed, je va\u0161a funkcia \u00fa\u017eitku.<\/p>\n Skombinovan\u00edm va\u0161ich pravdepodobnostn\u00fdch presved\u010den\u00ed a va\u0161ej funkcie \u00fa\u017eitku m\u00f4\u017eeme vypo\u010d\u00edta\u0165 o\u010dak\u00e1van\u00fd \u00fa\u017eitok<\/em> ka\u017edej zva\u017eovanej \u010dinnosti. O\u010dak\u00e1van\u00fd \u00fa\u017eitok \u010dinnosti je priemern\u00fd \u00fa\u017eitok mo\u017en\u00fdch v\u00fdsledkov \u010dinnosti, v\u00e1\u017een\u00fd pod\u013ea pravdepodobnosti nastania jednotliv\u00fdch v\u00fdsledkov.<\/p>\n Predstavme si, \u017ee sa prech\u00e1dzate popri dia\u013enici so svojou malou dc\u00e9rou. Na druhej strane dia\u013enice vid\u00edte zmrzlinov\u00fd st\u00e1nok, len\u017ee ned\u00e1vno ste si zranili nohu a neviete r\u00fdchlo prejs\u0165 cez\u00a0dia\u013enicu. Vych\u00e1dzaj\u00fac z toho, \u010do viete, ak po\u0161lete svoju dc\u00e9ru cez dia\u013enicu, aby v\u00e1m priniesla zmrzlinu, je pravdepodobnos\u0165 60%, \u017ee dostanete zmrzlinu, a 5% \u017ee va\u0161e die\u0165a zrazia uh\u00e1\u0148aj\u00face aut\u00e1; \u010fal\u0161ie v\u00fdsledky maj\u00fa \u010fal\u0161ie pravdepodobnosti.<\/p>\n Aby sme vypo\u010d\u00edtali o\u010dak\u00e1van\u00fd \u00fa\u017eitok poslania va\u0161ej dc\u00e9ry cez dia\u013enicu pre zmrzlinu, vyn\u00e1sob\u00edme \u00fa\u017eitok prv\u00e9ho v\u00fdsledku jeho pravdepodobnos\u0165ou: 0,6 \u00d7 40 = 24. Potom k nemu pripo\u010d\u00edtame s\u00fa\u010din \u00fa\u017eitku \u010fal\u0161ieho v\u00fdsledku a jeho pravdepodobnosti: 24 + (0,05 \u00d7 -274\u00a0000) = -13\u00a0676. Predpokladajme, \u017ee s\u00fa\u010det s\u00fa\u010dinov \u00fa\u017eitkov a pravdepodobnost\u00ed pre \u010fal\u0161ie mo\u017en\u00e9 v\u00fdsledky bol 0. V\u00fdsledn\u00fd \u00fa\u017eitok poslania va\u0161ej dc\u00e9ry cez dia\u013enicu je teda ve\u013emi n\u00edzky<\/em> (\u010do sa dalo o\u010dak\u00e1va\u0165 na z\u00e1klade zdrav\u00e9ho rozumu). Preto by ste pravdepodobne mali zvoli\u0165 jednu z in\u00fdch<\/em> dostupn\u00fdch \u010dinnost\u00ed, napr\u00edklad neposla\u0165<\/em> svoju dc\u00e9ru cez dia\u013enicu pre zmrzlinu… pr\u00edpadne nejak\u00fa \u010dinnos\u0165 s e\u0161te vy\u0161\u0161\u00edm<\/em> o\u010dak\u00e1van\u00fdm \u00fa\u017eitkom.<\/p>\n Rozumn\u00fd agent sa sna\u017e\u00ed maximalizova\u0165 svoj o\u010dak\u00e1van\u00fd \u00fa\u017eitok, preto\u017ee agent, ktor\u00fd tak rob\u00ed, dostane v priemere najviac<\/em> toho, \u010do chce, pri jeho dan\u00fdch presved\u010deniach a t\u00fa\u017ebach.<\/p>\n Zd\u00e1 sa intuit\u00edvne, \u017ee rozumn\u00fd agent by mal maximalizova\u0165 svoj o\u010dak\u00e1van\u00fd \u00fa\u017eitok, ale pre\u010do je toto jedin\u00fd<\/em> rozumn\u00fd sp\u00f4sob, ako na to? Pre\u010do sa nepok\u00fa\u0161a\u0165 minimalizova\u0165 najhor\u0161iu o\u010dak\u00e1van\u00fa stratu? Pre\u010do sa nepok\u00fa\u0161a\u0165 maximalizova\u0165 v\u00e1\u017een\u00fd s\u00fa\u010det tret\u00edch mocn\u00edn o\u010dak\u00e1van\u00fdch \u00fa\u017eitkov?<\/p>\n Zd\u00f4vodnenie princ\u00edpu \u201emaximalizuj o\u010dak\u00e1van\u00fd \u00fa\u017eitok\u201c objavili v 1940-tych rokoch Von Neumann a Morgenstern. V kr\u00e1tkosti, dok\u00e1zali, \u017ee ak prijmeme nieko\u013eko axi\u00f3m o preferenci\u00e1ch, agent m\u00f4\u017ee jedna\u0165 konzistentne so svojimi vlastn\u00fdmi preferenciami iba tak, \u017ee si vyberie \u010dinnos\u0165, ktor\u00e1 maximalizuje o\u010dak\u00e1van\u00fd \u00fa\u017eitok.<\/p>\n Ak\u00e9 s\u00fa to axi\u00f3my? Podobne ako axi\u00f3my te\u00f3rie pravdepodobnosti, s\u00fa jednoduch\u00e9 a intuit\u00edvne. Jednou z nich je napr\u00edklad axi\u00f3ma \u201etranzit\u00edvnosti\u201c, ktor\u00e1 hovor\u00ed, \u017ee ak agent uprednost\u0148uje A pred B, a uprednost\u0148uje B pred C, potom mus\u00ed uprednost\u0148ova\u0165 A pred C. T\u00e1to axi\u00f3ma je d\u00f4le\u017eit\u00e1 preto, lebo niekoho s netranzit\u00edvnymi preferenciami mo\u017eno obra\u0165 o v\u0161etky jeho peniaze t\u00fdm, \u017ee mu iba pon\u00fakate obchody, ktor\u00e9 uprednost\u0148uje.<\/p>\n Nep\u00f4jdem tu do podrobnost\u00ed<\/a>, preto\u017ee tento v\u00fdsledok je \u0161iroko prij\u00edman\u00fd: rozumn\u00fd agent maximalizuje o\u010dak\u00e1van\u00fd \u00fa\u017eitok.<\/p>\n Nane\u0161\u0165astie, \u013eudia nie s\u00fa rozumn\u00ed agenti. Ako uvid\u00edme v nasleduj\u00facej kapitole, \u013eudia s\u00fa bl\u00e1zniv\u00ed<\/em>.<\/p>\n <\/p>","protected":false},"excerpt":{"rendered":" k sa so mnou niekto nezhodne na z\u00e1konoch logiky, te\u00f3rie pravdepodobnosti, a te\u00f3rie rozhodovania, potom sa s n\u00edm v diskusii o Singularite \u010faleko nedostanem, preto\u017ee mi bude st\u00e1le argumentova\u0165, \u017ee \u013eudsk\u00e1 inteligencia funguje na princ\u00edpe m\u00e1gie, alebo \u017ee ako sa… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-79","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts\/79","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/comments?post=79"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts\/79\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/media?parent=79"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/categories?post=79"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/tags?post=79"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Logika<\/h3>\n
Te\u00f3ria pravdepodobnosti<\/h3>\n
\n
Te\u00f3ria rozhodovania<\/h3>\n