АУТОРИ

Биљана Ђоровић: Роман В. Jамполски (сајбер експерт) – РАТ ЉУДИ И МАШИНА


Биљана Ђоровић: Роман В. Jамполски (сајбер експерт) – РАТ ЉУДИ И МАШИНА

Сингуларност – план о успону машина и нестанку човека је радни наслов овог изузетно важног разговора који је водила наш члан редакције и аутор Биљана Ђоровић за ПЕЧАТ са једним од водећих светских научника Романом В. Jамполским (Роман Владиморович Ямпольскии), компјутерским научником, професором на Универзитету у Луисвилу, познатом по свом раду на развоју вештачке интелигенције, бихејвиоралноj биометрији и безбедности сајберсвета.

18.08.2013. извор: аутор Биљана Ђоровић и ПЕЧАТ, за ФБР приредила уредник Биљана Диковић

jampolski

Трансхуманизам и смена људске- машинском цивилизацијом – водећи су циљеви Новог светског поретка. О томе недвосмислено говоре документи које објављује НАСА, као и деловање Института за сингуларност, научне  институције коју је основала НАСА у сарадњи са Војним истраживачким центром САД, на чијем је челу водећи гуру  трансхуманизма, Реј Курцвеил (Ray Kurzweil), директор инжињеринга у Гуглу), научник који је предвидео да ће машине престићи људску интелигенцију до 2029., а да ће до 2045.године започети период невероватно брзог развоја машина, након чега људи неће моћи да одрже корак са „суперинтелигенцијом“. Једина шанса, да људски род опстане у условима такве машинске „надмоћи“, по предвиђањима научника,  је да се споји са машинама.

О трансхуманизму као пројекту који се, мимо перцепције јавности, континуирано одвија разговарамо са једним од водећих светских научника Романом В. Jамполским (Роман Владиморович Ямпольскии), компјутерским научником, професором на Универзитету у Луисвилу, познатом по свом раду на развоју вештачке интелигенције, бихејвиоралноj биометрији и безбедности сајбер света.
Јамполски је докторирао на Универзитету Бафало (2008.) а тренутно је  директор лабораторије на одсеку за рачунарску технику и рачунарске науке на Универзитету за сајбер инжењеринг у Луисвилу. Предаје и на Универзитету за сингуларност при НАСА-и. Јамполски је аутор око 100 публикација као и књига: „Стратегија игара: нова бихејвиорална биометрија (Independent University Press, 2009); Безбедност за рачунаром: од пасворда до бихејвиоралне биометрије (New Academic Publishing, 2008.); Будући приступи оптичком препознавању (Briviba Scientific Press, 2007). Почетком 2014.године требало би да се појави најновија студија Романа Јамполског: „Вештачка интелигенција – футуристички приступ“.

1.  Управо радите на књизи: „Вештачка интелигенција – футуристички приступ“.  Из ког угла прилазите теми која би, са обзиром на импликације која има, морала да буде изазов за размишљање сваког човека на планети?

Много је књига које се баве вештачком интелигенцијом. Заправо сваке године се појављује по једна нова књига, али мало је оних које испитују негативне последице које би њен развој могао да произведе. Углавном читамо о ономе што би технологија могла да уради за нас а не ономе што би могла нама да уради. Моја књига се бави управо тим опасностима и оним што би ми могли да урадимо како бисмо те опасности ублажили.

2. Шта видите као највећу опасност са којом се као врста суочавамо у контексту развоја вештачке интелигенције?

Свака нова технологија потенцијално представља егзистенцијални ризик по људску врсту: нано технологија, генетички инжињеринг, роботика, вештачка интелигенција – све оне инхерентно  носе у себи потенцијале за угрожавање људског света.

Што се тиче вештачке интелигенције, један аспект овог проблема је економске природе – развојем вештачке интелигенције многи људи ће остати без посла а са друге стране погледајмо којом се брзином развија роботика у војне сврхе. Роботи – војници постају аутономни, интелигентни и – на много начина не функционишу онако како  је за њих предвиђено програмом.

3.  У условима тзв.економске кризе која потреса планету, огроман новац се издваја за развој вештачке интелигенције која се човеку представља као суперинтелигенција. Програмирани на нивоу инструменталног и функционалног ума, научници развијају машине док глобалисти успостављају систем у коме прогресивно слабе наши, људски потенцијали. Да ли можемо говорити о процесу у коме све глупљи човек живи у све интелигентнијем машинском окружењу.

Потпуно се са вама слажем. Машине су не само све интелигентније и све способније од човека, већ су и све креативније. Машине сада не само што стварају уметност већ је и доживљавају као уметност и процењују. Машине сликају, компонују и изводе музичка дела… Све се то непрекидно унапређује. Машине постају толико добре у томе да ће у блиској будућности људи бити превазиђени, неће бити потребе за човеком – музичарем или уметником, када су машине толико супериорније и боље од њега. То је оно што ме чини забринутим.

4. Да ли су роботи уопште потребни и коме? 

Сврха робота је различита и зависи од тога ко их развија. Роботи се развиају у свим сегментима у којима  делују људи.  Постоје роботи који се баве производњом најразличитијих индустријских производа; војни роботи; роботи који помажу старим и немоћним, роботи – бармени; у медицини, аеронаутици – у сваком домену у коме постоји потреба за роботима.

5.  Заиста? Да ли заиста постоји потреба за отпуштањем бармена – човека, и његовој замени – роботом? Због чега се одвија процес у коме се човек проглашава  сувишним и застарелим и – замењује  машином?

Разлога има много. Једни су економске природе: много је исплативије унајмити робота који нема потребе за сном, јелом и пићем или одласком на годишњи одмор него запослити човека који има потребе за свим тим у основи скупим бенефицијама. Људи су скупљи и далеко компликованији од робота.

6. Али, ко ће куповати све те производе уколико људи не буду радили? Да ли се овим процесима отвара широм перспектива да Земља постане планета робота – станиште за роботе и замена људске и природне – роботском цивилизацијом?

Таква могућност постоји али највероватније ћемо имати комбинације врста попут киборга  који ће настати спајањем човека са машинама. Не знам да ли ће то представљати боље и сигурније опције за нас, али развој иде у том правцу. Мождане протезе, развој Google Glass компјутера који постају све мањи и мањи, воде путем на коме ће се у једном тренутку природно спојити са нама.

7.  У смислу разумевања онтолошког статуса који се настоји прибавити машинама, веома је значајан појам „сингуларности“ и рад Универзитета за сингуларност основаног у склопу НАСА-е и финансираног од Гугла, на коме такође предајете. Сингуларитет се различито дефинише. На који начин ви операционализујете овај појам?

Да, сингуларност је појам који има бројне дефиниције и најуобичајенија употреба овог појма је да ће машине у једном тренутку моћи да се саморепродукују: да ће бити у стању  да саме производе нове генерације компјутера и програма и да ће тај процес постајати све бржи и бржи до тренутка када са њим нећемо моћи да одржимо корак… и људски род ће почети да рапидно заостаје за машинама. Технолошки процес ће постати толико брз  да ће захтевати суперхумане способности, да би човек могао да разуме шта се заправо одиграва. Човек ће тај заостатак моћи да надокнади само уколико се споји са машинама. Што се тиче Универзитета за сингуларност, он више-мање представља инкубатор за бизнисе који настају у спрези са експоненцијалним развојем технологија. На Универзитеу за сингуларност се сагледава шта ће се, на пример, догађати у био-технологији  током следећих пет година и на тој антиципацији креирају се компаније које ће профитирати искоришћавањем ових технологија. На институту се испитује шта ће се дешавати у домену роботике, шта ће се дешавати са генетичким инжињерингом и праве се стратегије које обезбеђују да они који размишљају унапред могу уновчити ове трендове и своје знање о њиховом постојању.

8. Шта ви као експерт мислите о опасностима које отвара сам појам „сингуларности“?

То је сасвим сигурно веома интересантан концепт. Са такавим концептом се  нисмо сусрели у историји људске врсте. Постојали су неки аргументи којима је овај концепт довођен у везу са технолошким развојем током индустријске револуције, али то ни у ком случају није био овако драстичан период попут нашег у коме се веома опасно приближавамо тренутку у коме људски ум више неће моћи да  буде у стању да држи корак са развојем технологије и да ће једини излаз за његов опстанак бити спајање са технологијом или рапидно заостајање. Још увек се воде расправе о томе када ће се то одиграти и на који начин али, дефинитивно, из угла мојих сазнања и праксе, до тога ће доћи у наредних 20, највише 30 година.

9.  Говорите и спајњу човека са технологијом. На том пољу се у домену нано- технологија увелико ради, наравно без човековог пристанка, о чему сведоче бројна истраживања Клифорда Карникома са Института Карником (Carnicom Institute ).

Да, таква могућност постоји. Све зависи од тога на који начин су нано роботи контролисани. Постоји шанса да нано роботи преузму људску биологију и биомасу и то је један од проблема са којим се суочавамо радећи на развоју вештачке интелигенције.

10. На делу је двоструки процес: са једне стране се људска интелигенција, ум и дух своде на програм и алгоритам и читав систем, друштво воде у правцу затварања људских способности и људског света. Када посматрамо ширу слику поставља се питање: Да ли је неко притиснуо дугме за „делете“ – брисање људског рода и његову замену роботима?

Управо се то дешава. Недавно сам присуствовао конференцији посвећеној филозофији у доба развоја вештачке интелигенције и био сам веома изненађен када сам видео да се највећи број учесника, филозофа, професора универзитета и етичара заправо залагао за замену „застраелог“ човека са далеко савршенијим роботима и интелигентним машинама. То је било за мене заиста изненађујуће сазнање.

11. Какво је ваше разумевање, увиди у феномен свести, свакако најзначајнијег концепта и са аспекта развоја вештачке интелигенције и роботике?

То је веома важан концепт за разумевање суштине људског бића. Такође, то је веома слабо проучен концепт. Ми не располажемо параметрима ни апаратуром којом би могли да докучимо шта „свест“ заправо представља. За сада, могу да кажем да смо ми који се бавимо развојем роботике и вештачке интелигенције у стању да начинимо веома велики прогрес у овим областима а да не поставимо питање моделовања свести или симулације свести. Чини ми се да ћемо, како будемо у прилици да боље разумемо људски мозак, са побољшањем резолуција скенера који га скенирају,  бити у бољој позицији да разумемо шта свест заиста представља и самим тим да сагледамо да ли ћемо моћи да је вештачки произведемо.

12. Брзина је развојем технологије промовисана у водећу категорију и мерну јединицу „напретка“ мишљеног као техника. Како ви сагледавате место брзине у  унутрашњој логици и специфичностима вештачке интелигенције и компјутерских технологија?

Генерално говорећи, највећи прогрес у развоју компјутерске технологије заснован је на побољшању ефикасности алгоритама и повећању брзине процесора. Не ради се о томе да они који се баве развојем машина чине неке продоре у разумевању овог процеса, већ се оне исцрпљују у повећавању брзине и броја различитих приступа и то је оно што повећава шансе за успех. Ако погледате софтвер за играње шаха, на пример, видећете да је прогрес начињен повећањем брзине процесора који претражује већи број могућности, како би надиграо човека. Сада се већа пажња посвећује побољшању алгоритама како би и веома споре машине биле веома компетитивне. Највећи прогрес постиже се ефективношћу самог компјутера. Предвиђања о достизању сингуларности се углавном базирају на процени колико је брз људски мозак и када ће машина моћи да достигне ту брзину. Идеја је да ће, када једном буде била у могућности да нешто уради одређеном брзином на којој оперише људски мозак, машина у следећм турнусу моћи да решава проблеме брже од људи.

13.  Лепо: видимо да се иза сцене одвија трка научника који желе да машински мозак далеко престигне наш, људски, а да људи нису тога свесни, као што  су све мање свесни да поседују чудо и тајну звану мозак. У току су бројни научни пројекти који имају за циљ да дешифрују тајну људског мозга за које се одваја огроман новац, а у њиховој релизацији учествују федералне агенције, приватне фондације и водећи неуро научници САД.  Да ли се и ова истраживања спроводе са циљем реализације концепта сингуларности: стицања знања која ће допринети унапређењу вештачке интелигенције?

Председник САД, Обама је 2.априла ове године објавио да је Конгрес одвојио нових 100 милиона долара за пројекат мапирања и истраживања функционисања људског мозга. Насловна страна Њујорк Тајмса је фебруара ове године била обележена текстом Џона Маркофа о истраживачким напорима под називом „Мапа можданих активности“ у коме се говори о крупном подухвату неуронаучника за који ће Обамина администрација одвајати 300 милиона долара годишње током читаве наредне деценије. И, сасвим је сигурно да то нису први пројекти те врсте. Мислим да ЕУ већ спроводи пројекат вредан милијарду евра како би могла да разуме људски мозак. Спроводе се скенирања, симулације, редизајнира се ниво резолуције до нивоа који је неопходан како би се потпуно симулирао рад мозга и испитало како мозак ради. Веома је вероватно да ће тај пројекат дати добре резултате са обзиром на то колико је новца уложено и какав је квалитет људи који су на његовој реализацији ангажовани.

14. Мозак је још увек остао тајна за научнике који ће наравно и ову пљачку представити као решавање проблема паркинскове или алцхајмерове болисти, како ће слепи прогледати и глуви чути и слично, док се у ствари ради о пројектима који желе да нашу свест подаре роботима. Шта ви мислите о овим пројектима који изгледају као веома добра прилика за пљачку и гусарење нашег мозга и његових могућности?

Свакако постоји опасност када се ради о овој врсти пројеката који, како сте рекли, отварају могућности за излечење бројних, болести али са друге стране доводе до сазнања о могућностима за бољу манипулацију; како да читају мисли, како да контролишу човека а да он и не зна да је контролисан. Дефинитивно: тип истраживања која ја спроводим,  у којима трагам за сигурносним механизмима, биће веома добар додатак овакој врсти пројеката.

15. Ви сте сарадник Реја Курцвеила, водећег гуруа трансхуманизама, директора Института за сингуларност и главног инжињера Гугла. Шта нам можете рећи о њему и његовим предвиђањима трансхуманистичке будућности?

Историјски гледано, мислим да је Реј Курцвеил био веома тачан у својим предвиђањима када ће се вештачка интелигенција приближити људској, ослањао се на веома добре статистичке анализе, установио је читав низ закона који су веома много утицали на технолошки напредак. Његов допринос развоју технологије је огроман и Гугл га је поставио за руководиоца инжињерског сектора; мислим да су у њему препознали најбољу особу за реализацију напора компаније Гугл за стварање вештачког мозга и то на основу књиге коју је о томе написао а чији наслов гласи: „Како створити мозак“.

16. Да ли је могуће створити вештачки мозак? Да ли се ради на биотоничком или синтетичком мозгу? 

Пројекат се реализује као строго тајни пројекат и нису познати никакви подаци чак ни у погледу технологије која се користе. Оно што би могли да закључимо на основу књиге Реја Курвеила, идеја је да се имитира функционисање људског мозга. Примењују се бројна понављања алгоритама којима се могу процесуирати визуелни стимулуси, аудио стимулуси и бројни други. Гуглови научници осећају да ће, уколико буду у стању да моделују мозак на атомском нивоу и у одређеној размери, моћи да реализују процес обраде било ког типа информација. Намера Гугла је да учини информацију доступнијом, једноставнијом, попут онога што смо видели у документарном филму о суперкомпјутеру – Ај-Би-Ем-овом „Вотсону“: (IBM’s Watson). Овај компјутер је могао да веома добро разуме питања која су му била постављана а у давању одговора служио се свим расположивим подацима које је могао да пронађе на Интернету.

17. Уграђујући у комјутерске програме све информације које оригинално потичу из људског ума, као и имитирајући људски мозак при производњи вештачког, да ли ће компјутери, машине и роботи присвојити и слободну вољу, као базичну одлику човека?

Слободна воља је прилично сиромашно дефинисан концепт у науци. У роботици би то најпре значило да не можемо у потпуности предвидети акције које ће робот предузети и поред постављања бројних сигурносних мера. Уколико му будемо препустили могућност да слободно бира шта ће радити, робот ће увек моћи да превазиђе те сигурносне механизме.

18. Промена пардигме је у току. Покренут је процес трансформације човека који се одвија мимо знања јавности која је блокирана на нивоу процеса мишљења и потпуно несвесна програма у који је укључена на онтолошком нивоу. Која питања је, по вашем мишљењу, нужно поставити?

Веома је важно сада се одредити у односу на ниво до којег ћемо допустити да се трансформација реализује. До које мере ћемо контролне механизме препустити компјутерским системима који већ сада контролишу рад нуклеарних електрана, берзе, електричне мреже… другим речима веома комплексни системи су препуштени машинама. Ако се овај процес настави, шта ће бити остављено људима? Да ли ћемо машинама препустити и судски систем и правни систем и остале системе на чијем раду почива наше друштво? Где је уопште граница?

19. Како ви предвиђате будућност?

Промене ће бити постепене и најпре ћемо видети даљи развој микрокомјутера који ће садржати све већи број информација и од њих ће настати мождани импланти  а компетитивност ће навести људе да се адаптирају и да уграђују у свој мозак и тело све савршенију технологију. Без можданог импланта, нећете уопште бити компетитивни како за запослење тако и за све остало, будући да ће се читава инфраструктура система прилагођавати новијим моделима. Свакако ће доћи до спајања човека и технологије, али ће увек постојати и групе које ће се томе противити, као што се Амиши данас противе технологији. Киборгизација ће тећи у смеру у коме ће се временом све већи део биологије замењивати машинским, тако да на крају неће бити потребне за биолошким компонентама и преостаће само машински свет. То ће бити коначан крај човека као врсте.

20. О каквим  типовима имплантаната говорите?

Споменули сте Паркинсонову болест и различите типове неуролошких поремећаја. У почетку ће се радити о имплантима који су у стању да реше такав тип проблема, што ће оснажити веру у технолошка чуда. Постоје импланти који могу да спрече епилептичне нападе итд.. али у прилици смо да видимо и другачији смер кретања: импланте који могу да обезбеде додатну меморију која ће се састојати од далеко већег броја информација од оних којима наш мозак располаже; учење ће бити моментално и реализоваће се брзином којом данас учитавамо било који програм и не би ме изненадило уколико будемо у могућности да учитамо знање неопходно за докторат из хемије за исто време за које данас учитавамо музику на својим ајподовима. Постоји и трећи правац развоја: реализација идеје читања мозга; читања мисли и  поставља се питање како ће то утицати на политику, на правни поредак, на читав друштвени систем.

21. Да ли је могућа реализација програма који ће моћи да чита мисли?

Постоје истраживања која показују да је то сасвим једноставно урадити. У контролисаним лабораторијским условима можемо да тачно видимо на који објекат особа мисли у ограниченом задатом сету, можемо да препознамо у којим речима мисли, у којим сликама, и постоје велики помаци у тој области.

22. Да ли је могуће даљински читати наше мисли путем компјутера које користимо?

У лабораторијским условима се показало да је компјутерским скенирањем  једноставно читати мисли. Читање мисли на даљину могуће је на овом степену технологије уколико имате сензоре који би омогућили скенирање мозга у одређеној резолуцији. Не знам да ли је та могућност  било када примењена, али  као могућност је отворена и изгледна.

23. Да ли ће реализација читања мисли бити усаглашена са програмом контроле ума? Да ли ће читањем мисли помоћу компјутерских програма људска права на приватност бити у потпуности одузета човеку?

Контрола ума припада другом и другачијем сету програмирања али та два програма свакако иду „руку под руку“. Технологија пружа  такорећи неограничене могућности за контролу ума. Свакако ће се реализовати даље кршење људских права. То је наставак процеса чије размере можемо данас да веома добро сагледамо, но приватност је еволутивни концепт и са појавом социјалних мрежа каква је на пример Фејсбук, видимо да је дошло до померања у самом поимању појма приватности. Ко сте, шта радите, где се налазите, шта сте јели за ручак: све је то данас постављено у хоризонт јавних информација, након што је већина људи прихватила њихово објављивање као норму.

5 replies »

  1. НА НЕБЕСЈЕХ

    Разорише храм, ни камен на камену не оста,
    безљубовници. Разорише храм,
    тражећи златни камен ,
    тражећи тежиште,
    тражећи туђе !
    Спуштајући га
    ка земљи,
    к себи,
    све ниже…Тражећи семе !
    Јер зло вечито мисли тајна је у семену !

    Тражећи разрешење !…
    Јер нада несавршених не иде у висине;
    окреће се на доле,
    ка праху;
    ка атому, ка камену…
    Безљубовни не гледају у небо;
    не покушавају да воле …
    И убрзивачи зла увек мисле
    кључ је у семену…

    А Емануил рече наш: – “Оче наш…”!

    Д.Б.М.

    Свиђа ми се

  2. Сматрам да постоји добар разлог због кога желе спајање људи и машина. Мапирање мозга им неће донети ништа више од разумевања процеса. Оно је без духовне категорије и неће моћи бити употребљено као сврсисходно њиховим жељама и плановима.Без тог основног елемента и сами знају да је немогуће. Имам једну теорију, неки ће је назвати лудачком и ничим доказаном..али…Када говорим о знању, индивидуалном знању, сви замишљамо како се то знање налази у мозгу.Не мислим да је тако. Знамо да су веома битан фактор број и распоред синапси и неурона. Рекао бих да је тај распоред и тај број, само начин на који се закачимо на то знање које нам је тада доступно.По том гледању на ову ствар, сво знање које је икада постојало, које постоји и које ће икада постојати, постоји у овом увек једном и једином вечитом садашњем тренутку у нашем информационом пољу које нас окружује и у коме живимо (матрикс, а под тим подразумевам цео универзум). Синапсе и неурони су „хватаљке“ за то знање.Какав распоред и колики им је број, такво је и знање. Сами процеси у мозгу су само обрада тог знања које нам је доступно.Процеси као такви немају могућност слободне воље без духовног елемента.И зато мислим да је првенствени њихов циљ управо спајање људи са машинама, заробљавање душе у таквој творевини ( неки кажу да већ имају технологије за заробљавање душа, али је очогледно не могу уметнути у машину)ради приступа свем могућем знању које постоји и самим тим апсолутним управљањем.
    Међутим, ипак ми се чини да су се мало прерачунали. Све ово није могуће, јер тај концепт не може да опстане без човека као таквог, наравно све ово ће пратити изумирање људске врсте до одређеног потребног броја.Без човековог пристајања на то неће моћи да се оствари. У крајњем случају моје непристајање на спајање са машинама би значило – док год могу да живим као природан човек, то је у реду, а када то нећу моћи више, слободан сам се опростим од живота са поносом што умирем као човек.

    Свиђа ми се

  3. „приближавамо се тренутку у коме људски ум више неће моћи да буде у стању да држи корак са развојем технологије и да ће једини излаз за његов опстанак бити спајање са технологијом или рапидно заостајање“.

    Ово је главна порука која нам се шаље посредством Г.Јанполског и која се провлачи током целог разговора,па и када се предвиђа будућност што јасно указује на зацртане планове..
    Оно што прво упада у очи је да је ова порука безалтернативна као и све поруке произашле из ђаволске кухиње које не остављају никакав простор слободе избора,једна таква нама најпознатија је“ Европа нема алтернативу“.Друга основна
    црта ове поруке је безалтернативни пут који нам се сугерише.Пут спајања човека са машином.Главни мајстор кухиње из које је порука произашла је отац лажи и преваре, па је и ово још једна велика превара која нам у ствари сугерише пут у човекову пропаст и нестајање за који би требало да дамо добровољан пристанак,Када неко,ко је зацртао пут брисање људског рода и његову замену роботима, како је то потврдио г.Јанполски рекавши „управо се то дешава“указује на безалтернативни пут његовог спасењања онда је то најбоља потврда да је то пут у пропаст.

    Свиђа ми се

    • Razum je bioloska kategorija,u bioloskom „pakovanju“.Morgelons-i,nije bolest,vec nacin da velikim eksperimentom,bez dozvole i ljudske saglasnosti(americki“demokratski“uz „postovanje“ljudskih prava),dodju do podataka koji su im neophodni.To ce biti…kad ljudsko telo prihvati te strane cestice,tj. nikad.Kako ce detektovati duhovnu kategoriju?Koliko „komandi“u ljudski mozak stize iz te sfere?Kontroli uma, citanju misli,po svemu sudeci mora da prethodi nekakav implantat,mali, malecki,vidljiv-nevidljiv,sve jedno.Koliku energiju nosi misao,koliku vera?Ne sumnjam da ce nesto uraditi,ali da ce pretvoriti sve ljude u kiborge ili kako se sve to zove,ne verujem.Ono sto je jako vazno;ne dozvoliti da se u sopstvenom umu razvije strah,koji slabi odbrambenu moc svakog coveka.Ono sto je Bozije vec vekovima kvare,ali nece time ovladati.Ono sto je ljudsko,podlozno promenama,to su vec velikim delom zauzdali,ali opet na kraju mrka kapa „osvajacima ljudskih dusa“to su ipak samo luciferijanci.

      Свиђа ми се

Хвала за коментар. Ваш коментар ће бити видљив након "модерације". Коментари који садрже претеће, увредљиве и вулгарне изразе неће бити објављени...

Попуните детаље испод или притисните на иконицу да бисте се пријавили:

WordPress.com лого

Коментаришет користећи свој WordPress.com налог. Одјавите се / Промени )

Слика на Твитеру

Коментаришет користећи свој Twitter налог. Одјавите се / Промени )

Фејсбукова фотографија

Коментаришет користећи свој Facebook налог. Одјавите се / Промени )

Google+ photo

Коментаришет користећи свој Google+ налог. Одјавите се / Промени )

Повезивање са %s