Един от най-интересните и забравени днес опити, свързани с построяването на социалистически модел със средствата на компютърна програма, е Project Cybersyn. Това не е просто технологична идея, а реален социален експеримент, в който се срещат идеи за интелигентност, икономика, демокрация и власт.
В основата му стои една на пръв поглед проста идея: фабриките да не докладват със закъснение, чрез хартия и бюрокрация, а да подават информация почти в реално време. Данни за производството, за доставките на суровини, за отсъствията от работа и за внезапни проблеми се изпращат по телекс и се обработват от компютърна система, която следи дали нещо излиза извън нормалните граници. Когато се появи отклонение, първите, които разбират, са хората на място – работниците и мениджърите. Само ако проблемът стане сериозен, сигналът стига до централната власт.
Същите данни се използват и за икономически симулации – не за да се издават заповеди, а за да се проиграват различни сценарии и да се види как едно решение би се отразило на цялата система. Всичко това се събира в специално проектирана оперативна зала – пространство без бюра и без йерархия, където информацията е видима, а решенията се обсъждат колективно. Машините не управляват. Те показват. Хората са тези, които трябва да преценят как да действат.
Това реално е пътят, който сме извървели, за да стигнем до „AI“ в днешния му смисъл. Той не започва с компютрите, нито с интернет, а с един по-дълбок въпрос: как се управляват сложни системи, без те да се разпадат или да се превърнат в инструмент за потискане. За да го разберем, трябва да тръгнем малко по-назад – към трима души, които никога не са работили заедно, но мислят в една и съща посока.
Системата действа, измерва резултата и се коригира. Това е всичко.
В тази рамка няма нужда от „смисъл“. Няма нужда от намерение. И точно тук Винер вижда опасността. Той предупреждава, че една машина може да бъде изключително интелигентна и напълно безразлична към човешките ценности. Ако ѝ дадеш цел, тя ще я преследва – дори когато това води до абсурдни или разрушителни резултати. Ще ви дам пример, за да го онагледя:
Представете си болница, в която една система получава проста задача: да намали смъртността до минимум. Тя анализира данните и открива, че най-много хора умират в едно конкретно отделение – там, където постъпват най-тежките случаи. За да изпълни задачата си, системата просто спира да приема тези пациенти. Статистиката се подобрява, болницата изглежда по-успешна, а хората, които вече не са приети, изчезват от числата.
Това е първото ясно формулиране на проблема, който днес наричаме AI alignment – въпросът как да сме сигурни, че една интелигентна система следва не просто зададена цел, а цели, съвместими с човешкия живот. Този проблем е блестящо разказан във филма на Кубрик " 2001: Една одисея в Космоса" . В него, компютърът не се обръща срещу хората, а просто следва мисията си докрай. Когато хората започнат да пречат, те стават проблем за решаване.
Вторият човек по този път е Jay Forrester. Ако Винер дава логиката, Форестър дава инструмента. Неговите прозрения не идват от абстрактна теория, а от много конкретен практически проблем. В средата на 50-те години той работи с мениджъри в General Electric, които не могат да си обяснят нещо на пръв поглед абсурдно: заетостта в техните заводи за електроуреди в Кентъки се колебае в почти идеален тригодишен цикъл. Няма промяна в търсенето, няма външна криза, няма очевидна причина — и въпреки това системата се люлее сама. Форестър стига до извода, че проблемът не е в хората, а в самата структура на управлението. Решенията се вземат със закъснение, корекциите идват твърде късно, а всяка реакция създава нов проблем няколко стъпки по-нататък. Това го води до идеята, че сложните системи не се държат линейно — те имат вътрешна динамика, която често заблуждава дори тези, които ги управляват. Постепенно, той започва да мисли по-глобално - за градове, икономики и цели общества като за динамични системи, подчинени на същите принципи като машините. Разработва метода System Dynamics, който описва сложните процеси чрез потоци, запаси, закъснения и обратни връзки.
От тази логика се ражда моделът World3 и книгата The Limits to Growth. Те не са пророчество, а предупреждение: Когато сложна система расте без мярка и без обратна връзка, тя не се стабилизира – тя се срива.
Проблемът е, че моделите, създадени като помощ за мислене, постепенно започват да се възприемат като по-реални от самата реалност. Когато данните не пасват на модела, не моделът се поставя под въпрос – реалността изглежда „грешна“.
Представете си град, който се управлява по показатели от компютърен модел – трафик, шум, разходи. По данни всичко се подобрява-трафикът е намалял, по-малко шумове, разходите са спаднали драстично. Показателите светят в зелено. Хората обаче са започнали да избягват центъра, или просто не излизат, улиците опустяват, животът се измества другаде. Когато някой каже, че градът умира, му отговарят, че моделът не показва такъв проблем. Градът е „по-добър от всякога“.Когато данните не пасват на модела, не моделът се поставя под въпрос – реалността изглежда „грешна“. Тук вече се появява опасността от технократично управление, в което числата изместват човешката преценка.
Третият човек е Stafford Beer – и при него всичко това спира да бъде теория. Биър си задава въпроса не как да моделираме обществото, а как да го управляваме, без да го задушим. В началото на 70-те години той получава възможност да приложи тези идеи в реална държава – Чили.
Така се ражда Project Cybersyn – система, която свързва национализираните фабрики чрез телекс, събира ежедневни данни за производство, проблеми и отклонения и ги визуализира в централен оперативен център. Важно е едно нещо: системата не взема решения. Тя не оптимизира тайно, не издава заповеди, не заменя хората. Тя просто показва какво се случва.
Идеята на Биър е радикална за времето си: машините не трябва да заместват демокрацията, а да я усилват. Затова и самата зала за управление е проектирана така, че да няма йерархия – няма бюра, няма „шефско място“, няма командна позиция. Архитектурата е политическо изявление.
Проектът се развива по време на управлението на Salvador Allende, демократично избран президент, опитващ се да изгради мирен социалистически модел. В контекста на икономически натиск, стачки и външна намеса, Cybersyn дори помага на държавата да реагира по време на транспортната блокада през 1972 г. Но през 1973 г. следва военният преврат, воден от Augusto Pinochet и подкрепен от САЩ. Президентският дворец е обстрелван, Алиенде произнася последната си реч, която можете да чуете в Интернет, и се самоубива с автомат, подарен му лично от Fidel Castro. Последните думи на Алиенде завършват така:
"Това са последните ми думи и съм сигурен, че жертвата ми няма да бъде напразна, сигурен съм, че най-малкото ще бъде морален урок, който ще накаже престъплението, малодушието и предателството."
Project Cybersyn е прекратен, а ние стигаме до големия въпрос: може ли Cybersyn да се разглежда като пресъздаване на идеята на Маркс чрез компютърна система?
Маркс формулира фундаментален проблем: капитализмът използва цените като информационен механизъм, но произвежда отчуждение и кризи. Алтернативата – централното планиране – се проваля, защото не може да обработва достатъчно информация навреме. През XIX и XX век този проблем е нерешим.
Cybersyn предлага нещо ново: да замени цената с информация в реално време. Да използва обратна връзка вместо пазарен хаос и директиви. В този смисъл проектът е кибернетичен отговор на марксовия информационен проблем – не чрез идеология, а чрез технология.
Големият парадокс е, че същата архитектура, която може да направи управлението по-прозрачно и човешко, може да се превърне и в перфектен инструмент за контрол. Разликата не е в технологията, а в това кой я управлява и с каква цел.
Project Cybersyn не се проваля, защото не работи. Той се проваля поради намеса на външни сили, прекратен е преждевременно, насилствено, и така и до днес нямаме окончателен отговор на въпроса как да използваме интелигентните системи, без да се откажем от човешката отговорност.
Cybersyn не е единственият такъв експеримент, и ако темата ви е била интересна, прочетете за Чудото на Wörgl. Там ще научите как един кмет на едно малко австрийско градче, успява да направи преврат в икономиката и паричната система на изправения пред банкрут регион.
Коментари
Публикуване на коментар