За дигиталните „мигранти“ и „аборигени“, за сингулярността – крайната неопределеност, „черната дупка“ на бъдещето, когато компютрите може да станат по-умни от нас, разсъждава нашият автор Анелия ДИМОВА върху разширяващото се поле от научни хипотези и наративи.
Под заглавието: Сингулярност от Симо Лазаров
В съвременния дискурс за изкуствения интелект, научнофантастичните наративи все повече позиционират технологиите на границата на познанието отвъд регулирането и човешкото управление. Въвежда се концепцията за „аборигени на научната фантастика“ (sci-fi natives), за да се опише как потъването в спекулативни въображения в продължение на няколко поколения влияе върху правните и управленските теории за контрол, отговорност и социални договори.
Добре дошли в бъдещето? „Влязохме в сингулярността!“ Илон Мъск
За феновете на научната фантастика това е краят на бъдещето. Реалността нарушава научната фантастика в реално време, а новините я заместват. Усеща се като компилация от различни сюжетни линии в една. В основата си става въпрос за връзката между човечеството и утопичния или дистопичен свят, който създаваме с технологиите. В рамките на сингулярността, технологиите са излезли отвъд човешкия контрол и разбиране. Изявлението на Мъск отразява по-широк наративен модел в съвременния дискурс за изкуствения интелект.
Съобщението на Мъск за появата на сингулярността, само няколко дни след дълбоко смущаващи изображения на насилие срещу жени и деца, попадна в заглавията. Следвайки логиката, че изкуственият интелект е излязъл отвъд човешкия контрол и разбиране, Мъск помоли потребителите за сътрудничество: „Моля, помогнете ни да направим Grok възможно най-съвършен“, като едновременно с това предупреди, че създателите на незаконни изображения носят пълна отговорност. Компанията реши проблема, като ограничи функцията до притежателите на абонамент.
Успоредно с това десетки хиляди хора протестират срещу драматичните събития след фаталната стрелба по жена от имиграционен служител в САЩ. Освен това, президентът на САЩ излиза отвъд международното право, като се намесва в делата на Венецуела. Поглеждайки към днешния свят, изглежда, че сме загубили научната фантастика в полза на реалността.
Научнофантастични истории като сериала на HBO „Westworld“ ни изправят пред свят на ръба на хаоса и човешкото изчезване. Този вид научна фантастика ни отвежда дълбоко в дистопичната заблуда на технократското решение. Решение, насочено към възстановяване на мира и реда, решаване на всички проблеми на човечеството с помощта на висш интелект.
Сингулярността се твърди, че се разгръща в нашата реалност сега. Това, което някога е било представяно като спекулативна фантастика, все повече отразява посланията, чрез които се представят и формират предизвикателствата и решенията в реалния свят.
Тези развития поставят нашите социални договори под фундаментален натиск, пораждайки сериозни опасения относно установяването на технологичен феодализъм, поробването на хората и дори изчезването им. Следвайки наратива на ООН 2.0 и Пакта за бъдещето, светът е в толкова дълбока криза, че трябва да използваме технологиите, за да променим траекторията на нашето бъдеще и да изградим по-добро бъдеще за всички нас.
ООН 2.0: Възриемане на иновациите за преодоляване на глобалните кризи
Модели на управление
Вече виждаме какво е възможно, тъй като първите стъпки за изпълнение на Пакта са в ход чрез инициативата на ООН „Виртуални светове и Citiverse“. Такива инициативи са предназначени да проправят пътя към по-добро бъдеще за всички на различни нива и измерения на управлението. На фундаментално ниво терминът „управление“ се отнася до всички модели на управление и следователно се отнася до изграждането на социален ред, координация и практики, независимо от тяхното специфично съдържание. В нашите социално-технологични системи такива правила обхващат регулиране на човешкото поведение чрез технологии, особено чрез технически стандарти.
В крайна сметка, всяко регулиране или управление засяга човешкото поведение и отношения, независимо от използвания посредник. Въз основа на тази правна реалност, как е възможно изобщо да смятаме, че технологии като изкуствения интелект биха могли да бъдат отвъд регулирането и човешкото управление? Защо сме обърнали целта на научната фантастика, позволявайки на спекулативните разкази да оспорват реалността на нашите социални договори и управляемостта на технологии като изкуствения интелект?
Привлекателността на научната фантастика е, че тя е преднамерена фикция, форма на литература, създадена от въображението, която ни позволява да разширим осведомеността си за възможните последици и въздействие на технологиите и научните стремежи върху нашите общества и човешкия живот. С напредването на технологиите реалността днес сякаш е настигнала научната фантастика. Или просто си го въобразяваме, или още по-лошо, дали сме в капан в собственото си колективно въображение?
Начинът, по който подхождаме към бъдещето, е чрез разказване на истории. Ние изграждаме сценарии, за да си представим какво предстои. Научнофантастичните истории, и особено тяхната кинематографична реализация, могат да бъдат представени като колективни сценарии или упражнения за предвиждане. Това може да е нашият основен проблем: ние сме се превърнали в „аборигени на научната фантастика“ (sci-fi natives). Особено в западните общества хората са родени в среда, дълбоко преплетена с научнофантастични разкази в продължение на няколко поколения. Много преди да имаме възможността да взаимодействаме с алгоритми или системи с изкуствен интелект, ние научихме какво означава изкуствен интелект чрез истории като „Терминаторът“, „Блейд Рънър“, „Уестуърд“, „Стар Трек“ и много други. Нашето въображение се е формирало преди появата на технологиите.
Всъщност идеята за изкуствен живот предшества изцяло съвременната научна фантастика. Много преди изкуственият интелект да стане техническа реалност, изкуственото творение вече е съществувало в митовете. В гръцката митология Хефест изработва автономни стативи и интелигентни златни слугини. Дори Пандора може да се тълкува като инженерно създадена човешка форма, ранно въображение за изкуствен живот. Тези разкази установяват шаблон за това как се представят творението и контролът много преди да могат да бъдат проектирани. С възхода на масмедиите, подобни въображаеми идеи бяха претворени в научна фантастика и фентъзи, както и в изследвания и иновации от реалния живот. Цифровата трансформация и най-новите постижения в нововъзникващите технологии, като изкуствения интелект, създадоха парадоксална ситуация: фантазията изглежда е реалност. Поне части от нея. Разглеждайки дискусията около изкуствения интелект, както утопичните обещания, така и дистопичните предупреждения, стана трудно да се направи разлика между реалност и измислица.
Станахме ли твърде свободно владеещи езика на бъдещето? Няколко поколения са родени в социална среда, дълбоко преплетена с научнофантастични истории. Влиянието на тези истории датира много по-далеч от влиянието на самите цифрови услуги и продукти.
През 2001 г. експертът по образование Марк Пренски идентифицира ново поколение, родено в среда, дълбоко преплетена с технологиите. Той твърди, че цифровите аборигени обработват информацията коренно различно от цифровите имигранти, които е трябвало да се адаптират към новата реалност. Пренски твърди, че цифровите аборигени притежават интуитивно владеене на езика на социално-техническите възможности. Предишните поколения са само имигранти в цифровия свят и акцентът им обикновено остава видим в цифровия им език. Пренски използва тази рамка, за да адаптира образованието към нуждите на това поколение. Терминът „цифрови аборигени“ се е превърнал в търсено умение на пазара на труда, тъй като се предполага, че това поколение има вродена цифрова гъвкавост, за да работи интуитивно с нововъзникващите технологии. Особено по отношение на управлението, това има недостатък. В момента, в който „станете аборигени“ […], вие се губите в идентичността на системата, в която сте влезли, и ставате неин подчинен“ („Граматиката на системите“ от Патрик Ховърщат). Ето защо в момента виждаме границите на нашите социални договори да се нарушават чрез наративи, които издигат ИИ (като сингулярността) отвъд човешкия контрол и правната система.
За да си върнем границите, трябва да осъзнаем нашите „научнофантастични аборигенски“ модели на мислене; в противен случай ще бъдем в капан в един вид обратна връзка от обърнати научнофантастични наративи. Жизненоважно умение за предвиждане е способността да се разчупят „аборигенските“ сценарии и да се възстановят границите, необходими за създаване на нови модели, които са наистина ориентирани към живота. Как? Това е добра новина за любителите на научната фантастика, тъй като историята продължава и можем да пренапишем сценариите.
Анелия ДИМОВА
