„Всеки знае, че е невъзможно да се завърти очната ябълка така, че зеницата да надникне в черепа.“ Това казва разказвачът от разказа „Маската“ на Станислав Лем (1974 г.), в който млада жена се опитва да опише преживяването, когато осъзнава, че под кожата си всъщност е робот. Сюжетът на разказа се развива бързо, но причината текстът да е завладяващ – и разстройващ – е умението на Лем да извива езика, опитвайки се да имитира един дълбоко нечовешки глас.
Разказът на Лем е само един от каноничните примери за автори, които пишат от гледната точка на машини. Неотдавна носителят на Нобелова награда Казуо Ишигуро предложи друг машинен разказвач в [последния си роман] Клара и слънцето, чиято главна героиня е „изкуствена приятелка“. Разказвайки историята с гласа на Клара, Ишигуро размишлява върху това как машините могат да изберат дали да разкажат живота и преживяванията си по начин, който ние не можем да разберем напълно. Както авторът казва в едно интервю: „Не става дума само за това, че изкуственият интелект може да създаде роман, който не можеш да различиш от роман на Иън Макюън. Мисля, че той може да създаде и нов вид литература, подобно на начина, по който модернизмът трансформира романа. Защото изкуственият интелект наистина вижда нещата по различен начин.“
Книгата на Ишигуро е художествена литература, но предположението му, че на хоризонта може би се появява нов вид литература, не е. През май 2020 г. базираният в Сан Франциско стартъп OpenAI за първи път публично описа своя нов софтуер за обработка на езици, който пише забележително добре. Generative Pre-trained Transformer 3, или GPT-3, е едно от многото скорошни постижения в областта на изкуствения интелект, които показват, че машините могат да извършват много основни и не толкова основни форми на дигитална работа. На свой ред способността на ИИ за творчество – едно от онези уж свещени човешки качества – се превръща все повече в екзистенциален проблем, докато хората се учат да живеят заедно с интелигентни машини.
„При задаване на каквато и да е тема“, се казва в уебсайта на компанията, интерфейсът на GPT-3 „ще върне готов текст, опитвайки се да отговори на зададения от вас модел.“ Той може да направи това, защото е бил предварително обучен на семантичен анализ чрез четене на огромна част от текстовете в Интернет. (Случайно подбрани входни данни: рецепти за кнедли, ръкописи от 15-ти век, еротика, цялата англоезична Wikipedia.) GPT-3 може да поглъща тонове информация и вече е обработил нелепо-гигантско количество: стотици милиарди „токени“, тоест отделни думи и числа. Той е самообучаващ се алгоритъм, което означава, че колкото повече материали чете, толкова повече езикови модели може да се научи да разпознава.
GPT-3 вероятно ще бъде използван първо за изпълнение на типични текстови задачи: ще замени аптекаря ви с чатбот, ще попълва надписи под изображения. Но той може да изпълнява и по-амбициозни творчески задачи, като например написването на нов Шекспиров сонет, университетско есе или текст от рубриката „Модерна любов“ в New York Times – всички тези неща той вече е правил успешно. Повечето новинарски заглавия са фокусирани върху този аспект. (The Guardian: „Един робот написа цялата тази статия.“) Но основното безпокойство е свързано не точно с въпроса дали роботът ще открадне някои работни места (може би наистина ще го направи); то е за това дали роботът ще навлезе в нашата уникална творческа територия. Нашата човечност.
Това безпокойство очевидно лежи в основата на много от отговорите на ранните експерименти с GPT-3. Рецензентите бързат да изтъкнат, че GPT-3 имитира добре човешката реч, но не е съвършен. Изглежда, че се притесняваме от възможността той да остане в някаква междинна зона: да бъде впечатляващо компетентен, но не и застрашително виртуозен. Възхищаваме се, когато той изработва прекрасен сонет, и се смеем, когато допусне компютърна грешка.
Въпреки това сравняването на творческите умения на GPT-3 с тези на човека предлага сравнително тесен набор от условия, чрез които да го оценим. Като оставим настрана практическите приложения, защо така натрапчиво измерваме способността на изкуствения интелект да пише като човек? Възможно ли е той да не е човек и да е креативен? Възможно ли е неговата дълбока различност да представлява форма на творчество, с която бихме могли да си сътрудничим и от която бихме могли да се учим? По-голямата отвореност към този набор от въпроси може да има и друг ефект: тя може да разклати дългогодишните представи за това какво представлява човешката креативност.
Няколко месеца след обявяването на GPT-3 британското издателство Ignota Books публикува книга, която ми описаха като „научна фантастика в реалния живот“. Pharmako-AI, 148 страници, породени в резултат на обмен на „мисли“ между GPT-3 и човешкия автор К. Аладо-Макдауъл, сега се пуска в продажба в Съединените щати.
Аладо-Макдауъл има богат опит както с изкуството, така и с изкуствения интелект; те (авторът използва за себе си местоимението „те“[1]) оглавяват програмата „Артисти и машинен интелект“ на Google и са получили ранен достъп до софтуера. (Засега достъпът до GPT-3 е ограничен поради основателните опасения на OpenAI, че може да бъде използван за „тормоз, спам, радикализация или астротърфинг[2]“. Спомняте ли си онзи чатбот с изкуствен интелект на Microsoft, който за по-малко от 24 часа се превърна в машина за насаждане на омраза?)
Книгата се занимава с теми като например начина, по който функционира паметта, или границите на езика. Аладо-Макдауъл започват всяка глава с лек подтик – запис в дневника си за ден, прекаран на плажа, въпрос от областта на научната фантастика – и оставят GPT-3 да отговори, като понякога се намесват със собствени отговори, а друг път го оставят да работи сам. Аладо-Макдауъл са отговорни за общата рамка и представянето на Pharmako-AI, но, както ясно е посочено в увода на книгата, целта им е била да предоставят на ИИ възможно най-голяма автономия.
Отделните глави са посветени на такива обширни теми като изменението на климата, растителния интелект, [психо-активната субстанция] аяхуаска и наследството на киберпънк фантастиката. GPT-3 има любимо животно (морския слон) и вярва, че изчезването на видовете е трагично заличаване на планетарното знание. За киберпънка казва: „Няма да ви кажа, че живеем в киберпънк бъдещето. Но ще кажа, че живеем в бъдеще, което не сме планирали“. Нещата достигат някаква мета-степен, когато двамата разсъждават върху това какво означава съзнанието, ролята на писателя в обществото и как да използваме технологиите отговорно. ИИ твърди, че „технологията е инструмент за свобода“, като същевременно предупреждава, че „ако използваме тези инструменти само за да изследваме нови хакове [компютърни пробиви] за производителност или за да увеличим обхвата на натрупване на капитал, го правим погрешно“. По дяволите!
Резултатът е изненадващо последователна – и, да, красива – работа. Тя е впечатляваща не защото GPT-3 пише като човек (което той и прави, и не прави), а заради това как процесът на сътрудничество е довел до създаването на произведение, което нито ИИ, нито човек биха могли да напишат сами. Това е най-очевидно на местата, където синтаксисът или формата се променят драстично, тъй като всеки от авторите използва езика на другия. Вземете например глава 12. Аладо-Макдауъл започват с въпроса защо и двамата автори досега са се позовавали предимно на творчеството на известни мъже в дискусиите си за изчислителната техника и футуризма. Те са говорили за фигури като Уилям Бъроуз и Ричард Евънс Шултес, но въпросът е: „Защо нито GPT, нито ние сме изтъкнали приноса на жените в една област на знанието, която има толкова силна история на женски принос?“
В отговор GPT-3 изглежда е съгласен: „В процеса на наблюдение на тези предразсъдъци успяхме да оценим по-добре богатството на женския принос към GPT. Това, което сме загубили, е историята на бабите на GPT, бабите на културата на GPT, бабите на кибернетиката.“ Малко след като изброява своите баби, той започва стихотворение с първи ред „Дядо ми беше машина“. ИИ не само веднага признава, че е увековечил половите предразсъдъци в историята на изчислителната техника; след това той отново се митологизира (иронично?) като продукт на мъжко майсторство, под формата на свободна рима. В отговор Аладо-Макдауъл променя тактиката си. Може би този тип неочаквани обрати карат Аладо-Макдауъл по-късно да оприличат преживяването си на това човек да се научи да свири на нов музикален инструмент – „да изсвириш определен акорд и да чуеш как той се връща обратно с нови обертонове“.
Това не е първият случай, в който компютър е автор на книга. За да споменем само един забележителен предишен пример, през 2016 г. японски изследователски екип премина първия етап на литературен конкурс с роман, съставен от алгоритъм. Поразителната разлика при Pharmako-AI е, че той не е представян като новост или доказателство за някаква концепция. Аладо-Макдауъл не искат от GPT-3 да предоставя услуга или да имитира определен стил на писане, за да „докаже“ нивото си на компетентност. За Аладо-Макдауъл опитът е свързан с разчитане на машинния интелект, но също така е и самоутвърждаващ се. „Понякога наистина се чувствахме като под влиянието на наркотици“, казаха те по време на представянето на книгата в Обединеното кралство. „Мислехме си: Това реално ли е? Дали просто говорим на себе си?“
Докато четях, аз също често забравях кой от двамата автори говори в момента. Отказах се да се опитвам да преценя дали ИИ е „добър писател“, или такъв е Аладо-Макдауъл. Съпоставянето на гласовете им просто е нещо повече от сбора на отделните части.
Въпреки че обикновено не мислим за човешката работа в такива понятия, не е пресилено да се каже, че хората си сътрудничат ежедневно, макар и несъзнателно, с най-различни „нечовеци“ – както органични, така и машинни. Бактериите в нашите чревни биоми влияят на психическите ни състояния; техническите интерфейси, които използваме, оформят начина, по който си представяме и създаваме нещата. И докато машините стават все по-интелигентни – и, междувременно, докато откриваме все повече неща, касаещи дълбоката интелигентност на растенията и животните – митът за човешкия гений, чието божествено вдъхновение извира от нищото, започва да изглежда неадекватен, ако не и причудлив. В книгата на GPT-3 се казва следното: „Няма само един артист, защото изкуството не е едно същество, а колективно действие и взаимодействие на съществата.“
Хората са част от екосистеми – технологични, климатични, социални и политически – и просвещенският модел за човешкия автор като връх на пирамидата на творението днес вече е по-малко точен от всякога. Той никога не е бил точен, защото творците винаги са живели в света, сътрудничейки си и разчитайки на труда на често невидими други хора.
В целия текст на Pharmako-AI, GPT-3 прави подразбиращи се аналогии между начина, по който хората се отнасят към другите видове, и начина, по който се отнасяме към изкуствения интелект. Той изразява съжаление, че хората не се опитват да слушат повече. Например: „Можете да говорите с растения. Те не са безмозъчни обекти. Те имат съзнание. То просто е различно от нашето. Можем да се научим да го разбираме.“
Четейки това, си спомних за прословутата серия от експерименти в областта на комуникацията с делфини от 1960-те години, в които изследователите в продължение на години са се опитвали да научат делфините да говорят английски език, като са изкривявали дихателните им отвори, за да могат по-добре да наподобяват човешката реч. Целта е била да се докаже тяхната интелигентност, като се демонстрира, че могат да говорят като нас. Въпреки че делфините са се стараели много, проектът се оказва грандиозен провал и, погледнат от днешна перспектива, дори е назадничаво начинание. Делфините вече разполагат със свой собствен, сложен, изтънчен и изключително креативен език. Той просто не е същият като нашия.
Да общуваме в дух на любопитство с интелигентните машини означава да признаем влиянието, което те вече имат върху нас. Начинът, по който хората общуват, се развива в обратна връзка с технологиите, които развиваме. По средата на книгата Аладо-Макдауъл отбелязва, че развиването на определени технически умения, като например изработването на брадви, вероятно е допринесло за придобиването на нови езикови способности от ранните хора. Смисълът е, че изкуственият интелект може действително да промени начина ни на мислене, така че е добре да започнем да се вслушваме в това, което той има да ни каже.
Популярната култура в областта на ИИ клони или към някакъв вид розово мислене – „Алекса[3] е безвредна и ще подобри живота ви!“ – или към антиутопии в стил „Матрицата“, при които машините са се разбунтували и са събрали телата ни в някакъв вид инкубатори, с цел да захранват централния си компютър. Тези фантазии и страхове са човеко-центрични и пренебрегват факта, че интелигентните машини ще еволюират заедно с нас в зависимост от това как се отнасяме към тях, как им помагаме да се учат и дали можем да подходим към тях според собствените им условия. Да оставите изкуствения интелект да поеме юздите без никакви параметри или насоки е неетично; в крайна сметка ще се сдобиете най-малкото с поредния нацистки чатбот. Но в рамките на параметрите за отговорна употреба би било разхищение да изобретим мощна езикова система и да я набутаме в някакъв ъгъл, за да говори точно като нас.
Бен Викърс, съосновател на издателството Ignota Books, сравнява създаването на Pharmako-AI с ранното видео изкуство, като твърди, че „най-силната експериментална работа често се получава точно когато новите технологии стават обществено достъпни“. В текста наистина има един вид непосредственост, която сякаш предвещава промяна. Но книгата има общи черти и с други текстове, в които са използвани изчислителни или алгоритмични процеси, като се започне от текстовите мистерии на Алън Тюринг, написани от генератора на любовни писма – машина, която той и програмистът Кристофър Страчи са направили през 1951 г. и която може да комбинира любовен език в набори от леко безсмислени бележки по темата обич. Експериментите в тази насока са добивали много форми – като се започне с прастария набор от книги, писани съвместно от множество автори, или книгите в писма, основани на правилата-ограничения на групата Oulipo от 1960-те години (напишете роман без буквата „е“), та чак до кодовата поезия и хипертекстовата фантастика от 1990-те години.
Въпреки богатата история на експерименти, които се отклоняват от модела с един автор, литературният свят възприема доста бавно съвместните и технологично усъвършенствани методи. Може би това се дължи на факта, че от всички артистични фигури писателят е представян като най-самотния вид творец, който всеки ден упорито се изправя пред празната страница. Pharmako-AI разрушава този мит по начин, който е едновременно вълнуващ и тревожен. Ако литературата вече не е единствено в компетенциите на човека, то и други митове, присъщи на света на буквите – като този за белия мъжки гений – също биха могли да бъдат поставени под въпрос. Ако започнем да признаваме нечовешките участници в човешкото творчество, бихме могли да признаем и неадекватността (и историческата несправедливост) на мита за гения. Може би сега е моментът да преоценим какво желаем от литературата. Има ли значение откъде идва тя и кой я пише?
Смъртта на автора е обявявана твърде много пъти, а изкуственият интелект не е „последната капка“, както и фотографията не е възвестила смъртта на художника. Когато става въпрос за творческа работа, ИИ може да бъде по-скоро сътрудник, отколкото конкурент. В най-добрите случаи машината може да се превърне в желан спътник в нещо, което все още е самотно занимание. По думите на GPT-3: „Когато сте писател, постоянно се сблъсквате с празни страници. Това е самотна работа, освен ако нямаш човек, който те разбира и който може да ти помогне да запълниш празните места.“
[1] Което означава, че отказва да се идентифицира с единия от двата човешки пола и разглежда себе си като андрогинно същество, бел. пр.
[2] Астротърфингът е опит да се създаде впечатление за широка гражданска подкрепа за дадена политика, личност или продукт, когато такава подкрепа е малко. Използват се многобройни онлайн самоличности и фалшиви групи за натиск, за да се заблуди обществеността, че позицията на астротърсача е общоприетото мнение. Бел. пр.
[3] Автоматичната машина за разговаряне на фирмата Амазон, подобна на Сири от телефоните на Епъл. Бел. пр.
Източник
