Смисълът на един текст не зависи от самоличността на неговия автор – дори когато той не е човек.
Когато четем някакъв документ – като този, например – съвсем естествено е да си зададем въпроса: кой го е написал и следователно кой може да удостовери съдържанието му? За да си отговорим, вероятно ще се опитаме да научим нещо за автора, защото самоличността му може да ни помогне да преценим доколко написаното е достоверно. Да речем, че моята биография ви съобщава, че съм професор по комуникационни изследвания в американски университет – тогава може би ще приемете, че съм добре подготвен да говоря за разместванията, предизвикани от езиковите модели (както възнамерявам да направя тук), и дори, че думите ми заслужават доверие. В крайна сметка вече сте идентифицирали автора и сте преценили, че той притежава известен авторитет по темата.
Но когато даден текст е написан или генериран от езиков модел като ChatGPT, Claude или DeepSeek, представата за автора се замъглява. Технически погледнато, текстът е създаден от алгоритъм, но все пак някой човек е подал команда на алгоритъма. С други думи кой – или какво – е авторът? Алгоритъмът? Човекът? Или съвместно начинание между двете/двамата? И защо изобщо това има значение?
Откакто ChatGPT се появи през 2022 година, огромна част от обществените коментари се фокусира върху заплахата от идещия край на човека-писател. Или езиковите модели напълно ще изместят самия акт на писане, или хората ще предадат твърде много от своите творчески сили в ръцете им. Напредъкът на тази технология, пише един журналист, ще ни „остави без думи, без мисъл, без себе си“. Но, подчертава той, не само писателите ще бъдат засегнати: „Ако ИИ наистина измести човешкото писане, какво ще загубят хората – както читателите, така и писателите? Залогът изглежда огромен, далеч надвишаващ всяка предишна вълна на автоматизация.“
Аз имам различно мнение. Вярно е, че езиковите модели може би вещаят края на автора – но това не е загуба, за която трябва да съжаляваме. Напротив – тези машини могат да бъдат освобождаващи: те освобождават както писателите, така и читателите от авторитарния контрол и влияние на онова, което наричаме „автор“.
Ако попитате някого какво е автор, той вероятно ще ви отговори, че това е човек, който пише книга или друг текст и следователно е отговорен за казаното в него. Може би ще изброи имената на хора, които възприемаме като такива: Уилям Шекспир, Жан-Жак Русо, Вирджиния Улф, а може би дори и някой като Дейвид Гънкъл. Но това разбиране за автора не е някаква универсална истина, която съществува от началото на времето. По-скоро то е съвременна концепция. „Авторът“ в смисъла, в който го познаваме днес, произлиза от едно не чак толкова далечно минало – той има история.
В своето есе от 1967 г. „Смъртта на автора“ френският литературен критик Ролан Барт проследява корените на тази вече банална идея до модерната епоха в Европа, започваща някъде към средата на XVI век. Преди това, разбира се, хората са писали текстове – но идеята да се възлага отговорност и авторитет на конкретна личност не е била обичайна практика. Много от великите и влиятелни литературни произведения – фолклор, митология, религиозни писания, които четем и до днес – са се разпространявали в човешката култура без нужда от или приписване на конкретен автор.
Модерната епоха обаче поражда редица взаимно свързани интелектуални и културни развития в Европа, които се съсредоточават около това, което Мишел Фуко по-късно нарича „привилегирован момент на индивидуализация в историята на идеите“. Като отхвърлят подчинението на папството, протестантските реформатори от XVI век полагат основите на индивидуализираната вяра. В следващото столетие философът Рене Декарт изгражда рационалистката си философия върху твърдението „Мисля, следователно съществувам“, правейки всяко знание зависимо от сигурността на самосъзнателната мисъл. Паралелно с тези нововъведения се утвърждава и понятието за лична собственост като индивидуално право, гарантирано и защитавано от държавата.
Както показват Барт и Фуко, концепцията за автора възниква от сливането на тези исторически значими иновации. Но това не означава, че като източник на литературна власт авторът е просто обект на теоретичен интерес – той се превръща и в практически въпрос на правото. В Англия от XVIII век и нейните северноамерикански колонии авторът се появява като отговорна страна в нов вид право на собственост: авторското право. Идеята, че авторът е законният собственик на литературно произведение, се въвежда за пръв път в Лондон – не в резултат на някаква идеалистична преданост към художествената цялост, а като отговор на по-ранно технологично сътресение, което позволява свободното разпространение и тиражиране на писмени документи: печатната преса.
Както обяснява Свен Биркертс в книгата си „Елегии за Гутенберг“: „Идеята за индивидуалното авторство – че един човек създава оригинално произведение и има историческо право върху него – всъщност не се е утвърдила в общественото съзнание, докато печатът не е изместил устната традиция като основа на културната комуникация.“ Щом само механичното възпроизводство на текстове е станало лесно достъпно и вече е било възможно да се печелят пари от тях, се е оказало важно да се идентифицира авторът – или по-скоро: да има кой да бъде идентифициран като автор. Така собственото име на автора се превръща не просто в ключ за произхода и значението на един текст – то става и практически необходимо условие за сключване на сделки и издаване на чекове.
Появата на това, което днес разбираме като „автор“, има няколко важни последици за съвременната литературна теория. Както пише Барт: „Щом Авторът бъде открит, текстът вече е „обяснен“.“ Авторитетът се възприема не в самия текст – т.е. не в думите – а в мислите, намеренията и личността на индивида, който ги е написал.
Затова и основната задача на читателя става да пробие повърхността на текста, да открие авторовия глас зад него и да разбере какво той е искал да каже. Според тази логика модерните критици и философи се съгласяват с Декарт, че „четенето на добри книги“ означава „разговор с най-забележителните мъже от миналото“. (Фактът, че думата „мъже“ тук е изключваща по пол, съвсем не е случаен – авторът, както и повечето други фигури на властта по онова време, почти винаги е бял мъж.)
Това разбиране за писането като форма на изразяване или комуникация има дълбоки философски корени и стабилна историческа основа. В учението на Аристотел за знаците и значенията, писаното слово е символ на душевни преживявания – с други думи: онова, което пишеш, изразява мислите ти. Тази идея е доразвита в комуникационната теория, формулирана от Клод Шанън и Уорън Уивър в средата на XX век, които създават еднопосочен модел на комуникация, преподаван и до днес: източник, предавател, канал, получател, съобщение, дестинация.
Следователно, твърди теорията, най-добрите текстове са онези, които говорят ясно и директно – така че читателят да може да разбере и възприеме това, което авторът е имал предвид. Писането трябва да бъде почти прозрачно – да допуска свободен поток на информация от ума на автора до ума на читателя.
***
Ако авторът като водеща фигура на литературен авторитет и отговорност е възникнал в конкретен исторически момент и място, логично е да има и момент, в който той престава да изпълнява тази роля. Именно това, според Барт, се случва със „смъртта на автора“. Този израз не означава физическата смърт на някой индивид или дори край на човешкото писане, а закриването на автора като лице, което авторизира казаното в и чрез текста. Макар самият Барт да не е познавал езиковите модели, есето му предсказва точно днешната ситуация. LLM системите [големите езикови модели] създават писмено съдържание без жив глас, който да го „оживи“ или легитимира. Така текстовете, създадени от езикови модели, са буквално неоторизирани – факт, потвърден от Апелативния съд на САЩ, който наскоро потвърди решението, че ИИ не може да бъде признат за автор по закон.
Критиките към инструменти като ChatGPT често произтичат именно от това. Те биват наричани „стохастични папагали“ – машини, които просто имитират човешка реч или повтарят езикови модели без разбиране. Това, заедно с общата им способност да нарушават утвърдените представи за авторство, власт и смисъл в писането, безспорно смущава мнозина. Но историята на понятието „автор“ ни показва, че критиците пропускат същинския ключов момент: властта да се пише винаги е била социална конструкция. Авторът не е природен феномен. Той е идея, измислена от хората, за да им помага да придават смисъл на писаното слово.
Следователно, след „смъртта на автора“ всичко се обръща. Конкретно: значението на даден текст вече не може да се гарантира предварително чрез автентичността на онзи, за когото се твърди, че го е написал. Смисълът възниква в процеса на четене. Чрез този процес читателите откриват – или по-точно: изграждат – това, което предполагат, че авторът е искал да каже.
Тази подмяна на основната парадигма в литературната теория променя мястото, където възниква смисълът – и с това преобръща нашите обичайни представи. Преди той се свързваше с автора, за когото се предполагаше, че има „какво да каже“; сега смисълът принадлежи на читателя. Когато четем „Хамлет“, нямаме достъп до истинските намерения на Шекспир – затова търсим значение чрез интерпретация (а след това го приписваме обратно на самия Шекспир). В този процес авторитетът, вложен в автора, не само се поставя под съмнение, а се подкопава. „Текстът е съставен от множество писания, произхождащи от различни култури и взаимодействащи си чрез диалог, пародия, противопоставяне – но има едно място, където тази множественост се фокусира, и това място е читателят. […] Единството на текста не се крие в неговия произход, а в неговото предназначение“, пише Барт. С други думи, смъртта на автора е раждането на критичния читател.
Тази основна смяна на „адреса“ на смисъла обяснява и как текстовете, генерирани от езикови модели, могат да притежават значение. Критиците са прави, когато казват, че тези модели създават на пръв поглед смислени редове от думи, но не „разбират истинското значение зад тях“, защото „нямат достъп до реални, въплътени референти“. Но би било прибързано да заключим, че LLM просто бълват глупости.
Техните текстове са – и могат да бъдат – смислени. Смисълът възниква чрез нашето четене, интерпретация и оценка. Но това не е уникално за LLM – напротив, както Барт вече е показал, това е определяща характеристика на всяко писане – включително и на това есе, чийто смисъл в крайна сметка вие, читателят, трябва да извлечете. LLM просто правят този процес по-ясен и видим.
Но тук има и нещо по-дълбоко. Появата на езиковите модели от типа на LLM поставя под въпрос самата концепция за смисъл. Когато напиша думите „голям езиков модел“, се предполага, че тези думи означават и се отнасят до някаква реална вещ в света – като например приложението ChatGPT. Думите имат значение, защото някой, например авторът, когото приемаме за въплътен човешки субект с достъп до реалността, ги използва, за да се позовава на неща и да казва нещо за тях. Това, в крайна сметка, е идеята, заложена в Аристотеловата теза, че езикът се състои от знаци, които обозначават и се отнасят към нещата. А големият проблем с LLM е, че те нямат тази способност: те боравят с думи, без да знаят (или дори да се интересуват) към какво се отнасят тези думи.
Но това на пръв поглед очевидно разбиране за езика беше поставено под съмнение още от структурната лингвистика на XX век, която разглежда езика и смисъла като резултат от различия, възникващи в самия език. Най-добрата илюстрация на този семиотичен принцип е речникът: когато потърсиш значението на думата „дърво“, не получаваш дърво, а други думи – „дървесно многогодишно растение, обикновено с един ствол“, и така нататък.
Думите, следователно, не добиват смисъл чрез директно отнасяне към нещата, а чрез връзките си с други думи. Това е смисълът (или поне един от смислите) на прочутата фраза на друг известен френски теоретик, Жак Дерида: „Il n’y a pas de hors-texte“ – „Няма нищо извън текста“. А за езиковите модели това важи с още по-голяма сила – при тях буквално няма нищо извън текстовете, върху които са обучени и от които черпят, за да генерират ново съдържание. За тях всичко е само думи – и нищо друго.
Затова и нещото, което мнозина възприемат като обвинение към езиковите модели – че боравят само с думи, без връзка с реални, въплътени значения – може би не е толкова силно обвинение, колкото изглежда. LLM всъщност са структуралистични машини – те са практическо въплъщение на теорията на структурната лингвистика, според която смисълът на думите не произтича от пряката им връзка с реалността, а от връзките им с други думи. Именно в това те нарушават обичайните разбирания, наследени от класическата (аристотелова) семиотика.
***
Трябва да бъдем критични към обещанията и опасностите, които тези технологии носят. В крайна сметка езиковите модели и другите форми на генеративен ИИ са мощни технологии с потенциал да окажат огромно въздействие върху света. ChatGPT съществува от по-малко от три години и вече има половин милиард седмични потребители; DeepSeek е сред най-бързо развиващите се платформи в света. Със сигурност ще се появят и много други.
Но когато се изправят пред това как тези системи променят достъпа, разбирането и предаването на знание, лингвистите, философите и експертите по ИИ често не правят нищо друго, освен да повтарят вече подкопани концепции за авторство и авторитет. Проблемът не е, че тези традиционни модели са престанали да работят. Проблемът е, че те все още работят твърде добре – продължават да влияят на мисленето ни така, сякаш са неоспорими и напълно естествени.
Голяма част от неразбирането на значимостта на тези машини произтича от самия начин, по който разбираме „изкуствения интелект“. Заради акцента върху „интелект“, резултатите от ИИ се възприемат или като доказателство за интелигентност, или – в случаите, когато устройството изплюва безсмислици или халюцинира, за нейната липса. Още от времето на теста на Тюринг се приема, че способността на машините да генерират свързан текст е индикатор за интелигентност. LLM обаче генерират привидно смислен текст без да разполагат с интелигентност (или без ние да сме сигурни дали такава има, което е още по-притеснително). Така те разклащат самите правила на играта.
Всичко това осветява нещо, което често се пропуска в шумотевицата около технологичната революция на езиковите модели: те имат дълбоко философско значение. Вече съществуват неща, които пишат, без да говорят; разпространение на текстове, които нямат и не са обвързани с авторитетния глас на автор; твърдения, чието значение не може да бъде „закотвено“ в предходно намерение да се изрази дадена истина.
От една гледна точка – тази, която остава вярна на класическите разбирания – това може да се възприеме единствено като криза: разклаща се разбирането ни за писането, литературата, истината и самия акт на нейното изговаряне. Но от друга – това е възможност: да мислим отвъд ограниченията на западната метафизика и нейната културна хегемония.
LLM не заплашват писането, фигурата на автора или понятието за истина. Те застрашават само едно конкретно, ограничено разбиране за тези идеи – разбиране, което не е природно явление, а продукт на конкретна култура и философска традиция. Вместо да ги тълкуваме като знаци за апокалипсис или край на писането, по-добре е да ги видим като онова, което показва пределите на авторската функция, участва в нейното деконструиране и открива възможности да мислим и пишем по нов начин.
Но не вярвайте просто на думите ми. Кой съм аз, в крайна сметка? Какво ми дава право да претендирам за такъв авторитет? Откъде можете да знаете със сигурност, че всичко, което току-що прочетохте, не е създадено от ИИ или от някакъв хибрид между човек и машина?
Няма как да знаете със сигурност. И всичко, което може да се направи, за да се разсее това подозрение, като например да посоча името си, да изброя подробности от биографията си или дори да добавя декларация, че всичко, което току-що сте прочели, е „100% автентично съдържание, създадено от човек“, в крайна сметка ще бъде безрезултатно. Това ще бъде така най-вече защото LLM може да генерира точно същото. Независимо от уверенията, винаги ще има място за основателни съмнения.
И точно това е същността на проблема. Затруднението, за което се твърди, че е уникално за ИИ текстовете – че четем думи, без да знаем кой стои зад тях – всъщност е същностно условие за всеки текст, включително и този. Езиковият модел не е изключение от правилото. Той просто показва, че то винаги е било измислица.
