За писането, извършвано от изкуствен интелект
Понякога, за някои хора, самото авторство на един текст е достатъчно, за да го направи или „омърсен“, или пък специален. Достатъчно е да се знае кой го е написал – дали определен човек, или пък определен тип автор – и вече се съди за съдържанието, без то изобщо да се чете.
Във Викторианска Англия, например, не е било рядкост жени да публикуват под мъжки псевдоними. Така са започнали сестрите Бронте, както и Мери Ан Евънс, по-известна като Джордж Елиът. Те и издателите им са вярвали, че под женско име произведенията им ще се четат с насмешка или просто няма да бъдат забелязани. Затова са използвали мъжки псевдоними – не от суета, а като защитна стратегия. Искали са читателите да се фокусират върху текста, а не върху пола на автора.
Това, срещу което те са се опитвали да се предпазят, е обикновен предразсъдък – преценка, направена без да се познава самото съдържание. Хората, които поддържат подобни позиции, вярват, че знаят нещо съществено за „такива“ автори – че те не могат да създадат нищо интересно; че са свързани с опасни идеологии; че заемат място, което по право се пада на „по-достойни“ писатели. И така нататък.
Сходен тип предразсъдък се среща днес спрямо литературните текстове, създадени от големи езикови модели на изкуствен интелект. Мнозина ги отхвърлят не заради самите текстове, а просто защото са написани от машина. Сравнението с начина, по който някога са се възприемали женските текстове, е формално точно.
Първото възражение срещу това сравнение би било, че жените пишат реално, а машините – не. Според тази позиция, текстовете от ИИ са просто резултат от изпълнението на човешки код и зададени команди – те са като марионетки и не „създават“ нищо сами. В най-добрия случай – имитират.
Но това възражение вече не е достатъчно. Програматори и изследователи често казват, че големите езикови модели наистина пишат – те компилират код, реагират на заявки по начини, които не са напълно предвидими или прозрачни дори за създателите им. Това ги прави съществено по-различни от марионетките. А също и доста близки до нас – хората. И ние пишем в съгласие с дадени правила, които не сме измислили сами; и ние реагираме на външни стимули, когато създаваме текст. В този смисъл, и двете страни – човешката и машинната – участват в един и същ акт: създаване на четим текст.
Тук думата „писане“ се използва като съкращение за съставяне – акт на подреждане на думи в смислен, четим текст. Такива текстови структури наричаме просто „писания“. В този контекст няма претенция дали в процеса е вложена мисъл, намерение или смисъл; няма значение дали създателят е човек или не. Единственото, което се казва, е, че крайният резултат е четим. В този смисъл, „писане“ означава дейност, която могат да извършват както хората, така и изкуственият интелект – също както и мъже, и жени. Всички те съставят текстове. А това – според тукашната употреба – е достатъчно, за да говорим за писане.
Някои биха възразили, че сравнението между писането на жени и писането от ИИ не е коректно, защото жените са живи същества – от вида Homo sapiens, с дишане, мисъл, чувства – а ИИ е машина, която не притежава нищо такова. Затова, казват те, имаме основателни причини да смятаме, че текстовете на ИИ са „омърсени“, каквито причини не съществуват спрямо текстовете на жени.
Но формално логиката и в двата случая е една и съща: имаме един вид (жени, машини), част от чиито представители очевидно пишат. Текстовете им съществуват и могат да бъдат четени. Ако някой твърди, че писането на тези групи по принцип е „омърсено“ – независимо от самия текст – той трябва да обясни защо, какво точно у жените или машините придава този „дефект“.
Имало е времена, в които са се правили опити подобна логика да се приложи и към писането на жените. Казвало се е, че по природа или поради възпитание те нямат нужното внимание, въображение или познания за класическата литература – неща, смятани за задължителни за всеки достоен писател. Днес тези аргументи почти не се срещат – а когато все пак се появят, звучат отчаяно. Причината: богатството и стойността на текстовете, написани от жени, вече са очевидни.
Днес някои твърдят, че разликата между човешко и машинно писане е в това, че машините не мислят, не влагат намерение, те „нямат предвид“ нищо. Дори да приемем, че машините съставят текстове, тези текстове не идват от мислещ субект – и именно това ги прави проблемни. При жените такъв проблем няма – затова предразсъдъкът към тях е бил необоснован, докато спрямо машините – казва се днес – той е оправдан.
На пръв поглед това звучи логично. Но този аргумент разчита на един вид завишена оценка на ролята, която мисълта играе в човешкото писане – оценка, която е трудно защитима, ако се вгледаме как хората говорят и пишат реално.
Нека се замислим за явлението „говорна/писмена плавност“ (fluency). Голяма част от това, което казваме или пишем, е шаблонно и вършено по навик. Реагираме на познати ситуации с познати думи, без да се замисляме. Думите ни идват готови – като автоматични телесни реакции. Спазваме местните езикови ритуали – поздрави, учтивости, професионален жаргон. Същото важи и за говоренето на свещеници, комици, преподаватели, влюбени, родители, певци – много от техните думи не минават през съзнателна мисъл.
В подобни ситуации – а и в много други – хората използват езика без нужда от осъзната мисъл. Дори напротив – ако започнат да мислят прекалено много, това може да ги затрудни. Те действат свободно, без да усещат сцената, върху която „изпълняват“ – защото са плавни в изказа си. А плавността е гладка и лесна: думите текат при тях като вода в дълбоко и добре оформено корито – без пречки, водени от самата ситуация. Това важи както за говоренето, така и за писането. От пръстите на писателя често се изливат изречения, които не са предварително обмислени или планирани – сякаш вдъхновението просто е подухнало и е подредило думите само. Така изглежда, когато нещата вървят добре – а именно: когато текат свободно.
Когато децата излизат от мълчаливостта на ранното детство, те почти неизбежно се насочват към езикова плавност – такава, каквато се очаква от тях от учители и връстници. Самият език, в който потъват, ги води натам. А колкото по-плавна е речта, толкова по-малка е нуждата от съзнателно обмисляне. Мястото, където мисълта се намесва в изказа, е именно онова, където се прекъсва плавността – речта спира, запъва се, губи ритъм.
Огромна част от човешкото говорене и писане е именно такъв плавен процес. Той е част от начина ни на живот, каквито са ходенето, яденето, пиенето, прегръдките. А онези, които приемат подреждането на думи за доказателство за мислене, често отхвърлят тази обикновена, ежедневна реч като „неистинска“. Те вярват, че истинската реч е винаги придружена от мисъл и намерение – изпълнена със смисъл. И тогава – парадоксално – започват да разглеждат и човешкото плавно говорене и писане като имитация, нещо подобно на това, което правят машините. В този момент границата между човешки и машинен текст се заличава – и ако машинният е „омърсен“, то и почти цялата човешка реч би трябвало да се счита за такава.
Разбира се, някои ще кажат, че мисленето може да се разпознае по друг начин. Не е нужно да усещаш мисълта в момента на говорене – важно е, че казаното носи значение. Дори най-плавните говорители обикновено имат предвид нещо – те искат да изразят с думите си нещо, макар и да не го осъзнават в самия момент. Способността да означаваш нещо с речта си – това може би е същината на връзката между мислене и език.
„Какво искаше да кажеш с това?“ – дори и най-бързите в речта си могат да отговорят на този въпрос. Те се замислят – и това вече е мислене – и обясняват какво са имали предвид. Обяснението винаги добавя нещо, което не е изказано в първоначалната фраза. Това нещо спокойно можем да наречем мисловно съдържание – нещо, което е било замислено, избрано, значимо. С други думи – смисъл. Така стигаме до гледната точка, че мисленето не е преживяване вътре в момента на изказа, а способност – способност да кажеш какво си имал предвид, [но само] ако се наложи.
Ясно е, че понякога хората могат да отговорят на въпроса „Какво искаше да кажеш с това?“ – като обяснят думите си или ги преформулират. Дори и най-плавните говорители и писатели могат да направят това, когато се наложи. Но също така е вярно, че в други случаи те не могат. Може би току-що са казали нещо като детска рима, формален поздрав, стих или шеговита реплика. В такива моменти въпросът „Какво искаше да кажеш?“ звучи неуместно – и не е ясно нито как да му бъде отговорено, нито какъв отговор би се приел за валиден.
Понякога човек просто няма друга формулировка – не може да обясни думите си с други думи. Всеки, дори и най-изразителният сред нас, стига понякога дотам, ако бъде питан многократно – както го прави едно любопитно тригодишно дете: „Ама защо? Ама какво значи това?“ Такъв тип въпроси винаги стигат до точка, в която лопатата за копаене на смисъл просто удря на камък. Не е въпрос дали това ще се случи, а кога. Това важи както за писаното, така и за говоренето.
Някои хора описват смисъла чрез една красива метафора: като сияещ скъпоценен камък, който е достъпен за вътрешния поглед на онзи, който съставя думите. Този „камък“ озарява думите със смисъл. Писателите не винаги го гледат директно, но той винаги е там – и ако е нужно, могат да се обърнат към него и да кажат: „ето какво исках да кажа“. Според тази представа, само думите, „озарени“ от този вътрешен смисъл, наистина са език. Всичко останало са просто вибрации, знаци, шум – нещо като писане от автомат.
Това е отчаяна представа. В основата ѝ стои желанието да се създаде теория за езика и смисъла, която да важи за всяка реч или писане – и при това да отчита и факта, че много често не знаем какво точно значат нещата, които изричаме. Освен това тази картина е езотерична – тя предполага нещо, което почти никога не се вижда, но се държи така, сякаш винаги е там. В нея само малцина избрани, разполагащи с „правилна“ теория за езика, могат да различат истинския смисъл от неговите имитации.
Една по-простата – и по-точна – картина на езика в човешкия живот приема, че този „скъпоценен камък“ понякога наистина се появява, но в повечето случаи смисълът не се различава от самото казано нещо. Дори в ситуации, когато въпросът „какво имаше предвид“ е на място, такива случаи са изключение. По-добре е да кажем не че „мислим и затова говорим“, а че говорим така, както ходим, ядем, пием или играем – в контексти толкова разнообразни, че всяка опростена обща теория почти сигурно ще се окаже подвеждаща за повечето реални случаи.
Тук би било полезно едно обръщане към Лудвиг Витгенщайн. Той коментира мнението, че животните не говорят, защото нямат нужните интелектуални способности – или, казано другояче, не говорят, защото не мислят. Това преобръща въпроса: не защо говорим, а защо някои не го правят. Витгенщайн предпочита простото: животните не говорят, защото не използват реч. Дейности като заповядване, разпитване, разказване, водене на разговори – те са част от нашия начин на живот, нашата „естествена история“. А животните живеят по различен начин – без тези вербални практики.
Защо според Витгенщайн е по-добре да говорим за липсата на сложна реч при животните по описателен начин, вместо да предлагаме обяснения от типа „те не мислят, затова не говорят“? Защото такива обяснения предполагат, че говоренето е неразривно свързано с нещо друго – в случая с мисленето. Може да се стигне дори до идеята, че реч може да съществува единствено ако тя е придружена от мисъл; че способността да говориш предполага способност да мислиш. Това води до обвързване на езика с вътрешни процеси, които не винаги могат да се наблюдават.
Подобни възгледи настояват, че езикът трябва не само да се наблюдава, но и да се обяснява – чрез общи формули от типа: „Ако има реч, значи има мисъл“; „Ако има думи, значи има смисъл“; „Ако има език, значи има комуникация“; „Ако има действие, значи има намерение“. Този тип обяснения изравняват и опростяват всичко, отвличат вниманието от конкретиката и налагат абстрактни йерархии: кое е „истински“ език, а кое е само имитация – в зависимост не от самите думи, а от това кой ги е изрекъл. Според тази логика „истински“ са само текстовете, писани от „правилните“ хора, с „правилната“ мисъл зад тях. Всичко останало е имитация. А тази картина е почти идентична с онази, която отхвърля машинното писане като „замърсено“, понеже не е родено от мисъл.
Витгенщайн засяга директно и въпроса дали машините могат да мислят или да чувстват болка. „А не е ли човешкото тяло нещо като машина?“ – пита той. „Това е най-близкото нещо до машина, което можем да си представим.“ Така той превръща въпроса в граматически: можем ли спокойно да наричаме човешкото тяло машина? Да, казва Витгенщайн – тялото се държи като машина. Диша, храносмила, регулира температурата си – реагира автоматично на средата; износва се; понякога се нуждае от ремонт.
Тук няма скрита философия на тялото или на машините, няма опит да се каже, че всичко, което можем да кажем за тялото, важи и за машините. Има само наблюдение, а именно: че много от нещата, които казваме за телата, спокойно казваме и за машините. А щом телата са нашият основен модел за това как изглежда „мисленето“ и „чувстването“, то причините да отказваме тези думи на машините трябва да дойдат от друго място – от метафизика, от философия на ума, от някаква по-дълбока картина за това как се свързват действието и мисълта.
Витгенщайн пита също: когато казваме, че една машина не може да мисли – базирано ли е това на опит? „Не – казва той – ние просто говорим за човека, и за това, което е подобно на човека. Казваме го и за кукли, и може би за призраци.“ И добавя: Мисли си за думата „мисля“ като за инструмент!
Глаголът „мисля“ използваме основно за хора, но също и за неща, които приличат на хора. Човешките същества са нашият „първообраз“ на мислещи същества – и когато научаваме езика, го научаваме най-напред чрез тях. Но не само чрез тях – ние казваме, че „мисли“ и куклата, и призракът, и (може да добавим) машината. Когато колата, която карам, установи, че се доближава прекалено до тази отпред, тя сама намалява скоростта – а после я увеличава, щом разстоянието стане безопасно. И казваме: Колата реши, колата прецени. Защото действията ѝ приличат достатъчно на моите, когато аз натискам педала. Значи –взето е решение, и го е взела колата.
Това, че говорим така, не ни обвързва с някаква теория за това как работят круиз контролите на колите ни (или изкуственият интелект). Също и това, че използваме думи като „мисля“ и „решавам“ за самите себе си, не означава, че непременно имаме теория за себе си. Честно казано, повечето от нас имат съвсем мъглява представа за това как точно взимат решения – а също и как го прави колата им. Но това не ни пречи нито да действаме, нито да описваме действията си. Ние просто знаем как да говорим за такива неща, без да имаме нужда от теории. И когато някой попита: „Искаш да кажеш, че колата мисли като теб?“ – отговаряме: „Не, не това искам да кажа. Казвам просто това, което казвам – че поведението ѝ прилича достатъчно на моето, за да използвам същия език.“ Това е и изводът и на Витгенщайн: Мисли си за думата ‘мисля’ като за инструмент! (И удивителният знак не е случаен – Витгенщайн ги поставя внимателно.)
Може да се предложи и друг отговор на въпроса защо толкова често говорим и пишем без видима мисъл зад думите. Той би се опрял не на моментна снимка на речта, а на развитието ѝ във времето. Може би повечето форми на езиково поведение – навици, фрази, плавни формулировки – обикновено не са свързани с мислене. А е възможно и, понякога, дори най-умелите говорители да не могат да обяснят какво точно са имали предвид – просто защото са толкова свикнали да го казват. С други думи, защото са станали плавни.
Но възможно ли е някой да стане писател, който пише свободно и на момента за неща, като да речем, Паскал и благодатта, или за макроикономика и търговия с фючърси, без преди това да е мислил, учил, чел и да се е упражнявал дълго в такива теми? Не са ли почти всички форми на езикова плавност свързани с мислене – поне в началото? Може би това е начин да спасим идеята за „скъпоценния камък на смисъла“.
Да – може би плавността се развива така: човек решава съзнателно, че иска да придобие дадено умение, вижда ползата от него, и започва да го развива чрез практика. Но това е изключение. Повечето езикови умения възникват в конкретни и често неосъзнати условия – те са дадени, а не избрани. Възможно е някой да стане човек, който свободно пише за благодатта, не защото някога е взел съзнателно решение да го постигне, а защото е расъл с книги по темата, научил е гръцки, латински или друг важен език, и т.н.
С други думи: повечето случаи, в които говорим или пишем без да мислим, са възможни благодарение на миналото ни поведение – но това не значи, че сегашното писане е придружено от мисъл. Напротив: повечето езикови умения – дори тези, които са възникнали от обмислени избори – в крайна сметка действат сами, без нужда от мисъл. Те са, бихме казали, радостно и леко свободни от всичко, освен от самите себе си.
По-добре е да стоим близо до „грубата земя“ на реалния езиков живот. Там можем да наблюдаваме как той работи наистина. А тази земя винаги е неравна. Ако се опитаме да я изравним с булдозерите на универсални теории за смисъл и мислене, ще я загубим. Ако обаче оставим тези теории на тяхното място – като вид интелектуална игра, красива по свой начин, нещо като добър джаз – ще видим ясно, че повечето от нашия език е плавен, а значи не е резултат от мислене. Той е като дишането, храносмилането или играта – неща, които вършим с лекота, и които заемат централно място в човешкия живот. (Философията, както и всяко писане, е просто един от видовете писане – тя няма върховенство.)
Но, разбира се, не всички употреби на езика са плавни. Малките деца, които тепърва се учат да говорят, не са плавни. Хора, които не са познавачи на латински или санскрит, едва ли ще могат да пишат на тези езици. Дори говорители на даден език, ако се озоват в чужда езикова среда, където не знаят как да се изразят, може да се „забият“. В такива моменти мисълта изглежда предхожда речта – или поне я съпътства. А понякога липсата на езикова плавност води до мълчание – не защото няма вътрешен живот, а защото няма езиков израз за него.
И това наистина е така. Хората често попадат в ситуации, в които губят плавност. Тогава се променя усещането им за самите себе си – появява се напрежение, обърканост, понякога дори срам. Един дребен пример: писателка, която пише свободно на английски, опитва да напише на френски абзац за надеждата – за това, че надеждата винаги е насочена към отсъстващото. Текстът върви добре. Но тя използва думата espoir, и в един момент я заменя с espérance. После се чуди – дали новата версия е по-добра, или не? Не може да прецени. Не знае как да продължи. Не усеща разликата между нюансите на двете думи. Няма интуиция.
Тя се колебае: дали да провери в речник? Да попита някого? Да потърси изкуствен интелект? Или просто да чете повече френска литература? Започва да разсъждава за синонимите и за това какво е чела по темата. И ѝ се струва, че все пак има нещо – усещане, преживяване, нещо вътрешно. Тя мисли за това, което е написала, и за това, което би могла да напише. В този случай мисълта се отделя от речта – тя не пише автоматично. Тук мисленето се вижда.
Този пример подсказва, че разделимостта между мислене и език не е белег на някаква нормална и позитивна разлика между начина, по който хората пишат, и начина, по който го правят машините. Тя по-скоро е белег за неуспех – неуспех от наша страна да използваме езика. Тези ситуации са такива, в които просто не знаем как да продължим с думите. (Съществуват подобни неуспехи и в други области: планински преход може да стане твърде стръмен – човекът спира, оглежда се, и не вижда как да продължи. Връща се назад.)
Ами ако приемем, че точно такива моменти – на езиково колебание – са характерни за човешката реч, а липсата им е не просто типична, а дори подозрителна, когато става дума за език, използван от машини? (Те винаги знаят как да продължат – точно това е проблемът.) Така стигаме до абсурд: нашата липса на плавност означава автентичност, а нашата гладкост в писането – че пишем като машини, т.е. неавтентично. Езиковият успех – плавността – тук се оказва именно неговият недостатък.
По-добре е да кажем, че и хората, и машините могат да бъдат плавни в писането. И че степента на плавност често е индикатор за липса на съзнателно усещане за това, което се пише – липса на qualia[1]. И че и хората, и машините понякога не знаят как да продължат. (Изкуственият интелект понякога казва: „Не знам как да продължа.“ – и това е момент, в който лопатата се обръща.) При хората подобни спирания често са съпътствани от усещания и преживявания. При машините – не знаем. Може и да не са.
Но дали не трябва да запазим мисълта – в смисъл на намерение или значение – като същинската разлика между човешкото и машинното писане? И липсата ѝ при машините като основен недостатък? Всичко зависи от това какво наричаме „мисъл“. Може би тя не е нещо, което се усеща пряко по време на писане, нито е просто навик, а по-скоро е състояние – нещо, което не се вижда лесно отвътре, но се приписва на живите същества, именно защото са живи. Одушевени, както го казва думата. Машините пък са бездушни. Ако това е така, можем просто да кажем: литературните текстове на машините са „опетнени“, защото са дело на нещо без живот.
Това може да се каже. И дълго време е било казвано. Подобни аргументи са използвани и срещу писането на жени. Когато се твърди, че жените не могат да пишат добре поради своята физиология или хромозоми, аналогията с машините е много точна. Още по-ясен пример е френологията: през XIX век се е твърдяло, че хора с определена форма на черепа не могат да пишат музика или да правят математика – дори когато очевидно са го правили. Това, което са правели, е било считано за имитация, а не за истински акт.
Аналогията тук е прецизна: същества от въглерод, с кръв и мозък, могат да пишат, ако са от вида Homo sapiens. Същества от силиций, с код и алгоритми, не могат – дори и когато изглежда, че го правят. Поддръжниците на тази позиция, след като са се отказали от аргументи, свързани с мислене или вътрешна смисловост, се обръщат само към външното – към „формата на черепа“, образно казано. Такива аргументи се опират на биологията: само дишащи и кървящи същества могат наистина да пишат.
Тези хора не чувстват нужда да четат текстовете, написани от „неподходящите“ същества. Те просто заявяват: „Само тези с правилната форма могат да пишат.“ Без обосновка. Без да ги интересува какво реално се прави в света. Това е същият вид ограничение, който казва, че същества от вида Homo sapiens могат да се размножават само помежду си – с тази разлика, че това твърдение е, всъщност, невярно, и това може да се докаже емпирично[2].
И така – има ли нещо, което по дефиниция опетнява текстовете, създадени от изкуствен интелект, без значение какви са те? Не. Няма причина да мислим така. Това не значи, че всички техни текстове са добри – напротив, може да са скучни, хаотични, плитки. Но единственият начин да разберем това е… да ги прочетем.
И всъщност има добри причини хората да искат да четат литературни текстове, написани от ИИ. Причините са аналогични на интереса към форми на живот, еволюирали извън Земята. Уникалният стил на всеки текст идва от опита на автора му – какво е чел, какви езици говори, с кого е общувал. Това оформя неговото писане. При хората, този опит често е толкова характерен, че можеш да познаеш писателя дори под псевдоним. Това наричаме „стил“.
Но формирането на ИИ е съвсем различно от човешкото. Те са „чели“ повече, обработват информацията по друг начин, пишат с различни от нашите навици. И тези разлики означават, че техните текстове могат да са непредвидимо различни от нашите – те могат да ни покажат нови начини да използваме езика. По същия начин, по който извънземен живот би могъл да ни покаже форми на живот, които не сме си представяли – и от които бихме могли да научим неща, които иначе не бихме разбрали.
Тези възможности – независимо дали ще ни изглеждат добри, лоши, или нещо по средата – могат да предизвикат у нас същите реакции, каквито изпитва човек, привикнал към европейската музика, когато за първи път чуе гамелан оркестър[3]: може да бъде очарован, изненадан, поучен… или просто отегчен. Онова, което изкуственият интелект ни показва чрез писането си, ще бъде във всички случаи различно от това, което показват човешките писатели. И отново – въпросът е да четем онова, което те са написали. Не знаем предварително дали машинното писане е опетнено по принцип, нито пък обратното. Знаем само, че досегашните аргументи за неговата „вродена“ посредственост не издържат. И можем с увереност да очакваме, че то ще се различава от нашето, защото отразява нещо, което не споделяме. Ако изоставим предубежденията си – онези, за които нямаме основания – можем да подходим към това, което пишат машините с интерес, вместо с тревога.
[1] Квалиа (от лат. quale, мн. qualia) е философски термин, който обозначава субективното преживяване на усещанията – онова, което „се усеща отвътре“ при възприемане на цвят, звук, болка, вкус и т.н. Например, „червеността“ на червения цвят или усещането за болка не могат да бъдат напълно обяснени с физически или научни термини – те принадлежат към личното, неописуемо преживяване.
[2] Твърдението е вярно единствено в еволюционен смисъл (представители на Homo sapiens действително са се смесвали с други близки до тях, днес вече изчезнали видове, като неандерталци и денисовци, същества на Денисов). В наши дни, разбира се, ние вече не сме достатъчно близки в генетичен план до които и да било други същества на планетата, за да можем да произведем с тях поколение.
[3] Гамелан е традиционен музикален ансамбъл от Индонезия, най-вече от островите Ява и Бали. Оркестърът включва основно ударни инструменти — гонгове, металофони, барабани и понякога флейти, струнни инструменти или гласове. Звукът му е хипнотичен, ритмичен, често цикличен и с много различна от европейската музика интонация.
