Рей Кързуайл отхвърля смъртта. 76-годишният учен и инженер е прекарал голяма част от времето си на земята в твърдения, че хората могат не само да се възползват от все още неизмислени медицински постижения, за да живеят по-дълго, но и в крайна сметка да се слеят с машините, да станат свръхинтелигентни и да останат наоколо за неопределено време. Въпреки това смъртта хвърли сянка върху интервюто ми с Кързуайл тази пролет. Само няколко минути преди да се срещнем, и двамата научихме, че Даниел Канеман, носител на Нобелова награда за психология и един от интелектуалните партньори на Кързуайл, е бил сполетян от тази съдба.
Няколко дни преди това почина и авторът на научна фантастика Върнър Виндж. В романите на Виндж за първи път бе описана сингулярността – моментът, в който свръхинтелигентният изкуствен интелект ще надмине възможностите на хората, а обикновените смъртни ще се нуждаят от високотехнологично усъвършенстване, за да останат значими. Кързуайл възприе това название за собствената си грандиозна визия и през 2005 г. написа бестселър, озаглавен „Сингулярността е близо“. По това време той вече беше опитен изобретател и предприемач, направил пробив в оптичното разпознаване на символи, технологията на синтезаторите и високотехнологичните инструменти за повишаване на достъпността. Той е получил множество отличия – Национален медал за технологии и иновации, наградата „Лемелсон-МиТ“ на стойност 500 000 долара, награда „Грами“. През 2012 г. Google го нае за ръководител на лабораторията за изкуствен интелект.
Тогава много хора смятаха, че прогнозите му са прекалено оптимистични. Компютри, които до 2029 г. ще постигнат интелигентност на нивото на човешката? Твърде рано! В епохата на генеративния изкуствен интелект този срок вече изглежда традиционен, ако не и консервативен. Затова не е изненадващо, че новата книга на Кързуайл, която излезе този месец, се нарича „Сингулярността е по-близо“. Много от пунктирните линии в графиките на първата книга вече са попълнени – и са впечатляващо точни. И все пак, въпреки че съм възхитен от технологичния напредък, който Кързуайл правилно прогнозира, ми е трудно да обгърна (неангажираното) си съзнание с неговия слънчев сценарий за нашите безплътни мозъци, процъфтяващи след стотици години в някакъв вид облачно съзнание.
Кързуайл беше предложил да се срещнем в обществената библиотека в Нютон, Масачузетс, близо до дома му. Той се появи с ярки презрамки и забележително гъста коса – нещо като съвременен Джепето [„бащата“ на Пинокио], подходящ вид за човек, който се опитва да издигне изкуствените същества до статута на хора. Проправихме си път през купчините книги – предназначени да се превърнат в храна за роботите, с които един ден ще споделяме съзнанието си – до стаята, която той беше резервирал. Докато разговаряхме, Кързуайл периодично посягаше към раницата си, за да извади няколко графики, които показваха драстични подобрения в различни области – от изчислителната мощ до средния световен доход. Прекарахме следобеда в разговори за това какво би било безсмъртието, с какво се занимава той в Google и, разбира се, за наближаващата сингулярност.
Стивън Леви: Имам тъжни новини. Чухте ли, че Даниел Канеман е починал?
Рей Кързуайл: Да. Чух това преди пет минути. Срещал съм се с него няколко пъти. На колко години беше?
Деветдесет.
О, наистина ли? В днешно време хората на деветдесет години могат да изглеждат добре. Вземете леля ми. Психоложка, с пълен набор от пациенти, които редовно посещаваше. На 98 години! Тя все още имаше чувство за хумор. Веднъж ѝ се обадих и тя ме попита: „И какво правиш?“. Казах ѝ, че държа реч за втората космическа скорост на дълголетието[1]. Това е моментът, в който научният прогрес отменя хода на времето. Така че с напредването на възрастта времето не се изчерпва. Наистина всяка година изразходвате по една година, но научният прогрес ви връща поне една година. Все още не сме стигнали дотам, но се стремим към това. И тя каза: „Може ли да побързаме с това?“ Това всъщност беше последният ни разговор, защото тя почина две седмици по-късно.
Изглежда, че сте във война с биологията.
Биологията има много ограничения. Много анализатори смятат, че в умирането няма нищо неизбежно, и ние измисляме неща, които да го прекратят. По принцип можем да се отървем от смъртта чрез безкрайното продължаване на живота.
Някои хора смятат, че нещо като 120 години може да е окончателната граница за човешкия живот, но вие мислите различно?
Абсолютно. Няма причина да спрем на 120 години.
Каква е горната граница?
Няма горна граница. След като преминем сингулярността, ще можем да поставим някои връзки на ИИ в собствените си мозъци. Няма да е буквално в мозъка, а ще е връзка с облака. Предимството на облака е, че той е напълно архивиран.
Вие сте на 76. Смятате ли, че ще доживеете да видите втората космическа скорост на дълголетието?
Да, в добра форма съм. Всъщност измервам къде се намирам. Ако нещо върви надолу, вземам различни рецепти или лекарства, за да се върна към положителната страна на дълголетието. Стигам до около 80 хапчета на ден. [Това всъщност е по-малко от онези около 200, които вземах през 2008 г.]
Последния път, когато разговаряхме, споменах речта на Стив Джобс при откриването на учебната година в Станфорд, в която той нарече смъртта „най-великото изобретение на природата“, проправяйки път на новото. Вие нарекохте това позиция на смъртта. Все още ли я възприемате по този начин?
По-добре е да не умираш. Не изразходваме ресурси, които не могат да бъдат заменени. Количеството слънчева светлина, което пада на Земята, е 10 000 пъти по-голямо от това, което ни е необходимо, за да създадем цялата си енергия. Ще използваме изкуствен интелект, за да създаваме храна и т.н. Така че не е като да изчерпваме ресурсите си.
Ако съм на 300 години, какъв ще бъде животът ми? Всичко, с което съм израснал, ще бъде различно.
Погледнете промяната, която вече сме преживели. Със сигурност преди 20 години не сте имали смартфон и вероятно сте имали много примитивен компютър. Ако говорим за продължителност от стотици години, то ясно е, че животът ще бъде изключително различен от днешния. Ще имате нови преживявания, които днес са невъзможни.
Но моята истинска идентичност – онзи аз, който иска да продължава да живее вечно – се формира от силните връзки, които съм създал в детството си. Изглежда странно, че векове по-късно все още ще се занимавам с това. Казват, че всичките ви любими песни са тези, които сте слушали, когато сте били на 14 години. Дали когато съм на 500 години, ще слушам Rolling Stones за милиарден път?
Ще има нова музика.
И сега има нова музика. А аз все още слушам Rolling Stones.
Аз също слушам Rolling Stones. Но има и нови изпълнители, които ценя. Ще можем да правим и неща, които не сме могли да правим преди, защото съзнанието ни ще се разшири. Ще бъдем прикрепени към това, което наричаме голям езиков модел, макар че не харесвам това име, защото големите езикови модели не се занимават само с езика. Ще можем основно да изтегляме от облака знания и да ги оценяваме.
Но животът си има своята дъга. Никога повече няма да бъда млад, независимо колко здрав ще се чувствам на 150 или 300 години. Може би затова, ако човек доживее до деветдесетте си години, смъртта изглежда по-малко страшна.
Можете да говорите така, но когато дойде това време, все пак искате да продължите да живеете. Хората казват: „Е, аз не искам да живея след 99 години“. Но когато стигнат до 99 години, те имат друго мнение за това. Ако искаха да умрат, могат да го направят, но те не умират, освен ако не са подложени на непоносима болка.
Сигурно сте единственият човек, който не е бил изненадан, когато се появи ChatGPT. Той следва хронологията, която вие изложихте през миналия век.
Да, така е. Направих тази прогноза през 1999 г. Някои хора в Станфорд намериха това за невероятно. Предполагам, че съм имал достатъчно кредит на доверие, за да учредят конференция, на която да обсъждат твърдението ми. Ако погледнете изказванията от онова време, всички те казват: „Да, интелигентността на човешко ниво ще бъде достигната, но не след 30 години. Това ще стане след 100 години.“ Съвсем наскоро прогнозите започнаха да се понижават. Аз казвам, че това ще стане само след пет години. Някои хора казват, че това ще се случи през следващата година.
Как ще разберем кога Изкуственият общ интелект (AGI) е постигнат?
Това е много добър въпрос. Искам да кажа, по отношение на писането предполагам, че поезията на ChatGPT всъщност не е лоша, но не е на нивото на най-добрите човешки поети. Не съм сигурен дали ще постигнем това до 2029 г. Ако не стане дотогава, ще стане до 2032 г. Може да отнеме още няколко години, но всичко, което можете да определите, ще бъде постигнато, защото ИИ продължава да става все по-добър.
Вярвате, че ИИ ще пише по-добри романи от хората. Но ако дадете на хората невероятен роман, който променя живота им, и след това им кажете, че го е написал робот, те ще се почувстват излъгани. Човешката връзка, която са почувствали, докато са го чели, е била измамна.
Наясно съм, че има предразсъдъци срещу това. Но романите няма да се пишат само от Големи Езикови Модели или както там ще ги наричаме. Ще се комбинираме с тях. Хората все още ще изглеждат като хора, с нормална човешка кожа. Но те ще бъдат комбинация от мозъците, с които се раждаме и от мозъците, които имат компютрите, и ще бъдат много по-умни. Когато правят нещо, ще ги смятаме за хора. Всички ние ще имаме свръхчовеци в мозъците си.
Дори и след като прочетох книгата ви, съм малко раздвоен по въпроса за това как се случва тази връзка с облака. Да предположим, че наистина стигнете до втората космическа скорост на дълголетието и живеете през 2050 г. Как мозъкът ви ще се слее с облака?
Това е голям проблем. Много неща ще ни се случват и няма да сме наясно откъде са дошли. Това ще важи и за допълнителния компютърен разум, с който се свързваме. В момента има хора, които работят върху това, като всъщност могат да поставят неща в мозъците на хора, които не могат да общуват със собствените си тела. Но трябва да се случи много по-бързо, отколкото става днес. И аз вярвам, че това ще се случи до 2030 г.
Кога бихте започнали да свързвате едно дете с облака?
Това е добър въпрос. Има и други начини да проникнем в мозъка, без да го правим механично.
Смятате ли, че наследниците на Големия Езиков Модел ще имат нещото, което наричаме съзнание?
За да разберете какво е съзнание и какво не, трябва да възприемете философска гледна точка. В продължение на 50 години Марвин Мински беше мой наставник. Всеки път, когато ставаше дума за съзнание, той казваше: не ми говори така, това са глупости, не е научно. Беше прав, че няма научна дефиниция за съзнанието. Но не е глупост, защото всъщност това е най-важният въпрос.
Блейк Лемойн, който казва, че е работил в лабораторията ви в Google, твърди, че Големия Езиков Модел, по който сте работили, LaMDA, е имал съзнание. Греши ли той?
Никога не съм твърдял, че греши. Мисля, че той обича езиковите модели. Бихте могли да ги смятате за съзнателни – мисля, че все още не са съвсем там. Но ще бъдат. Наистина е въпрос на философска гледна точка дали са съзнателни, или не. Ще стигнем до момента – и това не след 100, а след няколко години – в който те ще действат и ще реагират точно както хората. И ако кажете, че те не са съзнателни, ще трябва да кажете, че не са съзнателни и хората.
С какво се занимавате в Google? Винаги е било малко мистериозно.
Всичко започна, когато проведох разговор с Бил Гейтс. Той беше прочел книгата ми Как да създадем съзнание и искаше действително да създаде нещо такова в компютър. Но аз току-що бях основал компания, само две седмици по-рано. Тогава Лари Пейдж [бившият главен изпълнителен директор на Google] се заинтересува от компанията и сключихме сделка за закупуването ѝ. Така че дойдох тук и създадох група, наречена Descartes. Извършихме голяма работа, която в крайна сметка се превърна в част от големите езикови модели. Някъде преди седем години обучихме модел, който да изчете 200 000 книги и да отговаря на всякакви въпроси. Стигна се до момент, в който аз ръководех около 40 души. Това включваше много бюрокрация. Шефът ми каза: „Това, което наистина бихме искали да правите, е да предлагате идеи.“ Така че сега ги съветвам по въпросите на изкуствения интелект – предоставям идеите си на главния изпълнителен директор и на други хора. Днес възгледите ми се приемат по-сериозно, защото нещата, които съм казвал в миналото, са се сбъдвали.
По-рано споменахте, че ще можем да качим мозъка си на машина и да имаме резервна версия на самите себе си. Това творение ще може да бъде наш репликант и да ни замести, ако умрем. Смятам, че е обезпокоително да имам повече от едно мое копие.
Истинското ви „Аз“ ще бъде функция на физическия, както и на електронния ви мозък. Едното е просто копие на другото. Какво лошо има в това да имаш копие?
Вероятно биха могли да бъдат създадени много копия. А те ще се надпреварват кой да се прибере пръв вкъщи, за да видят коя версия ще вечеря със съпругата ви.
Да, ще има проблеми, с които ще трябва да се справяме. Не разполагам с всички отговори.
Тук се намесва Даниел Канеман. В книгата си описвате разговори, които двамата сте водили за прехода между нашия свят и сингулярността. Вие смятахте, че обществото ще може да се справи с прехода, но Канеман твърдеше, че той ще бъде изпълнен с вълнения, дори с насилие.
Да, той смяташе, че ще има конфликти. Аз бях по-оптимистично настроен. Не казвам, че всичко ще бъде перфектно, но дали бихте искали да се върнете, да речем, назад с няколкостотин години, когато продължителността на живота ни е била около 30 години? Когато не е имало никаква електроника, никой не е можел да запомни нищо [по-голямо от…] и дори не сме изобретили грамофона? Животът е бил доста ужасен. Сега сме много по-щастливи. Имам 50 различни графики, които показват, че всичко е станало по-добро. Хората не помнят това.
Притеснявам се, че се връщаме към по-опасни времена, а изкуственият интелект в ръцете на лоши играчи може да ги влоши още повече. В книгата си допускате, че ИИ може да предизвика по-голям хаос от Втората световна война.
Да, говоря и за опасностите. Но мисля, че те са малко вероятни. Хората, които се отнасят негативно към ИИ, казват, че няма начин да се справим с тези проблеми. Е, това е така, защото все още не ни се е налагало да се справяме с тях. Ще разполагаме с допълнителен интелект, за да мислим как да избягваме опасностите.
С книгата си Сингулярността е близо забихте колче в земята. Новата ви книга се нарича Сингулярността е по-близо. Как я определяте?
За мен това е моментът, в който човек не само ще може да прави всичко, което могат да правят другите хора, но и да създаде нещо ново, като например да лекува някои форми на рак. ИИ е неразделна част от това, защото всъщност можете да изпробвате всяка възможна комбинация от неща, които могат да излекуват рака. И вместо да се питаме кое от тези милиарди възможни лекарства ще опитаме, можем да опитаме всички и да ги симулираме в хода на няколко дни. Сингулярността е моментът, когато действително ще можем да съчетаем този вид мислене с нормалното си мислене и тогава ще станем свръхчовеци.
Ако стигнем до този момент, в който всички ще се слеем със свръхинтелигентни системи, дали все още ще има огромни лични богатства, или неравенството в доходите ще бъде смекчено?
Но каква точно е разликата между нас и милиардерите, да речем? Те могат да продават компании и т.н. Но от гледна точка на способността ни да се наслаждаваме на плодовете на живота, всичко е почти същото.
Повече от половината хора в Съединените щати не могат да отделят 500 долара за спешни случаи. Сигурни ли сте, че мрежата за социална сигурност, универсалният базов доход и подобни програми ще разпределят поравно това обещано изобилие?
Мрежата за социална сигурност се е разширила изключително много. Това са стотици програми. И ще продължи да го прави. Гарантирано ли е това? Не е. Зависи от решенията, които вземаме, и от това какви политически системи разгръщаме. Когато стигнем до AGI, компютрите ще могат да правят всичко, включително да мият чинии и да измислят поезия – всичко, което кажете, тези машини ще могат да правят.
Вашите възгледи ми се струват панглосиански [нереалистични (по името на Панглос, смехотворния вечен оптимист от волтеровия Кандид)]. Смятате ли, че хората по същество са добри?
Да. В резултат на цялата тази суматоха сме се сдобили с технологии, които никога нямаше да се случат без наличието на мозък, в съчетание с палец, противоположен на останалите пръсти. Случват се добри неща.
Може да се твърди обаче, че унищожаваме планетата.
Е, не. До 10 години ще измислим възобновяема енергия, която не произвежда въглероден двуокис. Вижте, преминаваме през много голяма промяна. Хората – не само учените и философите – се питат: „Как ще се справим с това?“. Мисля, че промените ще продължат да бъдат положителни. Не е нужно да се притесняваме за това.
Наскоро почина и Върнър Виндж, който пръв разработи концепцията за сингулярността. Поддържали ли сте връзка с него?
Да, поддържах връзка с него по време на работата. Мисля, че последният път беше вероятно преди 10 години. На колко години беше той?
Мисля, че на осемдесет. [Кързуайл посяга към телефона си.] Да, проверете тази част от мозъка си.
Аха, роден е през 44-та година, а е е починал през 24-та. Седемдесет и девет. Това е доста ранна възраст.
[1] Longevity Escape Velocity (LEV) е концепция от областта на удължаването на живота и биогеронтологията. Тя се отнася до хипотетичния момент, в който медицинските постижения ще станат способни да удължат продължителността на човешкия живот по-бързо, отколкото процесите на стареене могат да я намалят. С други думи, след като достигнем LEV, с всяка изминала година продължителността на живота ще се увеличава с повече от една година, което на практика ще поддържа хората живи за неопределено време, докато напредъкът в медицинските технологии продължава.
