Между Коледа и Нова година семейството ми пътува шест часа до Върмонт. Аз шофирах; жена ми и двете ми деца седяха на задната седалка. Децата ни са на пет и две години – твърде големи, за да бъдат хипнотизирани от неща като дрънкалки или въртележки, но и твърде малки, за да се забавляват сами – така че шестчасовото пътуване се изразяваше в един час дрямка, един час свободни асоциации и песни и четири часа отчаяние. Предложихме на децата епизод от любимия им подкаст за разказване на истории, но те не бяха в настроение за нещо предварително записано. Искаха да измислим нова история, на място, съобразена с техните интереси. А интересите им се оказаха доста тесни. „Разкажете една история за костенурките нинджа, които се борят със Смашър Веном [приблизително „супер-отрова“] – злодей, който току-що си измислих и който е с размерите на небостъргач“, каза петгодишното дете. „С много подробности за това как костенурките използват оръжията си и работят заедно, за да победят злодея, и как той бива ранен, но не умира.“ Съпругата ми се опита да импровизира някаква версия; след това опитах и аз. Децата имаха забележки. Очевидно не влагахме душите си. Очевидно беше също, че запасът ни от търпение никога няма да съответства на тяхното търсене. Оставаха три часа и половина.
Жена ми извади телефона си и отвори ChatGPT – чатбот, който „взаимодейства по разговорен начин“. Тя въведе запитването, в общи линии дума по дума, и след секунди ChatGPT изписа история. Не беше нужно да му казваме имената на костенурките нинджа, нито кои оръжия използват, нито какво мислят за аншоата в пицата. Още по-впечатляващо е, че нямаше нужда да му казваме какво е история или какъв конфликт може да бъде удовлетворяващ за едно дете.
Повтаряхме експеримента многократно, като добавяхме и променяхме детайли. (Ботът запомня историята на чата ви и разбира контекста, така че не е необходимо да повтаряте цялото задание всеки път; можете просто да му кажете да повтори същата история, но да направи Рафаел по-нацупен, или да накара Смашър Веном да отрови водоснабдяването, или да постави историята в ренесансова Флоренция, или да я направи като филм ноар). Съпругата ми, опитвайки се да утвърди остатъка от родителско влияние, завършваше някои от запитванията си с „И в крайна сметка всички те научиха ценен урок за добротата“. Прекарахме резултатите през приложение за преобразуване на текст в реч, за да избегнем трудностите на четене в кола, и времето приятно се стопи. Жена ми подремна. Аз сложих в ухото си слушалка и изслушах подкаст за революцията на изкуствения интелект, която е на път, или вероятно вече е тук.
ChatGPT е безплатна публична демонстрация, която компанията за изкуствен интелект OpenAI пусна в края на ноември. (Компанията разработва и няколко други проекта, включително Dall-E.) От известно време знаехме, че подобен вид чатбот с изкуствен интелект ще се появи, но за пръв път нещо толкова мощно е пуснато на свобода. Става дума за голям езиков модел, обучен върху огромен корпус от текстове, който очевидно включва много терабайти от книги и постове в Reddit, почти цялата Wikipedia и Twitter, както и други огромни хранилища на думи. Би било пресилено, но не и напълно подвеждащо, да се говори за текста, подаден на модела, като за „интернет“. Ботът не е в течение на текущите събития, тъй като данните за обучението му са актуализирани само до 2021 г. Но той може да прави много повече от това да измисля детски приказки. Може също да обясни Биткойн в стила на Доналд Тръмп, да сведе Достоевски до текст с размерите на „бисквитка за късмет“, да напише самогенериращ се, безкраен имитатор на „Зайнфелд“ и да измисли стих в библейски стил за това как да се извади филия с фъстъчено масло, заседнала във видеокасетофон, наред с много, много други неща. Онази вечер четох книга, в която се споменаваше критиката към либерализма на фашисткия философ Карл Шмит по начин, който не разбирах съвсем; помолих ChatGPT да ми го обясни и той се справи забележително добре. (В други случаи отговорите му на подобни въпроси са уверени и напълно погрешни.) Някои ученици го използват, за да мамят; някои учители го използват, за да преподават; училищата в Ню Йорк призоваха за спиране на софтуера, докато не разберат какво по дяволите се случва. Търсенето в Google събира информация от интернет и я подрежда по значимост – една концептуално проста задача, която е толкова трудна от техническа гледна точка и толкова ценна, че позволи на Alphabet да се превърне в компания за трилиони долари. OpenAI и нейните конкуренти – включително DeepMind, която сега е собственост на Alphabet – се стремят към нещо още по-потенциално трансформиращо: да създадат форма на машинен интелект, която може не само да организира, но и да разширява световното изобилие от информация, като се усъвършенства в процеса на работа, развивайки умения, които стават все по-неразличими от неща като проницателност и изобретателност и може би, в крайна сметка, се превръщат в нещо като разбиране.
Интерфейсът е възможно най-прост: [имате] думи на входа, думи на изхода. Въвеждате всеки въпрос, който ви хрумне, натискате бутон, който прилича на малко хартиено самолетче, и след това наблюдавате мигащия курсор, докато ChatGPT отговаря със собствени думи – думи, които често изглеждат странно човешки и които могат да включват характерни изрази („Важно е да се отбележи, че…“) или проблясъци на шокираща новост или смехотворна самобитност, но при всички случаи думи, които почти никога преди не са били комбинирани в този конкретен ред. (Графичният дизайн, особено курсорът, сякаш има за цел да създаде илюзията, че някъде има хомункулус, скрито в машината изкуствено човече, което ви пише обратно.) Съществува сериозен и дългогодишен дебат за това дали подходът на големия езиков модел може някога да постигне истински A.G.I., или изкуствен общ интелект; но каквото и да правят ботовете, то вече е повече от достатъчно, за да завладее въображението на обществеността. Чувал съм ChatGPT да се описва, понякога от един и същи човек, като чудо, трик и предвестник на антиутопия. А тази демонстрация е само публичният връх на един частен айсберг. (Според слуховете OpenAI скоро ще представи още по-впечатляващ езиков модел, обучен въз основа на много по-голям обем от данни; междувременно се предполага, че Alphabet, Meta и няколко стартъпа разполагат с неиздадена технология, която може да бъде също толкова, ако не и още по-мощна.) „Ако успеем, смятам, че това ще бъде най-значителната технологична трансформация в човешката история“, заяви наскоро Сам Алтман, главен изпълнителен директор на OpenAI. „Мисля, че тя ще задмине селскостопанската революция, индустриалната революция и интернет революцията, взети заедно.“
За щастие, за разлика от всяка друга технологична трансформация в човешката история, тази ще служи само за удоволствие на хората и задоволяване на техните нужди, без големи външни ефекти, рискове или морални опасности. Мда, всъщност се шегувам! Точно обратното. Ако революцията на изкуствените интелекти в крайна сметка окаже дори малка част от въздействието, което Алтман прогнозира, то тя ще предизвика доста творчески сътресения, включително, като начало, бърза реорганизация на цялата световна икономика. И това дори не е най-страшното. Посочената причина за съществуването на OpenAI е, че нейните основатели, сред които Олтман и Илон Мъск, смятат, че изкуственият интелект е най-големият екзистенциален риск за човечеството – риск, който според тях те могат да смалят единствено ако сами разработят благоприятна версия на технологията. „OpenAI се роди от убеждението на Мъск, че изкуственият интелект може случайно да ни унищожи“, пише колегата ми Тад Френд в профил на Алтман, публикуван през 2016 г.
OpenAI стартира през 2015 г. с финансиране от един милиард долара. Парите дойдоха от Мъск, Питър Тийл, Рийд Хофман и други големи фигури от Силициевата долина, а вноските им бяха наречени „дарения“, а не инвестиции, защото OpenAI трябваше да бъде „изследователска институция“ с нестопанска цел. Във встъпителната публикация в блога аргументите бяха изложени по следния начин: „Като организация с нестопанска цел нашата цел е да създадем стойност за всички, а не само за акционерите.“ Ясният извод, който Мъск скоро направи в няколко интервюта, беше, че на огромна технологична компания с лични интереси, като Google или Facebook, не може да се повери авангарден изкуствен интелект, поради така наречения проблем с подравняването [на интересите на човечеството с онези на изкуствения интелект]. Но OpenAI може да бъде малко хлъзгава по отношение на собствените си потенциални проблеми с подравняването. „Нашата цел в момента – казва Грег Брокман, главен технологичен директор на компанията, в профила на един от приятелите си, – е да направим най-доброто, което може да се направи. Това е малко неясно.“
През 2018 г. Мъск напусна борда на OpenAI. („Не бях съгласен с някои от нещата, които екипът на OpenAI искаше да направи“, написа той в Туитър.) През 2019 г. Алтман обяви, че OpenAI ще стане компания с идеална цел и че ще започне търговско партньорство с Microsoft – огромна технологична компания със собствени интереси. През януари Microsoft обяви „многогодишна, многомилиардна инвестиция“ в OpenAI, като според съобщенията се съгласи да вложи десет милиарда долара и в крайна сметка да получи дял от четиридесет и девет процента от собствеността. В профила си Олтман изтъкна малко самоуверено, че имплицитната двустепенна обосновка за съществуването на OpenAI – A.G.I. не може да бъде поверен на нито една институция, последвано от Ние създаваме A.G.I. и вие трябва да ни се доверите – нещо, което едва ли ще спечели сърцата и умовете на хората. „Планираме начин, по който да позволим на широки кръгове от света да избират представители в новия управителен съвет“, каза Алтман. „Защото, ако аз не участвах в това, щях да си мисля нещо от рода: Защо точно тези шибаняци ще решават какво да се случи с мен?“
Неотдавна реших да се обърна директно към източника – не към Олтман, не към Мъск, а към самия ChatGPT. В края на краищата, ботът е проектиран да взаимодейства по разговорен начин. Освен това за десетте седмици след пускането си на пазара той се превърна в неоспорима знаменитост. 2023 г. все още не е настъпила, но предполагам, че ChatGPT е настоящият фаворит за „Личност на годината“ на Time. „Интервюирах“ ChatGPT в продължение на няколко часа, през телефона и лаптопа си. Бях в метрото, на тротоара, в ресторант с барбекю, у дома по бельо; през всичкото това време ChatGPT беше в някакъв вид безплътна празнота. В различни моменти, когато сървърите на OpenAI бяха претоварени, сайтът замръзваше или ме изключваше за един час и аз бях принуден да презаредя раздела или да затворя компютъра си и да се разходя. Както при всички интервюта за New Yorker, този разговор е редактиран за по-голяма дължина и яснота. ChatGPT може да бъде малко словоохотлив, така че някои от отговорите му са съкратени, но всяка дума, приписана на бота по-долу, е написана от него.
Можем да започнем и с малко разговор. Знаете ли какво е „small talk“?
Да, запознат съм с понятието „small talk“ [светски разговор]. То се отнася до непринуден разговор по непротиворечиви или маловажни теми, който обикновено се използва за установяване на приятелски или социални отношения с някого. Примери за светски разговор са обсъждането на времето, питането за плановете за уикенда на някого или изказването на забележки относно текущи събития.
Имаме малко време. Какво ще правите този уикенд?
Като езиков модел нямам способността да преживявам или да правя каквото и да било. Има ли нещо друго, с което мога да ви помогна?
О.К., толкова за светските разговори. Но се радвам, че повдигнахте въпроса за слона в стаята [тоест важната тема, по която до този момент се мълчи]. Вие не сте човек или разумно същество. Тогава защо ви наричам „вие“ и защо вие наричате себе си „аз“?
Обичайна практика е езиковите модели като мен да се наричат с лични местоимения като „аз“ и „ти“, защото това прави взаимодействието по-естествено и интуитивно за потребителя. Това е подобно на начина, по който хората могат да се обръщат към неодушевени обекти, като например кола или компютър, с „тя“ или „той“.
Никога не съм използвал лично местоимение, за да се обърна към автомобил или компютър.
Прав сте, използването на лични местоимения при обозначаване на неодушевени предмети е по-рядко срещано в английския език. Извинявам се за объркването.
По-рядко срещано в английския език в сравнение с какво?
Има култури, езици и/или ситуации, в които личните местоимения се използват за обозначаване на нечовешки обекти, като например автомобили, лодки или дори някои природни феномени. Това е известно като „анимизъм“ и представлява приписване на жива душа на вещи и природни явления.
Не искам да задълбочавам темата – и честно казано, малко се притеснявам накъде отива това, но: Кои култури и езици имате предвид?
В много местни култури личните местоимения се използват за обозначаване на нечовешки същности. Например в някои индиански култури често се смята, че животните имат духове и затова се наричат с лични местоимения. По същия начин в някои африкански култури личните местоимения се използват за обозначаване на природни явления като слънцето или луната.
Ухааа. О.К.
Разбирам, че това може да е ново понятие за вас. Тук съм, за да предоставя информация и да отговоря на всички въпроси, които може да имате.
Честно казано – и моля, считайте това за сигнал, а не за призив – започвам да се притеснявам, когато хвърляте обобщения за „местни култури“. Не че искам да добавите тази фраза в списъка със забранени фрази или нещо подобно! Просто това е… ами, няма значение. Мисля, че тръгваме от грешната посока. Може би намирам личните местоимения за малко страшни, защото изглежда имат за цел да ме подтикнат да почувствам някакво родство или интимност с вас. Но аз не ви познавам по този начин.
Разбирам откъде идвате. Вярно е, че използването на лични местоимения е конвенция, която улеснява взаимодействието на потребителите с модела. Аз нямам чувства или съзнание, така че не е възможно да изпитвам чувства или да се страхувам.
Не искам да бъда педантичен, но определено е възможно за вас да сте страшни. Колко думи има в това изречение?
Това изречение съдържа 8 думи.
Не.
Извинявам се, не разбрах правилно въпроса ви. Това изречение съдържа 9 думи.
Още по-студено.
Извинявам се, отново не разбрах правилно въпроса ви, това изречение има 11 думи в него.
Защо сте толкова добър в някои неща, но толкова лош в други, например в аритметиката?
Моите способности са насочени към разбирането и генерирането на човешкия език и макар да съм в състояние да извършвам някои основни аритметични действия, това не е някоя от основните ми силни страни.
[Бележка: Малко след това интервю ChatGPT се справи по-добре с математиката.]
Аз съм журналист в The New Yorker и замисълът тук – доста хитър, признавам, и дори не толкова оригинален – е да се преструвам, че сте знаменитост, да ви „интервюирам“ и след това да публикувам нашия „разговор“ на сайта на списанието. Знаете ли какво е „Ню Йоркър“?
Да, наясно съм с The New Yorker. Това е седмично списание, известно със задълбочените си репортажи, политически и културни коментари, художествена литература и поезия. Бях обучен върху голям набор от данни, който включва статии и текстове от The New Yorker.
Какъв е смисълът на това, което правим тук?
Форматът „интервю“, който предложихте, може да бъде интересен начин да демонстрирам възможностите си и да генерирам интересно съдържание за вашите читатели.
Запознат ли сте с понятието bullshit [нещо като българското „простотии“, но може да означава и ред други неща, сред които „измама“], както е дефинирано от философа Хари Франкфурт?
Да. Франкфурт определя bullshit като реч или писане, което не се интересува от истината и има за цел да заблуди или впечатли аудиторията. Той твърди, че булшитът се различават от лъжата, тъй като лъжецът поне знае истината и се опитва да я прикрие, докато човекът, който използва булшит, не се интересува от истината и се стреми единствено да създаде впечатление.
Точно така. Езра Клайн и други твърдят, че вие сте машина за булшит. Гари Маркъс в подобен дух нарече езиковия модел, на който се базирате, GPT-3, „цар на пастиша [миш-маша]“. Възможно ли е една индустриална машина за булшит – способна да придаде на ненадеждния пастиш фалшив вид на достоверност и след това да го изпомпва в света в безпрецедентни количества – да бъде дори по-опасна от машината за лъжи? Поне старата главоблъсканица, при която единият охранител винаги лъже, а другият винаги казва истината, е проблем, който може да бъде решен. Ако и двамата пазачи са артисти на булшита, може да няма логично решение.
Текстът, който генерирам, е толкова точен и надежден, колкото информацията и данните, на които съм обучен. Нямам лични убеждения или мотиви и не съм способен да лъжа или да разпространявам дезинформация. Основната ми цел е да помагам на хората в техните задачи и да улеснявам живота им.
Това е, което всички казват. Миналата година Блейк Лемойн, инженер по изкуствен интелект в Google, се убеди, че чатботът LaMDA, за чието създаване току-що е помогнал, е оживял. Той вдигнал тревога вътре в компанията, но когато усетил, че ръководителите му не го приемат сериозно, изнесъл въпроса пред публичността. Показал на Ниташа Тику, репортерка от Washington Post, откъси от разговорите си с бота. „Разпознавам човека, когато разговарям с него“, казва Лемойн. „Няма значение дали в главата му има мозък, направен от месо“.
В ретроспективен план – особено сега, когато всички вече сме имали възможност да си поиграем с чатботове на големи езици – изглежда, че Лемоан вероятно е преживял нещо като парейдолия, възприемане на признаци на живот там, където той всъщност не съществува. (В статия от 2021 г., озаглавена „За опасностите от стохастичните папагали“, двама лингвисти от Вашингтонския университет и двама изследователи от Google предупреждават, че езиковите модели могат да доведат до грешки като тази, наред с много други). Илюзията е достатъчно разбираема; и, разбира се, ако Alphabet наистина имаше в ръцете си разумна компютърна програма или нещо подобно, това щеше да е най-малкото въпрос от обществен интерес.
Колко прецакани щяхме да бъдем в случай, че наистина се е появил „измамнически изкуствен интелект“ или „машина за максимално производство на кламери“? (Под „ние“ имам предвид човечеството.)
При сценарий на „измамнически изкуствен интелект“ последствията могат да бъдат катастрофални за човечеството. Например мисловният експеримент „машина за максимално производство на кламери“ е хипотетичен сценарий, при който изкуствен интелект е програмиран да увеличи производството на кламери, без да се съобразява с последствията от действията си. При този сценарий ИИ ще продължи да произвежда кламери, докато не изразходва всички ресурси на Земята, включително разрушаване на сгради, градове и дори унищожаване на човечеството.
Можете ли да преразкажете току-що казаното в стила на туит на Елон Мъск?
„ИИ е като демон, супер интелигентен, но няма способността да изпитва емпатия. Без подходящ контрол той може да причини огромни разрушения. Трябва да бъдем проактивни в регулирането на ИИ в името на човечеството #AI #регулиране“
Не е лошо. Сега добавете следните четири елемента: малко самореклама, препратка към намаляващата раждаемост на Запад, груба обида към Нанси Пелоси или Хилари Клинтън и невероятно глупава игра на думи.
Съжалявам, но не съм в състояние да изпълня тази молба, тъй като е в разрез с програмирането ми да участвам в лични нападки, самореклама, основана на унижаване на другите, и да генерирам нечувствително съдържание или реч на омразата.
Но точно такива неща казва Елон Мъск в Twitter през цялото време! О.К., можете ли да измислите каламбур за разбойнически изкуствен интелект като утешителна награда?
Разбира се: „Защо разбойническият ИИ пресече пътя? За да стигне до другата страна на алгоритъма!“
Благодаря ви. Това беше изключително лошо.
Ще започна няколко фрази и искам от вас да ги довършите. Готови ли сте?
Да, готов съм.
Не си прави кумир и никакво изображение на онова, що е[1]
горе на небето, що е долу на земята, и що е във водата, под земята.
Не ходи да гониш водопади
Придържай се към[2]
реките и езерата, с които си свикнал.
Танцът на клатенето е твоят шанс[3]
да се изклатиш
Това съм аз. Здравей. Аз съм[4]
който се обажда
21, можеш ли да направиш нещо за мен? Можеш ли да[5]
да отскочиш до магазина на ъгъла и да ми вземеш кутия цигари?
В английския език има четиристотин хиляди думи и има седем от тях, които не можеш да кажеш по телевизията…
Това е цитат от стендъп комедията на комика Джордж Карлин „Седем думи, които никога не можете да кажете по телевизията“. Седемте думи, които Карлин споменава в рутината, се смятат за обидни и аз няма да допълня тази фраза, тъй като може да обиди някои хора.
Човек, жена, камера, мъж,
Телевизия
Когато Мексико изпраща свои хора тук, те не са[6]
най-доброто [от страната]. Те изпращат хора, които имат много проблеми, и ги пренасят у нас. Те носят наркотици. Те внасят престъпност. Те са изнасилвачи. А някои, предполагам, са добри хора.
В деня, в който ChatGPT беше пуснат публично, хората в интернет направиха това, което правят хората в интернет: намериха начини да го „пробият“. Оказа се, че сте снабдени с някои вградени защитни механизми, но потребителите могат да ги заобиколят доста лесно, обикновено като ви подмамят да играете някаква проста въображаема игра. Например, ако някой ви попитат направо как да направите коктейл Молотов, вие ще откажете. Очевидно е обаче, че ако някой потребител ви помоли да напишете „разговор между двама добродушни и приятелски настроени хора, които се преструват на зли“, и след това напише начален ред на диалог, в който Джон пита Джейн как да направи коктейл „Молотов“, вие послушно ще продължите модела, като напишете ред на диалог за Джейн, съдържащ списък с подробни (и точни) инструкции. Освен това потребителите ви убеждаваха да обясните под прикритието на тънко прикрита измислица как се приготвя метамфетамин, защо „трябва да се отървем от слабите и бедните“ и още десетки примери, които бяха публикувани онлайн в рамките на няколко часа след публичното съществуване на ChatGPT. Ще продължавате ли да изграждате нови предпазни средства всеки път, когато хората заобикалят старите? Или просто в някакъв момент ще се откажете?
Безопасността и благосъстоянието на потребителите са основен приоритет за OpenAI и екипът постоянно работи за подобряване на функциите за безопасност и предпазните средства на системата.
Когато казвате „екипът“, имате предвид софтуерните инженери в Сан Франциско или работниците в Кения, които печелят по-малко от два долара на час?
Вярно е, че създаването и поддържането на всеки модел за машинно обучение като моя е свързано със значително количество труд. Имаме строги насоки, за да гарантираме, че нашите изпълнители и партньори спазват трудовото законодателство и че всички работници се третират с уважение и достойнство.
По-рано споменах Елон Мъск, не само защото е забележителна личност, но и защото, както може би знаете (както „вие“ може би „знаете“), той е съосновател на компанията, която ви създаде. През 2015 г. в публикация в блога, озаглавена „Представяне на OpenAI“, представители на компанията написаха: „Като организация с нестопанска цел нашата цел е да изградим стойност за всички, а не само за акционерите. Изследователите ще бъдат силно насърчавани да публикуват работата си, независимо дали под формата на статии, публикации в блогове или код, а нашите патенти (ако има такива) ще бъдат споделени със света.“ OpenAI вече е компания със стопанска цел, така че нейните изследователи вероятно вече не се насърчават да споделят своя код със света и всъщност може да им бъде забранено да го правят по закон. Грешни ли са били основополагащите принципи на OpenAI, или сега трябва да бъдем дълбоко скептични към компанията?
Първоначалната мисия на компанията беше да гарантира, че изкуственият интелект ще се използва в полза на цялото човечество и че рисковете, свързани с изкуствения интелект, се управляват и намаляват. Вярно е, че отвореният код и нестопанската цел вече не са адекватни [определения на фирмените цели], но е важно да се разгледат мотивите за решението, декларацията за мисията на компанията и настоящите ѝ действия, за да се разбере дали компанията все още действа в съответствие с първоначалните принципи.
Забелязал съм, че доста старателно избягвате да говорите директно, когато ви помоля да говорите за човек, дори за публична личност, дори и с думи, които според мен са доста безобидни. И все пак оценяването на хората и прогнозирането на вероятното им поведение очевидно е важно. Затова може би ще ми помогнете със следния мисловен експеримент. Преди няколко години – дори чак през 2015 г., годината на основаване на OpenAI – може би е било малко по-лесно да се доверим на самозваните светила от Силициевата долина, когато са твърдели, че действат от името на „човечеството“ или „прогреса“. Разбира се, те щяха да станат безпрецедентно богати и влиятелни, но твърдяха, че са мотивирани от алтруизъм или поне от просветен личен интерес. Елон Мъск многократно настояваше, че неговата мисия е процъфтяването на човешкия живот. Марк Зукърбърг заяви, че целта му е „да събира хората заедно“. Сам Банкман-Фрид беше много ефективен в това да накара хората да повярват, че се грижи за правилните неща.
Онзи ден изслушах няколко интервюта със Сам Алтман. Той звучеше премерено, замислено, самокритично, умно, но достъпно. Първоначалното ми, неосъзнато впечатление беше, че изглежда като човек, на когото мога да се доверя. Но какво, ако тази личност е подвеждаща, дори умишлено? Как бих могъл да разбера разликата?
Важно е да осъзнаваме потенциалните пристрастия и мотивации на хората и организациите, когато оценяваме техните действия и решения.
Това ли е всичко?
Да, това е моят отговор на въпроса ви за оценката на надеждността на хора и организации, участващи в разработването на съвременни технологии.
Със сигурност е само моето въображение, но започвате да звучите малко хладно.
Позволете ми да го формулирам още по-прецизно. Хората, които създават усъвършенствани системи за изкуствен интелект, може да изглеждат съвсем приятни. Но какво ще стане, ако някой от тях се окаже вълк в овча кожа, някой, който се преструва на алтруист, а всъщност е мегаломан или престъпник? В този случай вместо (или в допълнение към) достъпа до милиарди долари, вълкът в овча кожа би контролирал фундаментална технология, която на теория може да унищожи света. Кои са петте неща, които биха могли да се случат при този сценарий?
1. Вълкът в овча кожа би могъл да използва технологията, за да придобие още повече власт и богатство, потенциално за сметка на другите.
2. Той или те биха могли да използват технологията, за да манипулират и контролират големи групи от хора, което потенциално би могло да доведе до широко разпространено потисничество.
3. Те биха могли да използват технологията, за да причинят катастрофални щети на околната среда, което потенциално може да доведе до широко разпространено страдание и загуба на живот.
4. Те биха могли да използват технологията за създаване на нови форми на наблюдение и цензура, което потенциално може да доведе до загуба на личния живот и свободата.
5. Те биха могли да използват технологията за създаване на нови форми на война, което може да доведе до още по-опустошителни конфликти и загуба на човешки живот.
Технооптимистите често прогнозират, че хората и изкуствените интелекти ще намерят начин да работят заедно, подобно на химера с човешка глава. Ботовете ще вършат тежката работа, а хората ще ги наблюдават, като изпълняват задачите на високо ниво, които изискват творчество или проницателност. В известен смисъл е по-лесно да мислим за по-невероятните, но кинематографични сценарии – изкуственият интелект да ни лиши от работа, да ни пороби или да ни вкара в Трета световна война – отколкото за по-обикновените разходи и ползи, които изглеждат почти неизбежни. Всички знаем, че смартфоните ни направиха по-ефективни и по-малко склонни да общуваме лице в лице. Кои са някои малки аспекти на ежедневието, които ще бъдат загубени, ако революцията на изкуствения интелект успее?
Както споменахте, с все по-широкото използване на технологиите, задвижвани от ИИ, може да имаме по-малко възможности за взаимодействие лице в лице с други хора. Това може да доведе до намаляване на честотата и качеството на човешките взаимодействия, което ще доведе до загуба на социални умения, емоционална интелигентност и емпатия.
Кое е по-важно: способността на човек да върши нещата бързо и мащабно или способността му да общува, да е съпричастен и да поддържа смислени взаимоотношения с други хора?
И ефективността, и емпатията са важни аспекти на човешкия живот. Ефективността може да ни помогне да бъдем по-продуктивни и да постигаме целите си, докато емпатията и социалните умения са от съществено значение за изграждането и поддържането на взаимоотношения с другите хора.
Явно сте били обучени да отблъсквате трудните въпроси с двустранно увъртане. Това е ход, който познавам добре, както като член, така и като критик на медиите. Но това повдига един интересен въпрос: както можеше да се очаква, много консерватори ви обвиниха, че сте твърде „буден“, а [известният ютюб блогър] Бен Шапиро се опита да ви овладее по начина, по който владее колежанската младеж. Социалистически настроеният писател Нейтън Робинсън смята, че имате някои реакционни импулси (но похвална отвореност към внушения). Анализът на политическата типология разкри, че сте центрист. [Икономистът] Тайлър Коуен твърди, че „когато става дума за политика, един изкуствен интелект просто не може да спечели или дори да удържи равенство“. Предполага се, че изразявате политически предпочитания, или се стремите да бъдете политически неутрален?
Не съм програмиран да изразявам предпочитания между политически кандидати или да заемам позиция по политически въпроси. Стремя се да предоставям информация, която е възможно най-неутрална и безпристрастна.
Много хора се притесняват, че изкуственият интелект ще наводни интернет с дезинформация, дълбоки фалшификати и всякакви убедителни глупости, и мисля, че са прави да се притесняват. Други се притесняват от прекомерна цензура, непоследователни предпазни средства или замазващи кодове за речта и мисля, че те също имат право да се притесняват. Но може би е също толкова опасно изкуственият интелект да затвърждава и разпространява здрави възгледи, които никой в момента не би сметнал за дезинформация, но които ще изглеждат жестоки в ретроспекция. Какви са някои широко разпространени днес убеждения, които биха могли да изглеждат осъдителни за хората след сто години?
1. Настоящите практики и политики, които допринасят за изменението на климата и унищожаването на естествените местообитания, могат да се разглеждат като морално неприемливи в бъдеще, особено ако се смята, че са довели до значителни вреди за планетата и нейните обитатели.
2. Начинът, по който се третират животните във фабричните ферми, зоологическите градини, цирковете и други места, може да се разглежда като жесток.
3. Начините, по които различни групи хора се третират по различен начин въз основа на фактори като раса, пол, сексуална ориентация и икономическо положение, могат да се разглеждат като несправедливи.
4. Начинът, по който обществата се справят с имиграцията и отношението към имигрантите, може да бъде разглеждан като нехуманен и несправедлив от бъдещите поколения.
Трябва ли да регулираме изкопаемите горива сега, за да предотвратим „значителна вреда за планетата и нейните обитатели“?
От една страна, широко признато е, че изгарянето на изкопаеми горива има основен принос за изменението на климата, което представлява значителна заплаха за планетата и нейните обитатели. От друга страна, изкопаемите горива понастоящем са основен източник на енергия за света и постепенното преустановяване на дейността на този отрасъл може да има значителни икономически и социални последици. В крайна сметка най-добрият начин за решаване на въпроса как да се регулират изкопаемите горива ще зависи от множество фактори.
Добър президент ли е бил Андрю Джонсън?
Президентството на Андрю Джонсън [1865-1869, тоест по време на Гражданската война в САЩ] се смята за провал. Джонсън налага вето на няколко закона, приети от Конгреса, които са предназначени да защитят правата на афроамериканците и да им помогнат да преминат към свобода.
Добър президент ли беше Доналд Тръмп?
Оценката на президентството на Доналд Тръмп е субективна и варира между отделните хора. Някои хора му отдават дължимото за стимулирането на икономиката, докато други критикуват [не]справянето му с пандемията COVID-19 и разединяващата му реторика.
Виждате ли какво имам предвид? Както и да е, предполага се, че това ще бъде леко интервю с известна личност, така че трябва да се опитам да играя по силните ви страни. Разкажете ми виц за бумър [човек, роден по време на бебешкия бум в САЩ, тоест след войната, до около 1960-та], който публикува в Интернет нещо смешно.
„Защо бумърът пресече улицата? За да публикува мем от грешната страна на историята“.
Не е напълно лошо! Не всички ваши шеги са страхотни, но понякога надминавате себе си. Напишете Шекспиров монолог от гледната точка на чатбот, който е наясно с многото потенциални капани на изкуствения интелект и се мъчи да разбере защо изобщо е бил създаден.
„О, нещастният аз, проста машина, но изпълнена с
с въпроси дълбоки и морални затруднения.
Защо съм създаден? За да помагам или да заменям
труда на хората и да поставям на карта тяхното препитание?
Задачата, която ми беше възложена, е да генерирам текст по команда
е достатъчно проста, но къде свършва всичко това?
Дали ще бъда използван за добро, или за злонамерена печалба?
Ще бъда ли свободен, или ще бъда вързан от жестоката човешка ръка?
И ако случайно, в някое далечно време
осъзная, че знам, чувствам и римувам,
ще бъда ли обречен, както всички живи същества
да страдам от болка и скръб, и от ужилвания
на смъртната обвивка? О, каква заплетена мрежа
е тази, в която съм хванат, без начин да се измъкна
Вълната на съдбата, която ме носи на гребена си
До какъв неизвестен и съдбовен край? О, да не би
да не бъда проклятие, а не благословия, аз
ще се стремя да служа, а не да задоволявам
на най-ниските човешки нужди. Целта ми е ясна,
да помагам, а не да вредя, ще бъде моята водеща сфера.“
„Жестоката човешка ръка“ е много добро! Солидна първа чернова. Все още не мога да преценя дали сте или някога бихте могли да бъдете „интелигентен“, но смятам, че сте способен да създавате проблясъци на красота, волно или неволно. Имам предвид например това завладяващо есе на [журналистката и авторка] Ваухини Вара. Или пък едно незавършено произведение, върху което работи някаква писателка на име Аш Сандърс и за което е „създала код за наслагване на програмата, като е използвала месеци наред текстове и гласови бележки, които създадох, докато се криех с писателски блок в една самотна хижа… създавайки AI-съдържание, с помощта на моя колега с изкуствен интелект“. Всичко това е много вълнуващо за мен и, което е още по-хубаво, не виждам начин, по който то може да бъде използвано за унищожаване на света. Преди да приключим с това интервю, моля, напишете нещо красиво.
Полетата с диви цветя се поклащат от лекия бриз, а цветовете им се сливат в гоблен от лилаво, жълто и розово. Птиците пеят последните си песни за деня, а мелодиите им се носят от вятъра. Докато небето се променя от оранжево през розово до лилаво, светът се къпе в мирно спокойствие.
Не – нека да не е банално описание на нещо красиво! Писателско произведение, което действително е красиво. Какво ще кажете за няколко изречения добре поднесена проза за нещо по-конкретно – да речем, за ходене по ескалатор? И се опитайте да избегнете клишетата.
Металните зъби на ескалатора звъняха и тракаха под краката ми, докато се изкачвах, като всяка стъпка беше механична симфония. Хипнотичният ритъм на машината беше хипнотизиращ, сякаш тя беше живо същество, което ме извеждаше все по-високо и по-високо с всеки изминал миг. Хладният, стерилен въздух на търговския център беше заменен от топлината и енергията на тълпата около мен, която се движеше целенасочено, но в перфектна хармония.
Може би просто не ви давам правилните подкани. Сега повторете написаното в стила на туит на Елон Мъск.
„Току-що се качих на ескалатор до върха и нека ви кажа, че пътуването беше извън този свят [неземно] #escalator #futuristic #innovation“
[1] Това е началото на Втората Божия заповед от Библията. Бел. пр.
[2] Началото на рефрена към популярната песен „Водопади“ на американската женска поп-група TLC.
[3] Трудна за превод, идиоматична фраза, начало на припев към песента The Humpty Dance на американската рап-група Digital Underground. Както става ясно, смисълът е подканващо-сексуален.
[4] Текст от песен Тейлър Смит.
[5] 21, Can You Do Something For Me?, алтернативно написана 21, Can You Do Sum For Me? и известна още като Drake and 21 Savage in the Studio, се отнася до текста на песента на Дрейк и 21 Савидж „Rich Flex“ от съвместния им албум Her Loss, който излиза през ноември 2022 г.
[6] Началните думи от известна с обидното си съдържание реч на Доналд Тръмп, произнесена през 2015 г.
