Създаването на свръхчовешки изкуствен интелект ни доведе на пътя към изчезване. Все още не е късно да сменим курса според двама от най-ранните изследователи в тази област в книгата-призив към човечеството.

През 2023 г. стотици изтъкнати учени в областта на изкуствения интелект подписаха отворено писмо, в което предупреждават, че ИИ може да доведе до изчезването на човечеството. Оттогава надпреварата в областта на изкуствения интелект само се засили. Компании и държави се надпреварват да създадат машини, които ще бъдат по-умни от всеки човек – а светът е ужасно неподготвен за това, което ще последва.

В продължение на десетилетия двама от подписалите писмото – Елиезер Юдковски и Нейт Соарес – изучават как ще мислят, ще се държат и ще преследват целите си интелектите, които са по-умни от човека. Изследванията им сочат, че достатъчно умните ИИ ще развият собствени цели, които ще доведат до конфликт с нас; и че ако се стигне до конфликт, изкуственият свръхинтелект ще ни унищожи. Състезанието дори няма да е оспорвано.

Как една машина със свръхинтелект би могла да унищожи целия ни биологичен вид? Защо би искала да го направи? Би ли искала изобщо нещо? В тази много важна книга Юдковски и Соарес разглеждат теорията и доказателствата, представят един възможен сценарий за изчезване и обясняват какво е необходимо, за да оцелее човечеството.

Светът се състезава да създаде нещо наистина ново под слънцето. И ако някой го развие – всички ще умрем.

***

„Може да се окаже най-важната книга на нашето време.“

- Тим Ъбан

„Най-доброто, разумно и просто обяснение на проблема за риска от изкуствения интелект, което съм чел.“

- Ишан Уонг, бивш главен изпълнителен директор на „Редит“

***

Елиезер Юдковски е един от основателите на областта на изкуствения интелект, която се занимава с разбирането на това как по-умните от човека интелекти мислят, как се държат и как преследват целите си. Като съосновател на нестопанската организация Machine Intelligence Research Institute („Институт за изследване на машинния интелект“, MIRI) Юдковски поставя началото на ранните научни изследвания по този проблем и изиграва важна роля в оформянето на обществения дебат за по-умния от човека изкуствен интелект. Включен в списъка на списание Time на 100-те най-влиятелни хора в областта на изкуствения интелект, Юдковски е една от дванадесетте публични фигури, представени в статията на „Ню Йорк Таймс“ Who’s Who Behind the Dawn of the Modern Artificial Intelligence Movement („Кой стои зад зараждането на съвременното движение за изкуствен интелект“) и един от седемте лидери на мисълта, представени в дискусията на „Уошингтън Поуст“ AI’s Rival Factions („Съперничещите си фракции в областта на изкуствения интелект“). Той изнесе реч на главната сцена на конференцията TED 2023 и е обект на дискусии или интервюта в „Ню Йоркър“, „Нюзуик“, „Форбс“, „Уайърд“, „Блумбърг“, „Атлантик“, „Икономист“ и много други медии.

Нейт Соарес е президент на MIRI. Работи в тази област от над десетилетие, след като преди това е натрупал опит в „Майкрософт“ и „Гугъл“. Соарес е автор на голям брой технически текстове и материали с технически елементи за съгласуването на изкуствения интелект, включително фундаментални трудове за изучаването на ценностите, теорията на вземането на решения и стимулите за търсене на власт в изкуствен интелект, който е по-умен от човешкия.