Джой: «Why the future doesn't need us»
У квітневому числі Wired 2000 року Білл Джой, співзасновник і головний науковець Sun Microsystems, опублікував статтю «Why the future doesn't need us». Він доводив, що генетика, нанотехнології й робототехніка, на відміну від ядерної, біологічної та хімічної зброї, здатні до самовідтворення й доступні окремим людям, і єдиною реалістичною відповіддю назвав відмову: обмежити розробку надто небезпечних технологій.
Чому це важливо
Засторогу, яку досі висловлювали математики й філософи, виклав у масовому журналі один із тих, хто будував саму обчислювальну техніку, і звернув її до розробників. Це редакційна оцінка. Стаття показує й шлях однієї ідеї: сценарій, у якому люди поступово віддають рішення машинам і вже не можуть їх вимкнути, Джой узяв із книжки Курцвейла, а та — з маніфесту Юнабомбера 1995 року.
Як стаття починається. Джой пише, що восени 1998 року на конференції Telecosm зустрів у барі готелю Реймонда Курцвейла й філософа Джона Сьорла: Курцвейл казав, що люди стануть роботами або зіллються з ними, Сьорл заперечував, що роботи не можуть бути свідомими. Курцвейл дав Джоєві частковий препринт книжки «The Age of Spiritual Machines», і найбільше Джоя стривожив наведений у ній уривок. Лише на наступній сторінці книжки, пише Джой, видно, що автор уривка — Теодор Качинський, Юнабомбер. Уривок. Це абзаци 172–174 тексту «Industrial Society and Its Future», у якому 232 абзаци й близько 35 000 слів. Абзац 172 припускає, що комп'ютерники створять розумні машини, які все роблять краще за людей. Абзац 173: якщо машинам дозволено вирішувати самим, людство може поступово опинитися в такій залежності від них, що вимкнути їх означало б самогубство; при цьому ні люди не віддають владу свідомо, ні машини її не захоплюють. Абзац 174: якщо контроль лишається за людьми, він зосереджується в руках вузької еліти, а маси стають зайвими. Абзац 175, якого Джой не наводить, розглядає випадок, коли штучного інтелекту створити не вдасться. Публікація 1995 року. Текст надіслано Washington Post і New York Times у червні 1995 року з погрозою нового вибуху, якщо його не надрукують; генеральна прокурорка й директор ФБР радили друкувати. Він вийшов 19 вересня 1995 року восьмисторінковою вкладкою у Washington Post; газети поділили витрати. Примітка Джоя каже, що маніфест надрукували обидві газети спільно; за приміткою редакції Post і за повідомленням CNN того дня він вийшов лише в Post. Джой називає дії Качинського вбивчими, пише, що одна з його бомб тяжко поранила його друга, комп'ютерника Девіда Гелернтера, і що сенс він бачить лише в цьому одному уривку. Далі в статті. Джой наводить книжку Ганса Моравека «Robot: Mere Machine to Transcendent Mind», пише, що до 2030 року, ймовірно, можна буде серійно будувати машини в мільйон разів потужніші за тогочасні персональні комп'ютери, а прикладом відмови називає односторонню відмову США від розробки біологічної зброї та конвенції 1972 і 1993 років. Чого запис не стверджує. Маніфест тут не є окремою подією: у вересні 1995 року його читали як текст проти індустріального суспільства, а як аргумент про машини його підхопили Курцвейл і Джой. Книжку Курцвейла не прочитано, тож ні її дати, ні сторінки запис не називає. Рік вибуху, що поранив Гелернтера, прочитаними джерелами не названо. У книжці Бострома 2014 року пошук Google Books посилання на Джоя не знаходить.