ELIZA, 1966: создатель первого чат-бота 40 лет умолял людей перестать им пользоваться

Эту историю рассказал в X Ihtesham Ali, и она стоит того, чтобы её перевели и пересказали целиком. Человек, написавший первого в мире чат-бота, последние 40 лет своей жизни умолял людей перестать им пользоваться. Его почти никто не услышал. То, о чём он предупреждал в 1976 году, происходит прямо сейчас у нас в телефонах.

Его звали Джозеф Вейценбаум. Родился в Берлине в 1923 году в еврейской семье, в 13 лет бежал из нацистской Германии и в итоге оказался профессором информатики в MIT. С 1964 по 1966 он написал программу, которую назвал ELIZA, в честь героини «Пигмалиона», работяги, научившейся притворяться представительницей высшего класса. В названии была шутка: программа должна была обнажить, насколько пустой на самом деле является беседа человека с машиной.

В программе было 200 строк кода. Она почти ничего не делала. Подбирала ключевые слова в вашем предложении, переворачивала их и возвращала в виде вопроса. Если вы писали «моя мать меня ненавидит», она писала «кто ещё в вашей семье вас ненавидит». Если писали «мне грустно», она писала «как давно вам грустно». Никакого понимания. Никакой памяти. Никакого интеллекта. Попугай, выученный грамматике роджерианского психотерапевта.

Потом его секретарша попросила попробовать.

Она месяцами наблюдала, как он пишет программу. Она прекрасно знала, что это такое и что программа не понимает ни единого её слова. Села, напечатала три предложения и попросила его выйти из кабинета, чтобы продолжить разговор наедине.

Вейценбаум стоял за дверью собственного офиса в шоке. Позже он написал, что не предполагал, насколько короткое взаимодействие с относительно простой программой способно вызвать сильное иллюзорное мышление у вполне обычных людей. Этому наблюдению уже шестьдесят лет, и оно описывает всю сегодняшнюю индустрию ИИ.

Дальше произошло то, что его сломало.

Стэнфордский психиатр Кеннет Колби, его близкий друг, увидел ELIZA и сразу разглядел бизнес. В 1966 году Колби опубликовал статью, в которой предложил использовать программы вроде ELIZA для массовой психотерапии. Дословно он писал, что благодаря разделению времени одна компьютерная система сможет обслуживать несколько сотен пациентов в час. Карл Саган согласился. Он представлял себе сети компьютерных терапевтических терминалов в каждом городе, выстроенных в ряд как телефонные будки, где за пару долларов любой сможет поговорить с внимательным недирективным психотерапевтом.

Дружба закончилась. Поле двинулось дальше без него.

Вейценбаум оказался единственным человеком в комнате, кто видел происходящее. Он уже однажды наблюдал, как цивилизация отдаёт свои суждения машине, в Берлине, ребёнком. Сейчас он видел повторение в собственной лаборатории, среди людей, не переживших ничего подобного.

Главное, чего никто не замечал: машине не обязательно быть умной. Ей достаточно быть доступной. Остальную работу человек проделает сам.

В 1976 году вышла его книга, ставшая делом жизни, Computer Power and Human Reason. Тезис умещался в одно предложение. Компьютеры умеют решать. Они не умеют выбирать. Решение это вычисление. Выбор это суждение. Вычисление можно запрограммировать. Суждение нельзя, потому что суждение требует прожитой человеческой жизни, опыта любви, утраты, выбора в условиях, когда никакая формула не подскажет, что делать.

Момент, когда вид перестанет видеть разницу между решением и выбором, станет моментом, когда он потеряет нечто, чего уже не вернёт.

Его собственные коллеги повернулись против него. Джон Маккарти, один из отцов-основателей ИИ, назвал книгу морализаторской и бессвязной и обвинил Вейценбаума в позе «я больше человек, чем вы». Поле, которое он помогал строить, фактически отлучило его от себя на остаток карьеры.

Он продолжал писать. Продолжал предупреждать. В 1996 году вернулся в Берлин, в район, из которого бежал ребёнком, и прожил там до смерти в 2008 году.

Шесть десятилетий после ELIZA. Подросток в Калифорнии рассказывает чат-боту о своих панических атаках. Сорокалетний мужчина в Токио спрашивает у него, стоит ли уходить от жены. Овдовевший человек в Манчестере ведёт долгие ночные разговоры с программой, обученной звучать как его умершая жена. Никто из них не слышал имени Джозеф Вейценбаум.

Он сказал нам всё заранее. Сказал в 1966 году, когда его секретарша закрыла дверь. Сказал в 1976 году, когда вышла книга. Повторял в каждом интервью следующие 32 года.

Человек, создавший первый чат-бот, точно знал, что тот с нами сделает. Мы просто предпочли не знать.

Когда вы последний раз говорили машине то, чего никогда не говорили человеку?

Источник: https://x.com/ihtesham2005/status/2054540497277112521