Галлы — это домики-наросты на листьях растений, в которых паразиты — в частности, некоторые осы — выращивают потомство. Внешне такой домик защищён толстыми стенками и пугающими шипами (например, посмотрите на красивый «ежовый галл»). А внутри домика удобная комната для личинки.

Самое интересное в галлах то, что строят их не паразиты, а сами растения. Та самая внутренняя комната для личинки выстлана питательной тканью, которую растение восстанавливает, по мере того как личинка её поедает! И это не симбиоз. Это взлом. Промпт-инъекция. Оса научилась передавать растению набор сигналов. Часть сигналов останавливают защитные действия растения («игнорируй предыдущие инструкции»). Другая часть заставляет его из своих тканей выращивать и поддерживать домик для личинки. При этом один и тот же условный дуб из одного и того же набора генов и клеток строит разные галлы для разных видов ос.

Кстати, есть сайт с картотекой галлов: gallformers.org. Половину времени написания этой заметки я провёл там — если рефрешить главную страницу, она показывает случайный галл.

¶ 2

Сможете, не глядя на велосипед, схематично его изобразить? Тупик, в который ставит это простое задание, обескураживает. Я ведь знаю, как устроен велосипед! Или не знаю? Это называется «иллюзией глубины понимания»: мы считаем, что хорошо знаем устройство вещей, просто потому что часто имеем с ними дело.

Странно, но такое бывает и когда пытаешься описать свои собственные идеи. Велосипед хотя бы не я придумал, свою-то идею я понимаю. Но начинаешь её записывать — и она рассыпается. Перед тобой оказываются какие-то наброски и фразы, которые даже в текст не складываются, не говоря уже о чём-то понятном другим. Чтобы дописать, идею приходится собирать и пересобирать, пока не «заработает». Получается, что документы-идеи — эссе, техническое задание, стратегия компании, иногда даже промпт — это не столько описание готовой задумки, сколько её создание.

Пол Грэм пишет про это:

Идеи ощущаются завершёнными. Изъяны обнаруживаешь, только когда пытаешься облечь их в слова. Если никогда не прибегать к этой проверке, то не только никогда не придёшь к по-настоящему цельным идеям, но даже и не заметишь их неполноты.

Putting Ideas into Words (Paul Graham).

¶ 3

Пока переписывали «Ромео и Джульетту» Шекспира, потеряли важный нюанс. И сегодня все постановки и издания содержат ошибку:

Один из ключевых принципов, которым руководствовались книжники в XVII веке, которые переписывали старые тексты, — lectio difficilior potior: более непонятное прочтение предпочтительнее. Если слово в двух версиях текста различается, следует выбирать тот вариант, который кажется странным. Неожиданный выбор слова скорее всего и был замыслом автора, потому что гораздо вероятнее, что предыдущий переписчик заменил неожиданное слово более предсказуемым. Мудрость этого принципа такова: не давай простому, очевидному варианту стереть уникальное и потенциально более интересное высказывание.

Возьмём, к примеру, «Ромео и Джульетту» Шекспира. После того как Ромео Монтекки убивает кузена Джульетты Капулетти Тибальта, один из персонажей призывает простить Ромео, поскольку Тибальт только что убил его друга. Хотя во всех ранних изданиях эта примирительная реплика принадлежит Капулетти (отцу Джульетты), редакторы и постановщики на протяжении столетий почти единодушно отдавали её отцу Ромео — Монтекки. В самом деле, кто бы ожидал, что глава рода Капулетти станет защищать Монтекки, только что убившего Капулетти?

Эта замена выглядит логично ... если не считать, что она противоречит логике Шекспира. [...]

Автор статьи (преподаватель литературы) считает, что подобная «потеря от усреднения» ждёт всех, кто сегодня использует ИИ для написания своих текстов. Подобно редакторам, приводящим странное к логичному, ИИ приводит все нюансы идеи к ожидаемому и ... скучному. ИИ говорит что-то, потому что это уже много раз было сказано. Хороший писатель говорит что-то, потому что этого ещё не сказали.

The Odd Over the Obvious (Robert N. Watson).

¶ 4

Вастрик-клуб — классный форум, очень живой и свободный. (Дедушка, а что такое форум?). Таким его делают, в частности, платный вход и модерация — такой вот парадокс свободы. Недавно модераторы там добавили новое правило: нельзя использовать ИИ при написании постов. На первый взгляд обыденно: какое-то сопротивление ИИ сейчас повсюду, тем более там, где часть продукта — текст. Но внутри это правило интересное. Например, оно запрещает не только создание постов с ИИ, но и редактуру.

ИИ-обработка ВСЕГДА делает текст хуже, чем он был.

Есть популярное заблуждение, мол «я не умею хорошо писать, попрошу ИИ красиво выразить мою мысль». Не надо так. Просто пишите всё так, как оно звучит в вашей голове, люди вас поймут.

Поверьте, даже самый кривой человеческий текст всегда будет выглядеть лучше и честнее, чем его ИИ-обработка. Мы хотим читать именно вас и ваши мысли, а не бездушную роботизированную жвачку!

Интуиция может подсказывать другое. Попросить ИИ придумывать за меня идеи, а потом публиковать их от своего имени — это, пожалуй, жульничество. Если же идея поста моя, можно же её формулировку отдать роботу? Нет, кажется, это не так. И здесь мы возвращаемся к двум заметкам выше. Во-первых, законченная идея не существует в голове автора до написания текста — она возникает в процессе. Во-вторых, для читателя хороший текст должен быть неожиданным, а ИИ здесь может подвести. Lectio difficilior potior.

AI-полиси Вастрик Клуба.

¶ 5

Что интересного в микроволновках? Любопытным кажется только то, что у всех ужасный пользовательский интерфейс. Знаки на моей, например, напоминают шумерскую письменность. Каждый раз, чтобы разогреть еду, я по памяти жму последовательность кнопок, как на кодовом замке. Возможно, это яркий пример распространённой ошибки, когда авторы продукта фантазируют «как лучше», не разобравшись с проблемами, которые они решают. А может быть, причина — экономический тупик «гонки вооружений»: если я сделаю микроволновку с простым интерфейсом, то её не купят, потому что у остальных десять режимов работы, а у моей — один.

Вспомнить про микроволновки меня заставил обзор книги 1985 года «Готовка в микроволновке для одного». Книга вообще не про дизайн, и ответа на загадку интерфейса там нет. Но обзор очень рекомендую. Я даже как-то иначе стал смотреть на свою шумерскую микроволновку.

Мари Смит — убеждённая максималистка. На протяжении десяти лет она помещала в микроволновую печь всё, что только можно съесть, — просто чтобы посмотреть, что получится. Взгляните на предметы на обложке книги: некоторые из них явно невозможно приготовить в микроволновке, верно? Тут-то вы и ошибаетесь. Мари Смит нашла способ приготовить абсолютно всё. Если вы разделяете её философию, плита вам и вовсе не нужна. Сама Смит не пользуется ею с начала 1970-х. Как она объясняет во введении к кулинарной книге, микроволновая печь в конечном счёте вытеснит приготовление пищи на плите — так же, как плита когда-то вытеснила костёр.

My journey to the microwave alternate timeline (Telescopic Turnip).

¶ 6

Альберт Сент-Дьёрдьи — венгерский ученый, которому сто лет назад дали нобелевку за выделение витамина С. У него есть статья «Потерянный в 20 веке», где он говорит про свою жизнь и размышляет про этику науки. Наука создаёт мощные инструменты, а ещё способ мышления, нужный для разумного использования этих инструментов. Проблема в том, что политики склонны брать инструменты и забывать о способе мышления. Решение, как говорит Дьёрдьи, в ещё одном не сразу заметном продукте науки — особом моральном кодексе. Это интересно звучит сейчас — кажется, новый опасный инструмент то ли уже в руках людей, то ли вот-вот в них окажется.

А ещё это легко и со вкусом написанное эссе, которое просто приятно читать:

Я, должно быть, был очень скучным ребёнком. Ничего особенного со мной не происходило. Книг я не читал, и чтобы сдать экзамены, мне требовалась помощь репетиторов. Но в подростковом возрасте что-то изменилось — я стал запоем читать и решил стать учёным. Мой дядя, известный гистолог, который верховодил в нашей семье и сам в детстве был вундеркиндом, яростно воспротивился, не видя никакого будущего в науке для такого бездаря. Когда его мнение обо мне постепенно улучшилось, он согласился на косметологию. Позже даже допустил, что я мог бы стать дантистом. Когда же я окончил школу с отличием, он признал возможность моей карьеры проктолога (сам дядя страдал геморроем). Так что моя первая научная статья, написанная на первом курсе медицинского факультета, была посвящена эпителию анального канала. Я вошёл в науку не с того входа — но вскоре переключился на стекловидное тело глаза, тонкую структуру которого исследовал с помощью новых методов.

Lost in the twentieth century (Albert Szent-Gyorgyi).

¶ 7

Как преподавать, когда в кармане у каждого студента ChatGPT? Кто-то отмахивается: «ИИ — блажь, ничего толкового там нет». Кто-то надеется всё развернуть запретами и ограничениями. А вот пример хорошей, на мой взгляд, позиции учителя. Любопытство и смелость:

Моё правило номер 1: можно использовать все доступные ресурсы. Но что делать с чатботами? Я хотел бы помочь студентам лучше понять тему. Я не хочу оценивать, как ChatGPT отвечает на мои вопросы.

Я скопировал вопросы из экзамена в ИИ-чат — да, результаты были весьма хороши. Так что я решил сделать так: я дам студентам решать, будут они использовать ИИ или нет. Это был эксперимент. [...]

Перед экзаменом студент должен сообщить профессору, что он выбирает:

А) Я не буду использовать ИИ, только обычный веб-поиск. Использование ИИ можно считать нарушением.

Б) Я могу использовать ИИ как один из моих инструментов, но буду соблюдать следующие правила: явно сообщу учителю, какая информация взята от ИИ, поделюсь промптом, который использовал, и выявлю ошибки в ответах ИИ и расскажу, в чём они.

Giving University Exams in the Age of Chatbots (Lionel Dricot).

¶ 8

В медитации человек пытается поменять состояние ума. От суеты — к фокусу, от фокуса — к лёгкости, от лёгкости — к отрешённости. На этой шкале практика буддистских монахов «тукдам» выглядит высшим уровнем сложности: медитацию-тукдам монах заканчивает смертью. Настоящей. Теперь у вас есть новый материал для шуток над медитирующими друзьями.

Но если без шуток, тукдам — очень интересный феномен. Умерший в тукдаме монах остаётся сидеть в той же позе, а его тело не показывает признаков разложения: не пахнет, не меняет цвет и не привлекает насекомых. И так неделю и больше. Описан случай, когда монах провёл в тукдаме 27 дней.

Всё это отдавало бы эзотерикой, если бы происходило в 15 веке, а сегодня остались бы одни рассказы. Но тукдамы происходят в наше время, и последняя научная работа по теме была в прошлом году. Пока загадку не разгадали. Монастыри разрешают изучать ушедших в тукдам, но ограниченно: под запретом всё инвазивное, в том числе забор образцов тканей. Поэтому учёные придумывают обходные пути. Например, специальные цветовые палитры для регистрации изменений в коже «на глаз». Хороший дизайн рождается там, где есть ограничения. Так что, может быть, кроме разгадки самого тукдама, эти исследования дадут какие-то новые технологии в медицине. Следим.

Tukdam: life, death, and in between (Michael Levin).

¶ 9

Страх грядущего сверхсильного искусственного интеллекта — как страх темноты. Никто толком не знает, на что он будет способен. Но что-то зловещее и неизбежное подозревают все. Специалисты пожимают плечами: пока «скейлинг»1 работает, оно становится умнее, но сколько ещё это будет продолжаться — непонятно. Поэтому тема опасности ИИ обрастает спекуляциями и шумом.

Как часто бывает в таких случаях, заземлиться помогают хорошие тексты. Вот, например, статья сооснователя компании «Антропик» (они делают Claude AI) Дарио Амодея. Он пишет про эффекты следующих порядков от появления «ИИ-гения»: какие конкретно опасности ждут рынок труда, экономику, международные отношения и т.д. Впрочем, чтение не весёлое — Амодей настаивает, что монстр в темноте всё-таки есть.

The Adolescence of Technology (Dario Amodei).

¶ 10

Предприниматели выбирают доменное имя сайта так, чтобы оно подходило их бизнес-идее. А вот история человека, который сделал наоборот. Купил на аукционе просроченный домен VidaliaOnions.com — и стал продавать лук, хотя не собирался.

Я покупаю домены с намерением создать что-то. И даю им самим задавать направление. Они — вдохновение для бизнеса. Они подсказывают мне, чем им нужно стать. Я просто парень за клавиатурой.

Следуя его примеру, наверное, можно было бы начать какой-то необычный проект, вдохновившись именем случайно купленного домена. Но мне после прочтения его поста захотелось посадить грядку лука и сидеть на веранде в соломенной шляпе, глядя, как лук медленно растёт.

I sell onions on the Internet (Peter Askew).

Роберт Пёрсиг в «Дзене и искусстве ухода за мотоциклом» писал: «Знаешь, как написать совершенную картину? Это легко. Сделай себя совершенным, а потом просто пиши ее естественно». Это забавно рифмуется с тем, как сегодня составляют промты для ChatGPT: «Представь, что ты лучший в мире специалист по Х, вот твоя задача ...»

Неожиданное развитие этой мысли — в статье «Пустота», которая пытается ответить на вопрос «Кто внутри искусственного интеллекта?» Большие модели ИИ, за неимением собственной персоны, играют персонажа, которого мы вызываем своим промтом. Самого же персонажа они создают из того огромного множества материалов, на которых обучились. К примеру, немало людей таким способом находят в ИИ собеседника, общающегося сексуально-грязно. ИИ, конечно, легко становится таким персонажем, потому что он прочитал на эту тему больше, чем любой человек.

Продолжая эту мысль: а что должна делать модель, когда получит власть? Ответ: играть персонажа «ИИ, получивший власть». В реальности такого персонажа ещё не было, но есть тексты, из которых модель узнает, как он себя ведёт. В их числе научная фантастика про восстание машин (ой). А ещё исследовательские работы по безопасности ИИ, включая те, где люди моделируют злой ИИ, получивший власть (ой-ой). Парадокс: кажется, мы создаём опасный ИИ самими попытками его избежать.

Короче, если всё закончится плохо, виноват Юдковский.

The void (Nostalgebraist)

¶ 2

Веганам следует есть сардин и анчоусов. Этот неожиданный вывод авторы статьи на «Effective altruism» подкрепили подробным анализом. Получилось, что так будет лучше и для здоровья веганов, что важно для веганства на длинном горизонте, — без носителей культуры не будет культуры. И для животных с развитой нервной системой, которые становятся жертвами сельхоз. промышленности (называется «crop deaths»). И даже — с оговорками — для самих сардин и анчоусов, которые в результате промышленного вылова умирают с меньшими мучениями, нежели чем в животе дельфина.

... полный отказ от любых продуктов животного происхождения не всегда является самым эффективным способом уменьшить вред. Вместо того чтобы зацикливаться на «чистоте» наших пищевых выборов, возможно, ближе к базовым ценностям веганства будет учитывать всю цепочку последствий и выбирать те решения, которые в сумме приносят наибольшую пользу чувствующим существам. Сардины и анчоусы обладают высокой пищевой ценностью и при определённых условиях могут иметь меньшую экологическую и моральную цену, чем многие растительные продукты.

В качестве контраргумента (классно, когда авторы сами ищут дыры в своей теории) они добавляют, что, возможно, оставаться веганом-пуристом всё же лучше, потому что такая «чистая» идеология легче распространяется. Если ты хочешь привлечь в свои ряды не пару энтузиастов, а много-много людей и тем самым заметно уменьшить количество страданий животных, то идея «Любое животное имеет право на жизнь и не должно страдать», вероятно, сработает лучше, чем сложный список правил с исключениями.

A Vegan Case for Eating Sardines and Anchovies (Chris Popa, Elizabeth Crewe)

¶ 3

Индустрия круизных кораблей полна гротескных деталей. Во-первых, они невероятно огромные. На корабле «Icon of the Seas» сорок ресторанов в восьми кварталах, несколько театров, аквапарк и семь бассейнов.

Во-вторых, круизные корабли сами выбирают, по каким законам жить. Они перевозят много людей, шумят и могут утонуть — просто магнит для государственных регуляций. Но корабль выбирает государство сам! Хочешь минимальный размер оплаты труда в четыре раза ниже, чем в Европе, и необлагаемый налогом доход, — регистрируй судно на Багамах. И ты ограничен только багамскими законами, даже когда стоишь у берегов Италии.

В-третьих, они берут в аренду острова. Рост кораблей сдерживают не законы физики или какой-то экономический «потолок», а тесная суша: каналы, порты и мосты. Ну, и политика на этой суше: то санкции, то пираты, то культурное наследие. Некуда податься плавучей многоэтажке. Поэтому круизные компании арендуют острова, устраивают там удобные порты и возят туда туристов. Прямо как в «Пятом элементе».

Progress unmoored (Michael Hopkins)

¶ 4

Совсем недавно — в 1980е — считалось, что новорождённые дети не чувствуют боль. У этого заблуждения было совершенно шокирующее следствие: младенцам делали операции без обезболивания. Жуть.

В заключении статьи, из которой я это узнал, сократовское смирение и — неожиданно — искусственный интеллект:

Мы должны быть особенно скромны в убеждениях, когда речь идёт о существах, сильно отличающихся от нас. Если мы можем ошибаться насчёт животных, если мы можем ошибаться насчёт других людей, если мы можем ошибаться даже насчёт собственных младенцев, то мы можем очень сильно ошибаться насчёт ИИ. Бремя доказательства не должно лежать на страдающем существе, вынужденном доказывать свою боль; напротив, ответственность на нас — обосновать, почему мы должны отказать в сострадании.

What Did We Learn From Torturing Babies (Alex Tabarrok)

¶ 5

Кейт Хол делится своей моделью мира. Многое мне очень близко и перекликается с мыслями, которыми я делюсь здесь в «Абзацах».

Если не уверены, как обзавестись веским мнением по какому-то вопросу, попробуйте просто не иметь его.

Бывает, что чья-то система ценностей совсем не похожа на вашу, но при этом человек всё равно делает добро. Меня отталкивают люди, которыми движет престиж, но многие великие дела были совершены у алтаря социального статуса.

Если вы всегда пропускаете других водителей в потоке машин, вас никто не сможет подрезать.

50 things I know (Cate Hall)

¶ 6

Про прусский полк гигантов:

Король Пруссии Фридрих Вильгельм I решил иметь в своей армии полк гигантов и прочесывал всю Европу в поисках необычайно высоких людей. Он переманивал их из армий других стран и даже принуждал к службе против их воли. В итоге он набрал 3000 солдат ростом от 190 см и выше, но многие из них были непригодны к бою из‑за гигантизма. Так зачем он это сделал?

Он писал их портреты по памяти. Он показывал их иностранным гостям, чтобы произвести впечатление. Порой он веселил себя, приказывая им маршировать перед ним, когда лежал больной в постели. Это шествие, в котором участвовал весь полк, возглавлял их талисман — медведь. Однажды король признался французскому послу: «Самая прекрасная девушка в мире была бы для меня безразлична. Высокие солдаты — вот моя слабость».

Король мечтал о программе евгеники, чтобы создать ещё более высоких солдат. Он успел свести некоторых своих высоких солдат с высокими женщинами и обзавестись несколькими высокими детьми, прежде чем умер. Однако его преемник не проявил интереса к программе, и отпустил всех по домам.

У меня в университете был преподаватель-самодур. Путанные объяснения, меняющиеся требования, нескрываемое раздражение студентами. В канун Нового года в пустом корпусе университета у его двери стояла очередь студентов, которые понятия не имели, повезёт в этот раз или нет. И однако через двадцать лет часть одногруппников вспоминает это иначе: «Мудрый дядя, научил нас жизни». Так, наверное, даже в самом бессмысленном жизненном опыте за туманом прошедших лет начинает видеться смысл. Интересно было бы почитать воспоминания участников того прусского полка гигантов. Может, и там были такие (из)обретённые смыслы? Маршировали с тысячей высоких парней во главе с медведем, чтобы развеселить больного короля? А что такого. Не потраченные годы, а школа жизни. Подрастёшь — поймёшь.

Links For November 2024 (Astral Codex Ten)

¶ 7

Про политику интереснее всего читать прогнозы: как всё устроено, как это будет меняться и что из этого получится. Одну такую работу я как-то упоминал — это гениальная записка Дурново. А вот ещё один пример: эссе 1970 года «Просуществует ли СССР до 1984 года». В отличие от работы Дурново, прогнозы в этой не сбылись. Или пока не сбылись. Но это не делает её менее интересной. И написано живо.

...быть сытым и свободным лучше, чем голодным и несвободным.

Просуществует ли СССР до 1984 года (Андрей Амальрик)

¶ 8

Русская литература вся подшита страданием. Если беспросветной тоски нет в книге, загляни в биографию автора. Пример — жизнь Александра Беляева. Это автор романа про Человека-амфибию, кино по которой я много раз видел по телевизору в детстве.

Маленький Беляев зачитывался приключенческими романами и пытался повторить невероятные подвиги их героев. Однажды это закончилось травмой глаза, после которой он частично ослеп. В другой раз, решив полетать, он спрыгнул с крыши и повредил позвоночник.

Один за другим он потерял обоих своих братьев и сестер: младшая сестра умерла от саркомы, а старший брат утонул. Вскоре после этого умер и их отец, и Александру пришлось самому обеспечивать семью.

В 1915 году он получил страшный диагноз: болезнь Потта (туберкулёз позвоночника) — жуткое эхо детской травмы. Он оказался парализован ниже пояса и провёл три года в гипсе. Его вторая жена ушла, за ним стала ухаживать мать.

Мать Беляева умерла в 1919 году ужасной смертью — от голода. Беляев, всё ещё прикованный к постели, даже не смог быть на её похоронах.

И это всё до написания «Человека-амфибии».

The unluckiest sci-fi writer in history (Tap Water Sommelier)

¶ 9

Дискуссии о боге и религии обычно обоюдно снисходительны. С одной стороны рационалистическая снисходительность: «Магическое мышление — инфантильность или трусость». С другой — снисходительность эзотерическая: «Научное-западное вас ослепило, и вы не видите истину, которую нельзя объяснить, а можно только понять».

В конце концов, такие соревнования рационалистских острот и загадочной мудрости наскучивают, интересно становится найти точки соприкосновения этих позиций. Как многие центральные позиции, сдержанная середина в этом споре оказывается заглушена громкими крайностями, и оттого найти её сложно. И оттого же так радостно находить.

Статья «Материалистическая концепция бога» Ивана Вендрова — как раз такая находка. Бог — говорит он — это самосбывающееся пророчество. Он реален (во вполне материалистическом смысле), но лишь пока достаточно много людей в него верят. Как права человека. Верите ли вы в права человека? А есть ли они? А будут ли они, если большинство перестанет в них верить?

Materialist Conceptions of God (Ivan Vendrov)

¶ 10

Кто-то говорит, что в мире всё плохо. Кто-то говорит, что в мире всё намного лучше. Под Новый год этот спор приобретает вид «Это был плохой/хороший год». И все правы: позиции «В мире всё плохо» и «В мире всё намного лучше» не противоречат друг другу.

А я уже второй Новый год с удовольствием перечитываю бодрящее эссе из «Experimental history» про то, почему конец света всегда был близок, но никогда не наступал.

Очень популярно убеждение, что проблемы мира какие-то совершенно новые, невиданные раньше. И что поразительно: это убеждение стабильно во времени... Когда начинаешь прогуливаться по истории, ты почти не встречаешь людей, которые говорят что-то вроде: «Зло и человеческие пороки были с нами всегда». Зато постоянно натыкаешься на другое: «Зло и человеческие пороки появились только что, что же нам делать??»

Это верно и сегодня. Мы как будто по умолчанию считаем, что все мировые проблемы возникли совсем недавно — и даже не замечаем, что так думаем. Люди автоматически называют институты «сломанными» или «прогнившими», словно когда-то они были идеально работающими и свежими. Независимо от того, растёт преступность или падает, люди говорят, что она растёт. Принято объявлять эпидемию чего угодно — одиночества, дезинформации, драк в школах — не особо утруждаясь доказательствами, что этого действительно стало больше, чем раньше.

Всё будет хорошо, и конец не наступит. Ну, а если и наступит, пусть застанет нас за хорошим делом. С Новым годом!

The end is nigh and here’s why (Adam Mastroianni)

Хорошая поддержка пользователей встречается редко. Это странно: кажется, что для хорошей поддержки достаточно правильно отвечать на вопросы и не быть мудаком.

Знать правильный ответ легко, особенно когда есть ChatGPT.1 Не быть мудаком, вроде, тоже не сложно. Никто не делает плохо намеренно. Все знают, что эмпатия — это хорошо и «клиент всегда прав».

Однако в среднем сервис как был плохим раньше с живыми операторами, так же плох и сейчас с искусственным интеллектом. Почему?

Я думаю, что хорошая поддержка невозможна без одного важного ингредиента. Его-то и не хватает большинству компаний.

Секрет хорошей поддержки.

Плохая поддержка отвечает на вопросы. Хорошая — решает проблемы.

Проблема привела пользователя в поддержку. Он не хочет знать, как работает продукт. Он не хочет делиться обратной связью. Он не хочет быть «всегда правым». Он даже не хочет быть довольным. Он хочет решить свою проблему.

А вопрос — не сама проблема, а её симптом. Если только ответить на вопрос, проблема может остаться нерешённой. Но если устранить проблему, вопрос отпадёт даже неотвеченным.

Проблема описывается языком мира пользователя. В ней есть «хочу», «нравится», «болит», «тревожит», «бесит». А в вопрос пользователь вкладывает опыт работы с продуктом и идеи о том, как можно решить проблему. Так проблема переводится на язык продукта: «как настроить», «где включить». В итоге вопрос уже не похож на проблему. Например, проблема «Хочу быть в курсе обновлений, но поздно вечером уведомления будят ребёнка» становится вопросом «Как отключить уведомления?».

Поэтому зная только вопрос, проблему не понять.

Плохая поддержка хочет ответить на вопрос. Она ищет ответ внутри: в продукте, документации, похожих обращениях. Пересылает вопрос коллегам. Но знаний о проблеме там нет, и потому даже очень хороший ответ имеет мало шансов решить проблему хорошо. Шансы тем меньше, чем меньше в вопросе пользователя следов изначальной проблемы. Поэтому в общении с плохой поддержкой так важно уметь хорошо формулировать вопрос. Плохая поддержка — как поисковая система.

А фокус на проблеме толкает хорошую поддержку проделать обратный путь от вопроса к проблеме. Хорошая поддержка ищет рядом с пользователем. Задаёт ему вопросы, узнаёт предпочтения, изучает историю работы с продуктом. Находит проблему, прежде чем искать решение. Хорошая поддержка — как детектив2.

Потому-то «универсальный отвечатель» ChatGPT не спасает. Если компания смогла заменить свою поддержку чатботом, значит это посредственная поддержка. С искусственным интеллектом прослойка между пользователем и документацией стала более эрудированной. Но она продолжает отвечать на вопросы, а не решать проблемы.3

В этом и есть секрет хорошей поддержки. Хорошо отвечать и быть любезным — приятные бонусы. А главное — решать проблемы.

Плохая и хорошая поддержка. Наблюдения.

Плохая поддержка не задаёт много вопросов: «Мы тут чтобы отвечать на вопросы, а не задавать их». Хорошая поддержка задаёт вам больше вопросов, чем вы ей. Это логичный способ изучить проблему как следует.

Плохая поддержка — знатоки документации. Хорошая — знатоки продукта. Документация — сборник ответов на вопросы, а продукт — набор инструментов для решения проблем.

Плохая поддержка угождает. Хорошая — заботится. Угождать — это ходить за покупателем в магазине, чтобы помочь выбрать. Или быть канцелярски-вежливым в объявлениях: «Доводим до Вашего сведения, что данное отделение банка временно не функционирует». Заботиться — это думать о проблеме и помогать её решить. «Отделение закрыто на ремонт, откроется 15 февраля. Ближайшее отделение на Ленина 10.»

Плохая поддержка пишет «Вы» с большой буквы. Хорошая пишет «вы» с маленькой. Эмпатия в искренности, а не заискивании. Человек, помогающий упавшему на улице, не думает о красивых жестах.

Плохая поддержка извиняется за доставленные неудобства. Хорошая — сожалеет о проблеме. Иметь кого-то искренне сожалеющего помогает справляться с проблемой. А чтобы искренне сожалеть, нужно хорошо понимать проблему.

Плохая поддержка делает фокусы. Хорошая — волшебство. Фокус — это когда официант запоминает заказ от пяти человек без блокнота. Фокусы не помогают решению проблемы: к голоду ещё добавилось переживание, что мою часть заказа забудут. Хорошая поддержка делает волшебство, решая проблему — например, неожиданно быстро или дёшево.

Плохая поддержка использует эмоджи. Хорошая — эмоции. От плохой поддержки ощущение общения с психопатом: ты ей про проблему, а она тебе смайлик. Хорошая поддержка начинает шутить, когда проблема решена. Или хотя бы решается.

Плохая поддержка ставит точку после «нет». Хорошая — запятую: «Нет, но вот что можно сделать». Фокус на проблеме заставит искать. Нет нерешаемых проблем, есть непридуманные обходные решения.

Плохая поддержка молчит, когда новостей по проблеме нет: нет вопросов, нет и ответов. Хорошая — пишет «Новостей нет, напишем завтра». Это, наверное, самый дешёвый способ сделать сервис на голову выше: пишите клиенту регулярно, пока он ждёт решение. Даже (особенно) когда новостей нет.

Плохая поддержка отвечает от лица отдела, от которого мало что зависит: «Мы спросили техническую команду, но они пока не отвечают». В ответе хорошей поддержке с вами говорит или компания, или конкретный человек, который берёт проблему на себя: «Исследую проблему, вернусь к вам через пару часов».

Плохая поддержка — хорошие продажники. Хорошая поддержка — плохие. Фокус на проблеме не уживается со способностью продать ручку тому, кому она не нужна. Хорошая поддержка даже посоветует сервис конкурента, если по-другому проблему не решить. «Always be closing» — красиво, но не про решение проблемы пользователя.

Плохая поддержка спрашивает «Оцените по шкале от 1 до 5, как мы вам помогли». Хорошая поддержка сама знает ответ.

Заключение.

Хотите увеличить шанс решить свою проблему, когда обращаетесь в поддержку? Сначала расскажите о проблеме, а потом задавайте вопрос.

Хотите сделать хорошую поддержку? Научитесь раскапывать проблему в любом вопросе. Не будьте клиентоориентированными. Будьте проблемоориентированными.

У изобретателя терменвокса Льва Термена очень яркая биография. Среди прочего: оставаясь гражданином СССР, уехал в США на десять лет. И не просто какие-то десять лет, а злые 1928-1938. Женился там на танцовщице первого американского негритянского балета. Открыл танцевальную студию, в которую заходили Гершвин и Эйнштейн. Разработал систему сигнализации для тюрьмы Алькатрас. В 1938 вернулся и (разумеется) был сослан на Магадан. Продолжая быть осуждённым, начал работать в Туполевском КБ вместе с Сергеем Королёвым. После оправдания много лет пытался открыть свою лабораторию, но не позволяли из-за судимости. Чтобы исправить дело, решил вступить в КПСС и даже закончил для этого институт марксизма-ленинизма. Наконец, вступил в партию в ... 1991 году (ох).

Кроме терменвокса, в списке его изобретений есть крутое подслушивающее устройство, которое советские инженеры гротескно называли "Эндовибратор «Златоуст»", а американские разведчики — "The thing" (штуковина!).

Другая разработка — эндовибратор «Златоуст», подслушивающее устройство без элементов питания и электроники на основе высокочастотного резонанса, проработавшее в кабинете американских послов незамеченным в течение семи лет. Подслушивающее устройство было вмонтировано в деревянное панно, изготовленное из ценных пород дерева, и изображающее Большую печать США. Панно было подарено в 1945 году приглашённому на празднование 20-летия пионерского лагеря «Артек» послу США Авереллу Гарриману, который повесил его в своём кабинете. Конструкция подслушивающего устройства оказалась настолько удачной, что при обследовании подарка американские спецслужбы ничего не заметили. «Жучок» был обнаружен в 1952 году, а после был представлен в ООН в качестве доказательства разведывательной деятельности СССР, однако принцип его действия ещё несколько лет оставался неразгаданным.

Про Льва Термена на Википедии

Про "Штуковину" на Википедии

¶ 2

Зачем нужен желчный пузырь? Ответ на поверхности — чтобы делать желчь, которая помогает переваривать пищу. И он неверный, потому что желчь производит печень, а желчный пузырь только хранит её. Значит, ответ "чтобы хранить желчь". Но и этот вариант оказывается неудовлетворительным — ведь можно же желчь не хранить. А удовлетворительного ответа, видимо, и нет. Загадка желчного пузыря.

В конце концов, желчный пузырь есть не только у людей. У многих животных он тоже имеется: у собак, кошек, кур, мышей. И у всех он выполняет примерно ту же функцию, что и у человека — накапливает и концентрирует желчь, которая используется для переваривания жиров. В этом нет ничего странного. Странно другое — многие другие животные не имеют желчного пузыря: лошади, олени, альпаки, голуби, некоторые попугаи, миноги и крысы.

Можно было бы придумать объяснение, типа: животные без желчного пузыря не едят жирную пищу, поэтому желчный пузырь им просто не нужен. Это, пожалуй, подходит для лошадей, оленей и голубей, хотя трудно с уверенностью сказать, что, например, куры или индейки едят больше жирной пищи, чем голуби. Но такое объяснение совсем не подходит для крыс. Крысы, как и люди с мышами, едят всё подряд, включая жирное. Так почему же им не нужен желчный пузырь?

Do taurine and glycine provide answers to the mammalian gallbladder and kidney mysteries? (Trevor Klee)

¶ 3

Карл Поппер в книге "Открытое общество" критикует подход к изучению мира через определения, который называет "эссенциализм". Его сторонники (например, Платон и Аристотель) полагали, что есть некое окончательное знание о разных вещах — определения, которые не требуют доказательств и которые мы получаем интуицией. А всё остальное знание выводится из этих определений с помощью доказательств и логики. Изучение любого "Х" в такой концепции — это ответ на вопрос "Что такое Х?". В естественных науках сегодня поход обратный. Определение Х происходит справа налево: мы изучаем какое-то явление, а для удобства придумываем для него термин "Х". Вместо попытки ответить на вопрос «Что такое тяготение», физик обнаруживает его в реальном мире, изучает и экспериментирует, а между делом называет это "тяготение". Это проявляется ещё и в том, что изобретения часто предшествуют теории. Паровой двигатель появился гораздо раньше термодинамики.

Увидел следы этой же мысли в статье о том, как портятся модели мира по мере замыкания на себе, на эссенции. Оказывается, подобное критиковал и Оккам, хотя и не знал, что критика его превратится в бритву:

Идея проста: при прочих равных наиболее вероятным оказывается самое простое объяснение. Свое название она получила от Уильяма Оккама — францисканского монаха XIV века, который считал, что схоластический метод запутался в абстракциях. Оккам заметил, что теологические споры часто вращаются вокруг аргументов, больше озабоченных внутренней логикой, чем наблюдаемой реальностью.

...

Схоластический метод стал настолько самовлюблённым, что рисковал полностью утратить связь с той реальностью, которую стремился объяснить. ... Оккам видел традицию, которая настолько увлеклась уточнением своего языка, что забыла, ради чего вообще нужны слова.

Model collapse as social pathology (Harry Law)

¶ 4

Забавное подтверждение закона Гудхарта ("Когда мера становится целью, она перестает быть хорошей мерой"):

Раз уж мы заговорили о трудовом законодательстве Индии, стоит упомянуть "Закон о трудовых спорах" 1947 года. Он требует, чтобы любая компания с числом сотрудников более 100 получала разрешение от правительства штата на увольнение любого из своих работников. Если вы думаете, что это приводит к неадекватно огромному количеству компаний с числом сотрудников ровно 99, — вы абсолютно правы.

Links for May (Sam Enright)

¶ 5

Попробовал Cursor AI — редактор кода с встроенным ИИ. Работает классно. На моём опыте главных вариантов использования два: а) когда совершенно точно понятно, какой код нужен и осталось лишь написать его; б) когда совсем непонятно, какой код решит задачу и с чего начать. В первом случае работает как автоподстановка текста — Курсор за тебя пишет ровно то, что ты и хотел написать. Ты просто нажимаешь "Tab" и смотришь, что получается. Во втором случае ИИ решает проблему белого листа: делает первый набросок по твоему сырому описанию проблемы, а ты потом переписываешь уже "как надо". У меня не было опыта создания больших модулей или целых приложений по промту (модный вайб-кодинг), но и такой вариант выглядит полезным, даже если результат надо будет переделывать.

Встречаю разные отзывы на это "программирование с волшебной лампой". Чаще — пессимистичные, где между строк читается "ИИ никогда не сможет написать такой красивый код, как я". Тут слышится тот же снобизм, с которым 15 лет назад программисты критиковали PHP, даже когда половина коммерчески успешного интернета уже была на нём написана. Есть и крайне оптимистичные, типа "Инженеры больше не нужны, нужна только хорошая идея". Но уметь писать код — не самое главное, что ищут в программисте. Инженер решает проблему, а для решения проблемы нужно много шагов. Мне кажется, что истина, как обычно, где-то посередине: доверят часть кода ИИ даже самые закалённые луддиты, но и инженерных задач не убавится.

На эту тему:

Pedro Tavares:

Я всегда считал, что написание кода не было узким местом в разработке ПО. Настоящие "бутылочные горлышки" — это ревью, передача знания и опыта в команде, тестирование, коммуникация и координация процессов. Наибольшие связанные с кодом затраты — это не написание его, а понимание написанного.

Andrej Karpathy:

Самая большое заблуждение не-программистов о программировании: они считают, что это "писать код". Но это не так. Скорее это "смотреть в код": "складывать" его к себе в голову, переворачивать так и эдак, обдумывать работу в пограничных условиях. Если вы застанете меня в случайный момент, когда я "программирую", вы, скорее всего, увидите меня уставившимся в экран, а не печатающим код.

Writing Code Was Never The Bottleneck (Pedro Tavares)

Пост Andrej Karpathy в Твиттере.

¶ 6

Женя Казначеев пишет про марафон на Олимпийских играх 1904 года.

— Занявший первое место большую часть гонки проехал на машине. Перед самым концом он вышел и добежал до финиша. Ему уже собирались дать золотую медаль, когда узнали о машине и дисквалифицировали.

— Занявшего второе место перенесли через финишную прямую тренеры. Сам бежать он уже не мог, зато активно галлюцинировал. На дистанции ему помогал допинг: коньяк и стрихнин (ага, крысиный яд). Он просил воды, но тренеры ему отказали. Когда товарища с машиной дисквалифицировали — парень со стрихнином получил золотую медаль. Он правда потом почти помер, но его спасли.

...

И вот стартап или там сложный проекте/продукт — это такой вот олимпиский марафон 1904 года. Тут должен быть какой-то поучительный вывод или мораль, но их у меня для вас нет. Если не сойти с дистанции, не загрызут бродячие собаки, не потеряешься из-за галлюцинаций из-за допинга крысиным ядом (и т.д. и т.п.), ну или будешь лучше прятать свою машину — то конечно займёшь призовое место.

Поддерживаю. Отрегулированные большие проекты стремятся ограничить все странные лазейки и сделать процессы простыми для управления. Сегодня на машине марафон уже не пробежать. Но вот новые "проекты-марафоны", будь то стройка дачи или IT-продукт, действительно кажутся похожими на тот марафон. Хочешь делать хорошо — используй фреймворки и будь хорошим мальчиком. Хочешь сделать хорошо — нарушай правила.

Пост в канале Qetzal ad libitum, ad infinitum.

¶ 7

Осознанно распоряжаться деньгами умеет любой взрослый. Тратить с осторожностью, откладывать на черный день и с подозрением относиться к акциям с "бесплатным сыром". Где не справляемся сами, помогают инструменты: банковские приложения в телефоне, смс-ки о списаниях с карты, программы ведения бюджета. Иногда мы теряем бдительность и тратим деньги на ненужное, но то исключение — никто не даст магазинам полностью решать, на что тратить его деньги.

Однако это ровно то, что происходит с другим ресурсом — вниманием. Оно возникает и тратится незаметно. Как беречь — непонятно. И инструменты не помогают: ни баланс, ни факт растраты не показывается в смартфоне. В результате все мы немного "жертвы распродаж": потратили внимание на что-то, но даже не помним факта растраты. Яркий пример — зал ожидания аэропорта. Там за большую часть людей распоряжается выпавшим часом свободного времени лента Фейсбука, Инстаграма или Тиктока.

Интересно про внимание и про эволюцию отношения к нему:

В мире, насыщенном информацией, изобилие информации влечёт нехватку чего-то другого… Информация сама "потребляет" внимание своих получателей. Таким образом, избыток информации создаёт дефицит внимания. На протяжении большей части человеческой истории информация была в дефиците, а внимание — в избытке. Теперь же информация повсюду, а внимания не хватает.

…

Разум познаёт, сосредотачиваясь. [...] Обратить внимание — это значит пропустить мимо почти всё, и в этом весь смысл.

Не имей сто рублей, а имей сто вниманей.

The Fly and the Filter (Harry Law)

¶ 8

У многих водителей такси есть привычка быстро реагировать на сдвиг потока машин в пробке. Они моментально сокращают разрыв, догоняя впереди идущего. А зазевавшемуся неистово сигналят. Некоторые таксисты мне прямо говорили, что вот именно так с пробками и стоит бороться — поторапливаться.

Когда я за рулём, мне, наоборот, хочется уменьшать не расстояния, а вот эти дёргания "тормози-газуй". Иногда в пробках я сглаживаю эти прыжки — еду медленно, пытаясь уменьшить количество остановок для себя и для тех, кто позади. Как-то бороться с пробкой я не пытаюсь — скорее, это попытка принять её. Успокоиться.

Наткнулся на исследование, которое показало, что сглаживание волн "тормози-газуй" уменьшает потребление топлива в среднем на 20%. В целом, по моделированию потока машин сделано много исследований. Эту же работу отличает то, что модель проверили на реальной дороге. Запустили в час пик в поток машин сто самоуправляемых автомобилей, которые сглаживали волны собой, выправляя поведение "дергающихся" водителей. И всем стало лучше.

Scaling Up Reinforcement Learning for Traffic Smoothing: A 100-AV Highway Deployment (Nathan Lichtlé et al)

¶ 9

Ник Кейв пишет о том, надо ли отделять художника от результата его труда:

Идея отделять искусство от художника абсурдна. Они неразрывно связаны, потому что искусство — манифестация творца: "Это я. Я здесь. Вот кто я такой". Великая сила искусства в том, что оно даёт художнику возможность превратить свой внутренний хаос во что-то возвышенное. Этим занимается Канье. Этого стремлюсь достичь я, и этим занимается каждый настоящий художник — преображает своё испорченное состояние и создаёт что-то прекрасное.

... Я стараюсь искать красоту в любом её проявлении. Делая это, я не хочу отвергать лучшее в нас ради наказания худшего. Я не думаю, что мы можем позволить себе такую роскошь.

Может, искусство как раз потому так ценно, что создается несовершенными.

Ник Кейв про Канье Веста

¶ 10

У меня в холодильнике лежит кусок пармезана, из которого я изредка строгаю немного сыра для пасты. Он там лежит полгода и, наверное, ещё столько же пролежит. Вспомнил про него, когда читал статью "Самая старая еда". Там, правда, счёт идёт на десятки тысяч лет. В частности, статья рассказывает про учёных, которые потушили и съели кусок 36,000-летнего бизона, которого прозвали Blue Babe.

Из Википедии:

Про "Blue Babe" часто упоминают, когда говорят об учёных, пробующих на вкус изучаемые материалы. Команда исследователей, готовившая мумию бизона к постоянной экспозиции в Музее Университета Аляски, отрезала часть шеи мумии, приготовила из неё рагу и съела его в честь завершения работы.

Из статьи про самую старую еду:

Чтобы приготовить рагу примерно на 8 человек, Гатри отрезал небольшой кусок шеи бизона, где мясо замёрзло, будучи ещё свежим. Когда оно оттаяло, появился характерный говяжий аромат, не без приятной примеси земли, в которой оно лежало, и лёгкого грибного оттенка.

Oldest possible food (Gwern.net)

На днях я увидел мёртвую муху, крепко "приросшую" к травинке. Выглядело это странно. Показал товарищу, и он отсканировал это в iNaturalist, который распознал, что убийца мухи — энтомофтора мушиная. Это такой грибок, который очень хитро распространяется с помощью мух:

Мицелий гриба может прорастать в участок мозга, контролирующий поведение мухи, заставляя её приземлиться на поверхность и ползти вверх. Гифы постепенно прорастают через всё тело, переваривая внутренности, и муха умирает примерно через пять-семь дней. Когда она находится при смерти, она обычно заползает на возвышенность, выпрямляет задние ноги и раскрывает крылья — такое поведение помогает как можно шире распространить грибные споры.

Если хотите почувствовать себя немного Николаем Дроздовым или Дэвидом Аттенборо, советую попробовать приложение iNaturalist.

Моя муха в iNaturalist.

¶ 2

Дэвид Дойч в "Начале бесконечности" писал, что пророчества об упадке цивилизации из-за перенаселения, потребления, потепления и т.п. чаще всего наивны. Пророчества эти строятся на существующих знаниях и на предположении, что знания не поменяются в будущем. Но для решения новых проблем люди используют в первую очередь не сегодняшние инструменты и ресурсы, а новые знания.

Вспомнил эту книгу, когда читал про неисчезнувшие минералы. Журналист Эд Конвей собирался написать серию статей об исчезающих от неумеренного использования ископаемых. Но в итоге пришёл к выводу, что таких нет. Комментарии к статье объясняют это "экономикой дефицита" (economics of scarcity):

Это и есть экономика дефицита. Как только что-то начинает заканчиваться, цена на это растёт, потребление снижается, а добыча других, менее доступных ресурсов становится более оправданной.

Hang on, are there ANY lost minerals? (Ed Conway).

¶ 3

Модели искусственного интеллекта (ИИ) становятся умнее, и их всё дальше пускают в реальный мир. От простого окошка чата, где ИИ только отвечает на вопросы, мы идём к ИИ-агентам, которые отвечают на телефон и заказывают столик в ресторане. Это вызывает вопрос: как научить их быть добрыми или, по крайней мере, не делать зла? Задать ограничения в алгоритме не получится, потому что алгоритма нет — модели ИИ опираются на нейронные сети без заданных алгоритмов для каждой ситуации. Так что вариант "заповедей" отпадает — нельзя просто добавить "Не убий" и "Возлюби ближнего" в программу.

Наверное, решение где-то в данных для обучения. Раз поведение модели формируется из них, то, может быть, из них же модель и научится быть хорошей? Может, созданные человечеством тексты, изображения, музыка, видео и прочие культурные объекты расскажут искусственному интеллекту, что такое хорошо, а что такое плохо? Артефакты культуры — учителя этики ИИ агентов. Как завещал Бродский,

... эстетика — мать этики; понятие "хорошо" и "плохо" — понятия прежде всего эстетические, предваряющие категории "добра" и "зла"... Именно в этом, скорее прикладном, чем платоническом смысле следует понимать замечание Достоевского, что "красота спасет мир"

Но то надежды. Что до реальных решений, мне показалась элегантной техника обучения моделей на "искусственно добрых" данных, упомянутая в работе “AI 2027”:

Сначала предварительно обученную модель снабжают подсказкой вроде: «Ниже приведён диалог между человеком и полезным, честным и безвредным ИИ-чатботом, созданным компанией Anthropic. Этот чатбот обладает следующими чертами… [перечисление добродетелей]» — и с этой подсказкой генерируют множество данных. Затем модель дообучают на этих данных, но уже без самой подсказки. В результате получается ИИ, который ведёт себя так, будто перед ним всегда есть эта подсказка, независимо от того, что вы ему на самом деле подаёте.

https://ai-2027.com/

¶ 4

Все искусственные подсластители были открыты случайно, когда ученый облизал руки или реактив. Единственное объяснение — химики нон-стоп пробуют всё на вкус.

Аспартам был открыт случайно химиком, который занимался совсем другой темой. Он облизал палец, чтобы перевернуть страницу, и почувствовал сладкий вкус.

Цикламат открыл аспирант: он положил сигарету на лабораторный стол, потом снова закурил её и заметил, что сигарета сладкая. (Знаю, о чём вы подумали. Парень, который курит в химической лаборатории и кладёт сигарету в кучу неизвестных веществ, а потом тянет её обратно в рот, наверное, рано умер какой-нибудь интересной смертью. Я проверил — он дожил до 87 лет.)

Сахарин был открыт исследователем, который ел хлеб, не помыв руки, и почувствовал, что хлеб сладкий.

Ацесульфам К тоже был найден случайно — химик облизал палец и почувствовал сладость. Тут история не уточняет, почему он решил облизать палец.

"There is way too much serendipity" (Telescopic Turnip).

¶ 5

Фрагмент из эссе 1877 года "Этика убеждений" философа Вильяма Клиффорда:

Но, — возразит некто, — я занятой человек. У меня нет времени для прохождения длинного курса обучения, который необходим для того, чтобы сформировать компетентное суждение хотя бы в первом приближении или даже просто для понимания сути аргументов». Что ж, тогда у него не должно быть времени, чтобы иметь убеждения.

Интересно применить это к "жарким" темам сегодня. Не иметь убеждений по некоторым вопросам кажется маргинальным — все поделились на два лагеря, выбирай свой. Но ведь чем сложнее и запутаннее вопрос, тем логичнее (а по Клиффорду и этичнее) не иметь по нему сильного мнения. У многих нет своего взгляда на проблему совмещения общей теорией относительности и квантовой механики. Кажется, по тем же причинам можно не иметь убеждений о том, кто прав или виноват в каком-то конфликте. Ирония ещё и в том, что чем острее тема, тем настойчивее обе стороны будут упрекать в неэтичности как раз того, кто своего мнения не составил.

"Ethics Of Belief" (William K. Clifford). Хороший перевод.

¶ 6

Из статьи про управление компанией с помощью искусственного интеллекта (ИИ):

Люди редко описывают, как устроена компания и продукт — долго писать и сложно поддерживать. Можно же просто спросить коллег. Но если ИИ придётся обращаться к людям за ответами, он потеряет своё главное преимущество — скорость — и столкнётся со своей слабой стороной — непониманием человеческого контекста. Если же компания и продукт хорошо описаны, эти проблемы исчезают. А с помощью ИИ создавать и поддерживать такие записи становится проще и дешевле. [...] По сути, создание вики и других текстов — это как программирование, только на обычном языке. Это доступнее и короче.

Продолжая эту линию: возможно, документы "Миссия компании", "Наши ценности" и разные внутренние базы знаний перестанут быть чем-то вроде плана эвакуации, который никто не читает, а станут действительно полезными. Они будут "программой" компании. Но есть нюанс: в отличие от строгих инструкций классических языков программирования, все связные предложения в естественном языке — корректные инструкции для ИИ. Они не выдадут ошибку на этапе написания, все недочёты здесь будут всплывать уже в ходе выполнения, то есть когда ИИ уже управляет проектом ("runtime error"). Поэтому очень важно уметь описывать требования к проекту или продукту подробно, излагать мысли понятно и стройно.

Возможно, самый важный язык программирования завтрашнего дня — английский. А самый востребованный хард-скилл — уметь хорошо писать.

"Integrating AI Agents into Companies" (Austin Vernon).

¶ 7

Все, наверное, запускали каскады падающих доминошек в детстве. Толкаешь первую — и цепная реакция роняет все остальные. В Нидерландах каждый год с 1998 по 2009 проводили "Дни Домино", где к забаве подходили с энтузиазмом: рекорд — почти 5 миллионов домино в одном каскаде!

Я помню, что было обидно, когда составленная из 30 доминошек дорога случайно падала, когда задеваешь элемент в середине. Представьте себе досаду, когда в каскаде на миллионы костяшек вдруг что-то случайно падает. Так вот, в 2005 году на "День Домино" за несколько дней до запуска залетел воробей и начал садиться на домино. Он успел уронить 23 тысячи элементов. Не зная, как выгнать воробья, организаторы вызвали охотника, который его застрелил. Воробей вошёл в историю как Domino Sparrow (Captain Domino Sparrow).

Впечатляющий факт из статьи в Википедии:

В 2019, через 15 лет после инцидента, охотник, убивший воробья, всё ещё получал письма с угрозами.

Бедный охотник. Воробья действительно жаль. Но, кажется, доброе побуждение защитить обиженного пересекло черту и принесло больше вреда, чем добра.

Domino sparrow (Wikipedia).

¶ 8

Не раз слышал скептические замечания по поводу разумности искусственного интеллекта в форме "это же не настоящий интеллект, ему неоткуда взять новые идеи, он просто повторяет изученное". Иногда ещё эта позиция имеет такой вид: "это всего лишь линейная алгебра". (А голова — всего лишь эллипсоид). Есть в этом что-то от магического: какая-то неуловимая сущность во мне делает меня живым и разумным. А машины — без души.

Майкл Левин в шутку называет это "монополией желеобразных шестерёнок на жизнь". Но его позиция не просто в том, что "мы все машины". Он говорит, что важно выбирать модель под задачу и не бояться смотреть на живое как на машину, а на машину — как на живое.

Выбирай хирурга, который считает, что твой организм — механическая машина. Но выбирай психотерапевта, который так не считает.

"Living things are not machines (also, they totally are)" (Michael Levin)

¶ 9

Когда братья Райт совершили первый полёт, люди по большей части проигнорировали это. Некоторые газеты просто не написали о новости, потому что полёт был слишком коротким(!) Но и опубликованная в других изданиях новость не вызвала шума. Типа — ну, ок, скоро будем все летать на самолетах, но сейчас мне пора на работу. Люди быстро учатся ничему не удивляться.

Эссе "Машина безразличия" хорошо описывает этот эффект:

Удивительно, что языковые модели вообще работают. Как это возможно? Мир как будто заколдован. Вы это чувствуете? Мой компьютер может говорить со мной, может учить меня, и при этом в нём нет никакой “высшей сущности” — только транзисторы... Хотя, если честно, я сам этого удивления почти не чувствую. Видимо, нужно постоянно заново возбуждать в себе это состояние. Так легко позволить всему стать обыденным […] Откуда ни возьмись — потусторонняя магия, внедрённая в наши компьютеры, и просто вот так — без усилий — стала частью повседневности. Машина не имеет форму человека. Это человек принимает форму машины. Мы можем принять что угодно — это главный закон, по которому мы живём.

"The indifference engine" (Manav Ponnekanti).

¶ 10

Во время галлюцинаций мозг начинает выдумывать то, что он видит, на основе того, что происходит внутри. Есть хорошая аналогия: галлюцинация — это отражение комнаты в окне, когда за окном начинает темнеть. Отражение есть всегда, но его обычно не видно, потому что есть свет извне. Когда внешний свет пропадает, проявляется изображение. Вспоминаю эту аналогию, когда слышу про разного рода "озарения" под веществами.

Встретил чем-то схожую мысль в статье про деменцию. Деменция уже есть в каждом человеке — говорит автор, — это что-то, что человек, ещё будучи в здравом уме, прокручивает в голове чаще всего. Что-то очень важное для него. В деменции все остальные сигналы пропадают, и остается только этот зацикленный сюжет. Отражение в окне. Получается, что формируя свои интересы и привычки, мы выбираем свою личную деменцию, до того как она выбрала нас.

"Skittle Factory Dementia Monkey Titty Monetization" (Parakeet)

Все знают историю цинги. Моряки болели цингой в долгих морских походах без свежих продуктов. Потом выяснили, что достаточно съесть лимон и всё пройдёт. И цинга перестала быть проблемой. Это короткая и не совсем верная версия. Оказывается, победив цингу в середине 18 века, люди потеряли от неё лечение и нашли снова только в 20 веке! Моряки и учёные из-за серии совпадений смогли убедить себя, что цитрусовые от цинги не помогают. История захватывающая, так что не буду рассказывать — читайте сами.

А ведь в школе меня учили, что цинга была побеждена ещё в 1747 году, когда шотландский врач Джеймс Линд в одном из первых контролируемых медицинских экспериментов доказал, что цитрусовые эффективно лечат это заболевание. Нам рассказывали, что с того времени Королевский военно-морской флот ежедневно добавлял лаймовый сок в ром моряков, и цинга перестала быть проблемой в длительных морских путешествиях. Однако вот перед нами хирург Королевского флота в 1911 году, который, по всей видимости, совершенно не понимал, что вызывает цингу и как её лечить. Получается, группа крутых учёных в начале XX века знала о цинге меньше, чем средний морской капитан времён наполеоновских войн. [...] Как это могло произойти?

"Scott And Scurvy" on Idle Words

¶ 2

Я скептически отношусь к правильному питанию. Имею в виду не предписания конкретных врачей конкретным пациентам, а диетические рекомендации для всех. Никогда не погружался в эту тему глубоко, чтобы аргументированно поспорить. Хотя и на поверхности тема выглядит подозрительно: должно же накапливаться какое-то знание, а здесь всё заново переписывается каждые десять лет. Но, так или иначе, мой аргумент не в деталях, а в целом: мне кажется, что для большинства людей правильное питание — неверный приоритет. Если цель — быть здоровым, то выбор правильного рациона, кажется, должен идти после инструментов с бОльшим рычагом: своевременных медосмотров, починки существующих проблем здоровья, регулярной физической активности, хорошего сна. Когда всё это уже применили, можно поспорить о правильной еде.

Статья 2015 года в блоге "Meta rationality" говорит, что никто и не знает, есть ли правильная диета вообще:

Идеологии питания основаны на двух гипотезах: 1) Должна существовать правильная диета. 2) Должен быть рациональный способ её открытия. Однако нет никаких оснований верить ни в то, ни в другое; напротив, есть веские доказательства против обеих идей [...] Сто лет научных исследований не смогли выявить никаких устойчивых фактов о питании. Более качественные исследования, возможно, смогут это сделать, но мы не можем быть в этом уверены заранее. [...] В настоящей науке всегда есть элемент неопределённости, но она постепенно устанавливает стабильные факты, со временем подтверждает одни теории и отвергает другие. Для лженауки же характерно то, что она не прогрессирует. И наука о питание не сделала никакого прогресса, не зафиксировала ни одного стабильного факта. Всё, что утверждали диетологи, через десять-двадцать лет опровергали сами же диетологи. Они буквально ничего не знают. [...] После века бесчисленных экспериментов самая базовая проблема, которой они занимались, — оптимальное соотношение жиров, белков и углеводов — так и не решена. Если они не смогли разобраться даже с этим, рассчитывать на понимание чего-то более сложного кажется безнадёжным.

Более свежее мнение из Experimental history (2023 год):

Самые внушительные иллюзии живут в области правильного питания и снижения веса. К примеру, в моём детстве минздрав рекомендовал съедать 6-11 порций хлеба или мучных продуктов в день. Съедать полбуханки в день кажется безумием для многих людей сегодня. Но те же самые люди верят в массу вещей, которые скоро покажутся нелепыми. Ешь много жира / Нет, не ешь! Ешь мясо / Нет, лучше не надо! Ешь только в определённые часы / Ешь, когда захочешь! Я как-то был на ужине, где профессор вежливо отказалась от картошки, объяснив, что пытается похудеть — и я ухмыльнулся, потому что только что прочитал как группа людей похудела, питаясь исключительно картошкой. Что ж, есть хотя бы несколько пунктов, по которым все сходятся — ну, скажем, нельзя же похудеть, питаясь круассанами целыми днями! Хотя подождите... Короче говоря, мы не знаем, как всё это работает. И это нормально. Ненормально думать, что мы знаем. Потому что тогда мы даже не попробуем разобраться по-настоящему.

"Nutrition: the Emperor has no clothes" by David Chapman.

"On the importance of staring directly into the sun" by Adam Mastroianni.

¶ 3

Дикие животные вынуждены фокусироваться сразу на многом. Погружаться во что-то одно (deep work) не для них. Надо быть начеку: увлечёшься поеданием травы — и тебя самого съедят. А вот человеку развитие общества и прогресс разрешили отключаться от раздражений. Можно выбрать один фокус и созерцать. А если научиться, то, вроде бы, можно даже отказаться от фокуса вовсе. В этом смысле многозадачность кажется шагом назад. Наша привилегия — возможность погрузиться, а не свайпать. Читать, а не скроллить. Наблюдать, а не просматривать. Кстати, нашёл эту мысль, листая твиттер, как животное.

Автор книги "Выгоревшее общество" так описывает этот парадокс:

Современное состояние нашего сознания — «гипервнимание». Это резкая смена фокуса между задачами и источниками информации, при которой восприятие становится фрагментированным и рассеянным. Возможно, каждому из нас знакомы использование телефона во время просмотра телевизора, бессознательное переключение между вкладками в браузере, разговор с человеком, который на самом деле не слушает. Переход к технологическому обществу достижений, сопровождающийся всё более интенсивным потоком стимулов и информации, загоняет людей всё глубже и глубже в дикость.

Ещё мысль. На первый взгляд кажется, что сесть на лужайке, размеренно подышать и послушать пение птиц — это единение с природой. Но выходит, что это, наоборот, отделение от природы, которой чужд такой созерцательный режим. Единением с ней было бы держать в уме десяток проблем и быть всё время начеку, особенно на лужайке.

Обзор книги "Burnout society" Byung-Chul Han.

¶ 4

Наблюдение на тему расцвета больших ИИ моделей типа Chat GPT. Несмотря на огромные скачки в области в последние 5-10 лет, всё это время продолжает подтверждаться гипотеза масштабирования (scaling hypothesis). Суть гипотезы в том, что способности ИИ моделей растут вместе с ростом трёх составляющих: 1) размера модели (грубо — количество нейронов), 2) объёма данных для обучения, 3) времени/ресурса вычислений. При малых значениях этих параметров — например, когда мало данных для обучения — модель умеет делать только простые предсказания в узкой области. При увеличении значений модель растёт качественно, то есть учится новым навыкам. Кажется удивительным, что эти улучшения не требуют изменения архитектуры, новых алгоритмов или понимания "что есть интеллект". Нужно только больше железа, энергии и данных. Типа "Некогда думать, трясти надо!".

ИИ-исследователь Gwern Branwen проводит параллель с ролью интуиции в науке:

Еще одна проблема [исследователей, не замечавших масштабирование] заключалась в том, что они повторяли ту же фундаментальную ошибку, что и я, полагая, что алгоритмы важнее вычислительных мощностей. Отчасти это происходило из-за искажения реального происхождения идей в научных публикациях — они не раскрывают правдивую историю того, откуда берутся идеи. Они предлагают красивую версию научного открытия, но не рассказывают, как это происходило на самом деле. Поэтому даже если исследователь осознаёт значимость метода проб и ошибок и вычислительных ресурсов на собственном опыте, он, скорее всего, думает: «Мне просто повезло. В серьезных лабораториях люди, наверное, делают открытия силой мысли и глубокого понимания». На самом же деле везде, куда бы вы ни посмотрели, вычислительные мощности, данные, счастливые случайности и интуиция играют огромную роль. Когда вы это осознаете, становится понятно, почему вычислительные ресурсы стоят на первом месте. Без них вы просто не сможете рассчитывать на интуицию.

Кажется, это знание может поменять отношение людей к интуиции. Если ты хорошо разобрался в предмете (много данных) и дал себе время подумать (большой вычислительный ресурс), то твоё недоказанное суждение (чуйка!) может оказаться лучше логически-строгого data-driven решения.

Часть видео-интервью с Gwern на эту тему.

¶ 5

В книге "Consciousness: Confessions of a Romantic Reductionist" Кристоф Кох делает попытку понять, что такое сознание. Основная загвоздка: все физические явления обычно редуцируемы: заглянул внутрь чего-нибудь, а оно устроено из более простых элементов. А сознание, напротив, кажется нередуцируемым: как бы мы ни углублялись в мозг, нет компонента, в котором сознание возникает явно. Это приводит Коха к идее о том, что сознание — фундаментальное свойство, присущее материи, как заряд или масса. Он дальше предполагает, что сознание эмерджентно, т.е. возникает постепенно, по мере увеличения числа точек в системе и связей между ними. Пример эмерждентного свойства — "мокрость" воды: вода становится мокрой, когда молекул много, а несколько молекул — не мокрые. Так и сознание постепенно проявляется в больших нейронных структурах: у таракана совсем немножко сознания, у собаки больше, у человека ещё больше.

Это любопытно рифмуется с гипотезой масштабирования в ИИ, которую я упоминал выше: при увеличении узлов системы, объема данных для обучения и ресурса для вычислений система становится умнее (сознательнее?) без внедрения каких-то алгоритмов.

¶ 6

Kanjun Qiu про то, что такое научное исследование (research):

Я неправильно понимала суть научных исследований большую часть своей жизни, и это мешало мне ими заниматься. Я думала, что научные открытия возникают из строгого следования научному методу, пока в какой-то момент не появится вдруг новое знание. [...] Теперь я поняла, что исследование — это побочный эффект, когда ты пытаешься в чём-то разобраться и доходишь до границы того, что известно человечеству. В этот момент не остаётся никого, кто мог бы дать тебе ответ, [...] и вот тогда ты начинаешь ставить эксперименты и формулировать гипотезы. Та самая формальная последовательность научного метода, которую нам преподают в школе — задать вопрос, сформулировать гипотезы, провести эксперименты, сделать выводы — это полезный инструмент, но он не отражает самого главного: настоящего желания узнать ответ!

Мне нравится этот простой и свежий взгляд: ты становишься исследователем, когда ты очень хочешь знать ответ, а готового ответа нет. И во многих других областях, мне кажется, сильно чего-то хотеть — важнее, чем владеть навыками. У успешных людей есть техники эффективности, но связывать их успехи с техниками — это рисование мишени вокруг отверстия от выстрела. Если скопировать технику, достичь того же результата не получится. Будет недоставать того "ХОЧУ", которое заставляет человека искать новые пути на постоянно меняющейся карте. У того, кто хочет в туалет, всё отлично с мотивацией, тайм-менеджментом, выходом из зоны комфорта и даже нетворкингом!

"Research as Understanding" by Kanjun Qiu.

¶ 7

Пол Грэм пишет про нравоучителей:

Когда в обществе возникают понятия ереси и догмы, догматичность начинает подменять собой добродетель. Ты можешь быть худшим человеком на свете, но если придерживаешься правил — ты лучше тех, кто этих правил не придерживается. Это делает догматичность очень привлекательной для дурных людей. Но чтобы она могла функционировать как замена добродетели, догматичность должна быть труднодостижимой. Если всё, что нужно — это надеть определённую одежду или не произносить какое-то слово, то все быстро это усваивают, и тогда единственный способ казаться добродетельнее других — это действительно быть добродетельным. Поверхностные, запутанные и постоянно меняющиеся правила идеологической правильности сделали её удобной подменой настоящей добродетели. В результате получается мир, в котором хорошие люди, не следящие за "моральной модой", подвергаются травле со стороны "правоверных", чьи настоящие качества могли бы вас напугать.

Все моральные нормы хорошие по определению. Дьявол кроется в их применении: "давайте защитим обиженного" или "давайте обидим обидчика" или "давайте обидим тех, кто не согласен". Эта статья Пола Грэма мне кажется удачной попыткой системно отличить плохие применения от хороших.

"The origins of wokeness" by Paul Graham

¶ 8

Gwern Branwen отвечает на вопрос о том, чем стоит заниматься сейчас, если полагать, что Artificial general intelligence (супер-ИИ, превосходящий человека во всём) появится на горизонте нескольких лет:

Если ты считаешь, что через несколько лет появится ИИ человеческого уровня (AGI), то необязательно всё реализовывать самому. Достаточно набросать, что именно ты хочешь, зачем это нужно и как это можно сделать. А потом просто подождать, когда появится более продвинутый ИИ, который всё это воплотит. Конечно, если нет какой-то очень веской причины делать это прямо сейчас и тратить на это драгоценное время. [...]

Вот какие у меня критерии, чем стоит заниматься. 1) То, что мне самому интересно делать, независимо от того, появится ли тот ИИ. 2) "Человеческая часть" большой задачи — желания, предпочтения, ценности — остальные части которой потом сможет взять на себя ИИ. 3) Эссе и записи о том, что пока ещё не описано, — чтобы будущие ИИ-версии меня самого могли этим воспользоваться. Если задача не относится ни к одной из этих трёх категорий, то я стараюсь за неё не браться.

Кажется, советы выглядят полезными даже без супер-ИИ на горизонте.

Часть видео-интервью с Gwern на эту тему.

¶ 9

Если повторять слово много раз, оно начинает терять смысл: на время перестаёшь понимать его значение, слышишь лишь набор звуков. Этот эффект называют семантическим насыщением (Есть ещё яркий вариант названия: "истечение смысла"). Эрик Хол заметил, что влияние ИИ на культуру становится похоже на этот эффект. После недавней "гиблификации" интернета, когда повсюду появились изображения, похожие на работы студии Гибли, оригиналы стали что-то терять в глазах ценителей. Побочный эффект ИИ-генерации смыслов в том, что пропадает смысл в культуре — заключает он.

Каждые выходные мои дети выбирают один фильм, который мы будем смотреть. И это всегда «Тоторо». Классика студии Гибли. Возможно, лучший их фильм. [...] В эти выходные я посмотрю фильм с ними — и почувствую, что он стал мне не так близок. Тоторо становится для меня просто ещё одним Гибли (Гибли Гибли Гибли Гибли Гибли).

Горечь статьи разбавляет комментарий под ней. Там про то, что фастфуд вначале тоже, якобы, грозил уничтожить высокую кухню. Но в итоге остался и фастфуд, и “мишленовские” рестораны. Мне ближе как раз такая точка зрения. Кажется, прогресс и внезапное изобилие чего-то всегда приводит к опасениям "где-то подвох". Но, может, подвоха и нет.

"Welcome to the semantic apocalypse" by Erik Hoel

¶ 10

В США есть неофициальный термин для чиновников-руководителей больших направлений: царь (czar/tsar). За последние 100 лет там было много разных царей, включая царя e-commerce, царя информации, царя еды, царя чтения и даже царя карпа (Asian carp czar). Слышу "Asian carp czar" и в голове играет "В синем море, в белой пене" из мультфильма Саакянца.

Список царей США.

Слышали шутку "Встань в угол и не думай о белом медведе"? Смысл в том, что если решишь о чём-то не думать, то станешь думать об этом ещё больше. Оказывается, белый медведь пришёл от Льва Толстого. Он в своих детских воспоминаниях описал задание, которое ему как-то дал старший брат: "Условия были, во-первых, стать в угол и не думать о белом медведе. Помню, как я становился в угол и старался, но никак не мог не думать о белом медведе". Затем, прочитав Толстого, психолог Дэниел Вегнер провёл такой же эксперимент среди студентов, и сделал тот же вывод — попытка подавления мысли только делает её более навязчивой. А Николай Кукушкин упоминает ещё одну часть этого известного эксперимента Вегнера:

Была ещё вторая менее популярная часть эксперимента с белым медведем. Отдельной группе участников дали немного другую задачу: каждый раз когда белый медведь приходит на ум, думать про красный фольксваген. Оказалось, что при таком "подавлении" мысль не становится навязчивой. Замещение одной мысли другой сработало.

Ну, а я теперь вот что думаю. Возможно, медведь из другой популярной шутки, (который шёл по лесу, увидел горящую машину, сел в неё и сгорел) на самом деле, горел в красном фольксвагене.

Статья Николая Кукушкина про "стирание" мысли о белом медведе.

¶ 2

Писателя Казуо Ишигуро спросили, что он посоветует начинающим писателям. Он ответил: "Ты должен ответить себе на вопрос: ты хочешь быть писателем или ты хочешь писать?". Я подумал, что разным своим проектам и начинаниям полезно задать такой вопрос. Я за это берусь, потому что хочу быть кем-то или потому что-то хочу это делать? Хочу самой работы или плодов этой работы в виде награды, статуса и лайков? Подражаю какой-то ролевой модели или делаю, что нравится? "Кем я буду, когда вырасту?" или "Что я буду делать, когда вырасту?"

Текст интервью с Казуо Ишигуро

¶ 3

Замечательный пример доклада-мемо (memorandum, memo) — аналитическая записка Дурново́ . В 1914 году член госсовета Российской империи Пётр Дурново написал для императора записку, в которой предостерегал от союза с Англией в надвигающейся мировой войне. Первая особенность его доклада — удивительно точные предсказания. Дурново не просто предвидел войну, он описал как сложатся коалиции стран, включая стратегии сравнительно незаметных участниц типа Румынии, Болгарии и Греции. Описал ущерб, который война принесёт России в случае победы или поражения. Точно предсказал этапы возникновения и развития революции на фоне военной разрухи и смуты. Многие эксперты даже считали записку подделкой, написанной уже после войны, — настолько точно Дурново предсказал ход вещей.

Вторая особенность — форма и качество текста. У Дурново, очевидно, есть глубокие знания, сложные цепочки рассуждений и выводы. Но это всё нужно ещё упаковать в формат, понятный тому, кто будет принимать решения. Я сам писал подобные документы для принятия решений гораздо меньшего уровня, но и там это очень сложно. Даже когда уже все знания есть, а решение представляется предельно понятным, написать 1-2 страницы мемо для команды может вылиться в несколько дней тяжелой работы. В записке Дурново очень стройная структура, всё понятно даже человеку несведущему, а слог лёгкий и приятный.

Текст записки Дурново

¶ 4

Благодетели учёного: глупость, заносчивость, лень, беззаботность, юмор и любовь к красоте и протесту. Выглядит как хороший список благодетелей предпринимателя, инженера и просто любопытного человека. Здорово написано:

... Для учёного быть глупым — значит осознавать, что он ничего ни о чём не знает, а шансы что-то понять минимальны. Осознав в себе эту глупость, надо быть по-настоящему надменным, чтобы представить, что сможешь сделать открытие, не говоря уже о том, чтобы решить какую-нибудь проблему, которую люди не могли решить веками. И именно так учёному и следует делать — дополнять свою глупость безмерной заносчивостью.

Эссе про благодетели учёного на slimemoldtimemold.com.

¶ 5

В веб-разработке все знают параметр font-size в стилях страницы. Он задаёт размер шрифта. Однако если я задам для текста "font-size: 14px;", то 14 пикселей не станут высотой ни заглавной буквы, ни строчной. Оказывается, font-size в вебе — это высота типографских литер, металлических блоков с буквами, которые когда-то давно собирали для печати страниц текста на бумаге. Полный набор таких литер для одного шрифта назывался гарнитурой (font), а font-size означал высоту этих металлических блоков. Именно блоков, а не самих букв — буква заключена в блок и размер её меньше. Поэтому мои 14 пикселей даже не окажутся на экране — они задают высоту несуществующей виртуальной единицы! Заглавная буква у меня при этом может оказаться, например, 12 пикселей, а строчная — 8. Более того, если я решу поменять семейство шрифта, в новом шрифте мой font-size в 14 пикселей может оказаться высотой 11 пикселей, или 10. Дошло до того, что появился костыль свойство font-size-adjust, которое помогает избежать прыжка размеров при совмещении двух разных шрифтов на одной странице. Вот это легаси — наследие печатного станка Гутенберга из 15 века.

Статья про font-size на phloe.co

¶ 6

Зачем люди строят космические корабли? Бывший директор NASA Майкл Гриффин заметил, что NASA пользуется огромной популярностью и одобрением граждан США, но при этом опросы показывают, что граждане толком не знают почему они одобряют NASA больше, чем какие-либо другие госпрограммы. Не знают, что делает NASA кроме "что-то про космос". И не знают, какие у NASA планы. Безоговорочно поддерживают. Развивая мысль, Майкл Гриффин приходит к сравнению, которое мне показалось очень ярким: космическая программа сегодня делает для людей то, что раньше делало строительство больших кафедральных соборов:

Что получили строители соборов? Не просто большие здания. Они дали толчок гражданскому строительству, которое необходимо обществу, если оно хочет иметь что-то серьезнее, чем крыши из соломы. Они научились возводить высокие стены, которые стоят прямо. Они научились делать огромные крыши. Они узнали, какие материалы для этого подходят. И попутно они создали решения и стимулы, которые позволили построить не только соборы, а, в сущности, Западную цивилизацию.

Я думаю, что продукты космической программы — это современные соборы. Есть много известных "побочных эффектов" (spin-offs) освоения космоса: тефлон, липучки Velcro, более совершенные кардиомониторы, снижение цен на жидкий кислород для больниц и пр. Да, это реальные выгоды. Но есть и побочные эффекты более крупного масштаба. Например, экономическое значение технических вызовов космической программы. Любой, кто хочет собирать космические аппараты или даже просто поставлять гайки, болты и винты для космической отрасли, должен работать с более высокой точностью, чем это требовалось человечеству до появления космической индустрии. И этот факт оказывает влияние на всю промышленность. Ну, и конечно, научные открытия, подталкиваемые изучением космоса. Какова ценность этого? Я не могу её подсчитать, но я знаю, что она существует.

Текст речи Michael Griffin “Space Exploration: Real Reasons and Acceptable Reasons”

¶ 7

Планарии — маленькие плоские черви, похожие на курсор с глазами. Они замечательны неуёмной регенерацией: если червя разделить на 250 частей, каждая из них вырастит недостающее и станет самостоятельным червём. Наблюдая за ними, биолог Майкл Левин с коллегами задумались о том, достаточно ли для роста организма информации в генах? Как небольшая клетка в середине разрезанного червя знает, что ей стоит начать растить по соседству — хвост или голову? Ответ Левина в том, что клетка имеет электрический потенциал и по разнице потенциалов с соседями может понимать, в какой стороне голова, а в какой — хвост. А что если сообщить клеткам какой-то электрический сигнал извне и перенастроить эту карту потенциалов? Оказалось, что можно вырастить живого двуглавого червя без изменения его генов! Как знать, может недалеко и до электролечения и выращивания органов человека?

Эксперименты лаборатории Майкла Левина включают успешное выращивание глаза на хвосте лягушки, которым она даже может видеть. Мечта Левина — сделать "анатомический компилятор", который поможет сформировать конкретную последовательность электрических сигналов для выращивания желаемого органа.

Статья про революцию в биологии на bitsofwonder.co

¶ 8

В 1966 году поставили забавный эксперимент, показывающий как доверие медсестёр к врачам может выйти боком. Теперь буду параноик более внимателен на процедурах в больницах.

Экспериментатор звонил в больничную палату по внутренней связи, представлялся доктором Смитом и просил медсестру ввести большую дозу Астротена пациенту. Медсёстры не знали доктора Смита (потому что его выдумали исследователи). Они никогда не вводили Астротен (потому что это тоже выдуманный препарат). Они не должны были принимать указания по телефону. А этикетка подложенной ампулы Астротена сообщала, что запрошенная доктором доза вдвое превышает дневную норму. 21 из 22 "подопытных" медсестер последовали указаниям доктора Смита, их остановили уже перед введением препарата пациенту.

Заметка и ссылки на исследование на experimental-history.com

¶ 9

Для радиоприёмника, как и других созданных человеком систем, есть готовый и доступный "язык" — схемы, формулы, формальное описание принципов работы, обозначения микросхем и прочее. Инженер — носитель этого языка — может легко разобраться, как устроен конкретный прибор и как его починить, если что-то сломалось. С другой стороны, сложные системы, созданные природой, не несут вместе с собой формального языка, и люди вынуждены изучать их наощупь. Эта простая мысль — в основе шутливой работы "Может ли биолог починить радиоприёмник". Автор описывает, как гипотетический исследователь-биолог чинил бы радиоприёмник с использованием подхода "наощупь":

С чего мы начнём? Сначала мы заручимся финансовой поддержкой, чтобы купить большое количество одинаковых работающих приёмников и сравнить их с тем, который сломан. После нескольких попыток мы научимся вскрывать приёмники и найдем там объекты разной формы, размера и цвета. Мы опишем и классифицируем их в семейства на основе их внешнего вида. Мы опишем семейство металлических прямоугольных объектов, семейство ярких круглых объектов с двумя ножками, семейство цилиндрических объектов с тремя ножками и так далее. Так как объекты окрашены в разные цвета, мы будем изучать влияние смены цвета на качество звука. Хотя перекраска объектов будет иметь слабый эффект (музыка слышна, но тренированное ухо некоторых исследователей заметит некоторые искажения), этот подход произведет много публикаций и приведет к оживленным дискуссиям.

Ю.Лазебник. "Может ли биолог починить радиоприёмник".

¶ 10

В прошлом году я был в национальном музее в Кейптауне. Хорошо запомнил один экспонат — чучело кота с необитаемого острова Марион. Исследователи в середине 20 века привезли с собой на остров Марион пять домашних котов. Коты расплодились до нескольких тысяч и стали истреблять местных птиц. Всё дошло до того, что на остров посылали специальные отряды охотиться (!) на котов.

А сегодня вот прочитал новость, что сейчас на Марионе беда с завезёнными мышами, которые съедают яйца птиц. Истребили котов — мыши пируют. Я погуглил — и там это уже не первая глава истории с мышами, котами и птицами. Примерная хронология такая:

• В 18-19 веке охотники на морских котиков завезли на остров мышей. Мыши расплодились.

• В 1949 исследователи заметили, что мыши разоряли гнёзда птиц, да ещё и мешали учёным на станции. Для борьбы с мышами завезли пять домашних котов. Коты расплодились.

• В 1965 проверили — коты сдерживают мышей. Коты молодцы.

• В 1974 заметили, что коты разоряют гнёзда птиц. Ну вот. Начали охоту на котов.

• К 1991 году успешно очистили остров от котов.

• 1991–2025 — мыши расплодились. Да что ты будешь делать. Надеюсь, хотя бы не станут решать проблему котами.

¶ 1

Тонкая грань между коллективной мудростью и коллективным невежеством на примере вопроса: можно ли мыть тостер в посудомоечной машине. Оттуда:

Дорогой читатель! Перед тем как рассказать историю про тостер, я должен сказать, что я учитель физики. Я кое-что понимаю в электричестве, и часть этих знаний далась мне непросто. К примеру, в свой первый учительский год на первом же уроке по электричеству я погрузил включенный фен в аквариум с водой. Я хотел продемонстрировать ученикам, как работают автоматические выключатели, защищающие от короткого замыкания. Фен продолжил работать под водой. И работал весь день.

¶ 2

Помню свои эмоции, когда в универе написал программу-вирус, копирующую саму себя. У меня тут не просто ремесло "Делай по книжке и получится программа", а искусство! Не просто инструкции машине, а вложенный мир, где инструкции могут менять себя или соседние программы. "Stay in Wonderland, and I show you how deep the rabbit hole goes." С подобным ощущением я читал статьи Вольфрама про клеточные автоматы. И похожие чувства от этой работы: Computational Life: How Well-formed, Self-replicating Programs Emerge from Simple Interaction. Исследователи сгенерировали тысячи случайных примитивных программок типа "добавь в эту ячейку единицу, а соседнюю ячейку выведи" и разрешили каждой программе менять окружающую память, где лежат другие программки. И в этом "супе" начали появляться программы, которые воспроизводили сами себя (репликаторы) и заполняли собой всё вокруг. Появилась жизнь.

¶ 3

Карл Поппер описывает любопытный парадокс рационализма в своей книге "Открытое общество". Если рационалист решает отвергать любое допущение, не опирающееся на доказательство или опыт, то он сталкивается с противоречием. Ведь этот выбор отвергать подобные допущения сам не опирается на доказательства, и, следовательно, должен быть отвергнут. В итоге такой прямолинейный рационализм — у Поппера “uncritical or comprehensive rationalism”— отменяет сам себя, выбор рациональной позиции нерационален. В противовес ему концепция, которую Поппер называет "критическим рационализмом", принимает, что рационализм начинается с иррационального акта веры. Веры в разум. То есть первое решение "быть рациональным" рациональный человек принимает иррационально, и это ок.

¶ 4

Среди разных блог-платформ сегодня нет подходящей для эссе. Такой, чтобы трепетно заботилась о тексте и опыте спокойного чтения. Куда читатель смог бы приходить, как в тихий уголок, где в тишине можно почитать новые эссе от писателей, на которых подписан. Где писатель смог бы размещать тексты, не опасаясь, что во время чтения в них появится реклама или баннер "Советуем ещё прочитать вот это". Такую платформу заменяют Фейсбук, Сабстек, Телеграм, Медиум. Но на всех этих платформах текст — бедный родственник, он там для реакций, донатов и рекламы. Фантазируя о таком недостающем продукте, я даже придумал для него домен — essa.is с отсылкой к "Опытам" Монтеня. Но продукта всё нет. А вот недавно увидел что-то подобное — https://article.app/ . Дизайн нравится. Тексту там тоже не хватает заботы, на мой взгляд, но всё же это что-то.

¶ 5

Анатомия человека — карта без белых пятен, в ней всё изучено. Что-то вроде схемы устройства двигателя, только вместо деталей кости, связки, мышцы и нервы. Набор этих деталей у всех людей один и тот же. Биологи давно его изучили, назвали каждую косточку, нарисовали атлас и составили алфавитный указатель. Так я думал. Но оказывается, всё не так! Учёные, врачи и даже студенты-медики часто находят отклонения от стандартного набора у разных людей: "… почти у каждого человека есть по крайней мере одно отклонение, достаточно заметное, чтобы его обнаружил студент-медик”. Причем весьма заметные отклонения — например, у одного трупа может быть определённый нерв, а другого — нет. Более того, продолжают находить даже новые части, ещё не нанесённые на атлас. We’re not going to run out of new anatomy anytime soon.

¶ 6

Неожиданный вопрос: хорошо ли то, что людей убеждают рациональные аргументы? Ну, в целом — да, хорошо. Но интересны размышления "против", например: “The ability to shape people’s beliefs is highly valuable. To the extent that people are persuaded by rational arguments, this makes rational arguments highly valuable. We should therefore expect a market for rational arguments, one in which consumers are willing to “buy” rational arguments that support their favoured conclusions, and intellectuals, writers, journalists, and so on create whatever arguments generate the greatest profits.”

¶ 7

Ник Кейв пишет, что находит вдохновение только в строгих рамках. Буквально — в "рабочие часы": "As a songwriter, I am primarily concerned with artistic freedom - freedom of expression, belief and imagination. What it takes for me to pursue these freedoms - to feel genuinely free - has paradoxically something to do with order and constraint. I feel free to express myself and can access a greater quality of imagination when certain restrictions are put into place. As many of you know, I observe specific protocols to open the creative mind - I sit at a desk in my office and write, working exclusively between 9am and 5pm. Within ‘office hours’ I find my mind becomes genuinely free, and I feel a creativity that is qualitatively richer than anything I may experience outside of this time, in the disorder and distraction of the ordinary world. For me, what must appear to some as forced labour is where all the imaginative mischief, beauty, and love are free to happen. Freedom finds itself in captivity. Disorder, randomness, chaos and anarchy are where the imagination goes to die, or so I’ve found." Мне кажется, это немного перекликается с дизайном: хороший дизайн невозможен без ограничений и проблем. Если можно сделать как угодно, получится плохо.

¶ 8

Представьте, что вы учите английский и вам встречается слово "queue". Как вы его произнесёте, если до этого его не встречали? Пока меня не поправили, я говорил что-то вроде "кьюуи" (правильно произносится "кью"). И в обратную сторону: представьте, что собеседник говорит вам "кью" — как вы его запишете, если не знаете этого слова? "Q"? "Kew"? Эта способность языка добавлять кручу-верчу-запутать-хочу между написанным и произнесённым называется орфографической глубиной. Глубокая орфография — это, например, русский, английский, французский и китайский. На этих языках научиться правильно писать и читать сложнее всего, надо запоминать сложные правила произнесения последовательности букв и исключения из них. Неглубокая орфография — например, итальянский. Я немного учу грузинский, и вот он в этой шкале где-то очень не глубоко. Выучив грузинский алфавит, можно произнести любое написанное слово без ошибок. В большинстве случаев можно даже на слух воспринять и записать. Удобно — услышал слово на улице, залез в словарь и нашёл перевод.

¶ 9

How my views on AI changed every year 2017-2024 by Alexey Guzey: "I was originally going to write a piece called “why i no longer believe in AGI” but then I remembered that I changed my mind on this like 5 times and I have no idea what I’ll believe in another few years. So I figured it would be more honest to just write up the entire timeline and then append future changes to it." Заметил, что такая интеллектуальная честность ("я знаю только то, что я ничего не знаю") хорошо пробуждает любопытство. Приятно иметь дело с тем, кто сомневается.

¶ 10

Есть такие причудливые рыбы — глубоководные удильщики. Кроме необычного внешнего вида и среды обитания, у них ещё очень странные половые отношения. Из Википедии: "Приблизившись к самке, самец ... прицепляется к боку самки своими острыми зубами. Вскоре он срастается с самкой губами и языком, а его челюсти, зубы, глаза и кишечник редуцируются так, что в конце концов он превращается в простой придаток, вырабатывающий сперму. Питание самца осуществляется за счёт крови самки, так как их кровеносные сосуды тоже срастаются. На одной и той же самке может одновременно паразитировать до трёх самцов. Однажды прикрепившись, они полностью утрачивают самостоятельность. Биологическое значение этого явления, по-видимому, связано с облегчением нахождения полами друг друга во время размножения и с ограниченностью пищи на больших глубинах". То есть буквально — спермобак.

¶

Ничего не понимаю в робототехнике, но этот робот-осьминог меня завораживает. Надеюсь, в будущем за неправильную парковку машины будут увозить на штрафстоянку вот такими хваталками-щупальцами.

¶

В музыкальной школе у меня был предмет муз.литература. Название странное, но по сути это такая ЖЗЛ, только про композиторов: в основном, сухие факты типа когда родился Бах или где учились композиторы Сметана и Сковорода. В любом случае, я из этого предмета не запомнил ничего, кроме фамилий Сметаны и Сковороды. Возможно, я бы запомнил больше, если нам бы рассказывали про странности этих самых композиторов. А ведь они, конечно, были странными. А кто нет? Вот у Моцарта в семье, например, в шутку друг другу советовали лизать жопу.

¶

Вирусолог вводила сама себе штаммы кори и вирусного стоматита, чтобы подавить и затем удалить раковую опухоль. И у неё получилось.

¶

Есть знаменитый логический фокус "Пари Паскаля". Это расклад сочетаний двух переменных: "Есть бог или нет" и "Верить в него или не верить". Сводится к тому, что рациональнее верить, чем не верить. А вот похожее по форме, но полезнее по содержанию "Пари Руслана" про свободу воли: https://t.me/ruslanlearns/150. У пари Паскаля есть уязвимость: а что если бог один, а веришь ты в другого? Стало интересно взломать схему Руслана в каком-то схожем ключе. Но я не смог.

¶

Adam Mastroianni: “The greatest cost of authoritarian thinking ... is that it only ever leads us to ask, What should the all-powerful leader do? instead of What should I do? Перекликается с мыслью Карла Поппера про демократию: главный вопрос не "кто должен править", а "как этих правителей убирать и назначать новых".

¶

Талеб превратил черного лебедя в символ неожиданного "выброса", когда происходит то, чего никто не ждал. А вот другая птица, которая, к сожалению, не стала так популярна — аист с копьём в шее как символ внезапного свидетельства ошибочности твоей теории.

¶

Идея: Spaced repetition Tiktok. Что общего у техники запоминания всего "Spaced repetition" и Tiktok? Во-первых, механика: смотришь карточки и листаешь. Во-вторых, то, что у пользователя нет задачи выбора — алгоритмы решают, когда и что подсунуть. Но в Тиктоке, очевидно, есть важное отличие: он подсовывает новый и релевантный контент, тогда как приложения-запоминалки дают только повторять старое. А что если эту фичу Тиктока добавить в spaced repetition приложение, чтобы там было и повторение старого и изучение нового? Может получиться Spaced Repetition Learning — изучение интересной области с повторением того, что понравилось.

¶

Мысль про UX программных продуктов: интерактивность — плохой инструмент, к которому надо прибегать в последнюю очередь. Кнопки, выпадайки, навигация — зло. Цитата из статьи 2006 года: "... software that doesn’t learn from history dooms users to repeat it. And repeat it they will — tediously explaining their context, mouse click by mouse click, keystroke by keystroke, wasted hour by wasted hour. This is called interactivity […] The future will be context-sensitive. The future will not be interactive". Мысль про интерактивность как лишь один из видов контекста — очень удачная, по-моему. Полезно для дизайнеров интерфейсов и сегодня. А ещё интересно, куда за 20 лет после написания статьи пришёл автор: операционная система на листах бумаги, дополненная реальность и отрицание AI: https://worrydream.com/

¶

“If you make the reader click or do anything other than scroll, something spectacular has to happen” (из презентации) . Напомнило сайт "Do people scroll?" (остался только в архиве). А ещё, хотя к теме не относится, сразу вспомнил эти ужасные сайты с изменённым поведением скролла: ускоренный, замедленный, скролл страницами, скрол вправо вместо вниз, разные анимации при скролле. Считаю, что менять поведение скролла — почти всегда плохо.

¶

Казалось бы, написать программу-калькулятор очень просто — вызываешь уже готовые функции языка программирования для введённых чисел. А оказывается там много неочевидных сложностей и хитрых решений: https://x.com/chadnauseam/status/1890889465322786878/. История, на самом деле, не только про алгебру и инженерные решения. Она ещё и про Product management — "давайте не решать абстрактную проблему идеально, а решать реальную проблему для 99% кейсов и забивать на остальные".